دوره راهنمای جامع شبکه‌های عصبی ترنسفورمر همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهنمای جامع شبکه‌های عصبی ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی و یادگیری عمیق
• 2. مبانی شبکه‌های عصبی پرسپترون چندلایه
• 3. توابع فعال‌سازی در شبکه‌های عصبی
• 4. بهینه‌سازی در شبکه‌های عصبی: گرادیان کاهشی
• 5. پس‌انتشار خطا (Backpropagation)
• 6. تنظیم پارامترهای شبکه: نرخ یادگیری و بایاس
• 7. روش‌های تنظیم نرخ یادگیری
• 8. تنظیم‌کننده‌ها (Regularization) برای جلوگیری از بیش‌برازش
• 9. روش‌های متداول تنظیم‌کننده: L1 و L2
• 10. خروجی‌دهی (Dropout) به عنوان یک تکنیک تنظیم‌کننده
• 11. معماری‌های شبکه‌های عصبی کانولوشنال (CNN)
• 12. کاربرد CNN در پردازش تصویر
• 13. مبانی شبکه‌های عصبی بازگشتی (RNN)
• 14. کاربرد RNN در پردازش زبان طبیعی
• 15. محدودیت‌های RNN: مشکل گرادیان محوشونده/منفجر شونده
• 16. شبکه‌های حافظه طولانی کوتاه‌مدت (LSTM)
• 17. شبکه‌های واحد بازگشتی (GRU)
• 18. مبانی مدل‌های ترنسفورمر
• 19. مکانیزم توجه (Attention Mechanism)
• 20. توجه خودی (Self-Attention)
• 21. توجه چندسر (Multi-Head Attention)
• 22. رمزگذار-رمزگشا (Encoder-Decoder) در ترنسفورمرها
• 23. جایگذاری کلمات (Word Embeddings)
• 24. روش‌های جایگذاری کلمات: Word2Vec و GloVe
• 25. ترنسفورمرهای مبتنی بر رمزگذار (Encoder-only Transformers)
• 26. مدل BERT: پیش‌زمینه و کاربردها
• 27. ترنسفورمرهای مبتنی بر رمزگشا (Decoder-only Transformers)
• 28. مدل GPT: پیش‌زمینه و کاربردها
• 29. مدل‌های ترنسفورمرهای رمزگذار-رمزگشا
• 30. مدل T5: Text-to-Text Transfer Transformer
• 31. تنظیم دقیق (Fine-tuning) مدل‌های ترنسفورمر
• 32. تنظیم دقیق برای وظایف طبقه‌بندی متن
• 33. تنظیم دقیق برای وظایف تشخیص موجودیت نام‌گذاری شده (NER)
• 34. تنظیم دقیق برای وظایف ترجمه ماشینی
• 35. تنظیم دقیق برای وظایف خلاصه‌سازی متن
• 36. تنظیم دقیق برای وظایف پرسش و پاسخ
• 37. معماری‌های پیشرفته ترنسفورمر
• 38. ترنسفورمرهای کارآمد (Efficient Transformers)
• 39. ترنسفورمرهای مبتنی بر گراف
• 40. کاربردهای ترنسفورمرها در پردازش زبان طبیعی
• 41. تحلیل احساسات با استفاده از ترنسفورمرها
• 42. شناسایی موضوع با استفاده از ترنسفورمرها
• 43. تولید متن با استفاده از ترنسفورمرها
• 44. ترجمه ماشینی با ترنسفورمرها
• 45. تولید گفتار با استفاده از ترنسفورمرها
• 46. پردازش تصویر با ترنسفورمرها
• 47. کاربردهای ترنسفورمرها در بینایی ماشین
• 48. ترنسفورمرهای بصری (Vision Transformers - ViT)
• 49. شبکه‌های عصبی گراف (GNNs) برای داده‌های ساختاریافته
• 50. مبانی یادگیری انتقالی (Transfer Learning)
• 51. استفاده از مدل‌های از پیش آموزش‌دیده
• 52. روش‌های پیش‌آموزش (Pre-training) برای ترنسفورمرها
• 53. آموزش خودران (Self-supervised Learning)
• 54. آموزش نیمه‌نظارتی (Semi-supervised Learning)
• 55. آموزش تقویتی (Reinforcement Learning) در ترنسفورمرها
• 56. ارزیابی مدل‌های ترنسفورمر
• 57. معیارهای ارزیابی برای وظایف NLP
• 58. معیارهای ارزیابی برای وظایف بینایی ماشین
• 59. کتابخانه‌ها و فریم‌ورک‌های مورد استفاده
• 60. TensorFlow و Keras برای ترنسفورمرها
• 61. PyTorch برای ترنسفورمرها
• 62. کتابخانه Hugging Face Transformers
• 63. پیاده‌سازی ترنسفورمرها از ابتدا
• 64. اصول مهندسی ویژگی (Feature Engineering) در NLP
• 65. پیش‌پردازش متن: توکن‌سازی و پاکسازی
• 66. روش‌های مدیریت داده‌های حجیم
• 67. بهینه‌سازی حافظه و محاسبات
• 68. استفاده از واحدهای پردازش گرافیکی (GPU)
• 69. موازی‌سازی و توزیع آموزش
• 70. ملاحظات اخلاقی در استفاده از هوش مصنوعی
• 71. سوگیری در مدل‌های زبانی
• 72. حفظ حریم خصوصی در داده‌های آموزشی
• 73. شفافیت و قابلیت تفسیرپذیری مدل‌ها
• 74. مباحث پیشرفته در معماری ترنسفورمر
• 75. مدل‌های زبانی بزرگ (LLMs)
• 76. معماری‌های مبتنی بر توجه خطی
• 77. ترنسفورمرهای قابل‌تفسیر
• 78. تکنیک‌های کاهش ابعاد برای ترنسفورمرها
• 79. ترنسفورمرهای مبتنی بر حافظه
• 80. ترنسفورمرهای چندوجهی (Multimodal Transformers)
• 81. ترنسفورمرها برای داده‌های سری زمانی
• 82. ترنسفورمرها در رباتیک
• 83. ترنسفورمرها در علوم زیستی
• 84. کاربردهای صنعتی ترنسفورمرها
• 85. نکات و ترفندهای عملی برای استفاده از ترنسفورمرها
• 86. اشکال‌زدایی (Debugging) مدل‌های ترنسفورمر
• 87. نظارت بر آموزش و ارزیابی مداوم
• 88. مقایسه ترنسفورمرها با سایر معماری‌های یادگیری عمیق
• 89. آیندهٔ پژوهش در حوزه ترنسفورمرها
• 90. رویکردهای نوآورانه در معماری ترنسفورمر
• 91. تکنیک‌های پیشرفته تنظیم دقیق
• 92. ترنسفورمرها برای زبان‌های کم‌منبع
• 93. کاربرد ترنسفورمرها در آموزش زبان
• 94. ارائهٔ پروژه با استفاده از ترنسفورمرها
• 95. اصول مستندسازی و گزارش‌دهی علمی
• 96. مبانی شبکه‌های عصبی گراف (GNNs)
• 97. کاربرد GNNs در شبکه‌های اجتماعی
• 98. مبانی شبکه‌های عصبی پیش‌بین (Predictive Networks)
• 99. شبکه‌های عصبی برای پیش‌بینی سری‌های زمانی
• 100. مبانی یادگیری انتقالی برای وظایف مرتبط با متن