دوره ترنسفورمرها: از مبانی تا کاربرد عملی همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترنسفورمرها: از مبانی تا کاربرد عملی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مبانی شبکه‌های عصبی و یادگیری عمیق
• 2. معماری ترنسفورمر: نگاه کلی
• 3. مکانیسم توجه (Attention Mechanism)
• 4. خودتوجهی (Self-Attention)
• 5. توجه چندسر (Multi-Head Attention)
• 6. کدگذار ترنسفورمر (Transformer Encoder)
• 7. رمزگشا ترنسفورمر (Transformer Decoder)
• 8. فرآیند رمزگذاری-رمزگشایی (Encoder-Decoder Process)
• 9. تعبیه‌ها (Embeddings) در ترنسفورمرها
• 10. تعبیه‌های موقعیتی (Positional Embeddings)
• 11. تعبیه‌های واژگانی (Word Embeddings)
• 12. تعبیه‌های سِمانتیکی (Semantic Embeddings)
• 13. شبکه‌های عصبی بازگشتی (RNNs) برای مقایسه
• 14. شبکه‌های حافظه طولانی کوتاه-مدت (LSTMs) برای مقایسه
• 15. شبکه‌های حافظه کوتاه-مدت (GRUs) برای مقایسه
• 16. مزایای ترنسفورمر نسبت به RNNs و LSTMs
• 17. معماری‌های مبتنی بر ترنسفورمر
• 18. BERT: پیش‌بینی کلمه و جمله‌بندی
• 19. GPT: تولید متن
• 20. ترنسفورمرهای مبتنی بر رمزگذار (Encoder-only Transformers)
• 21. ترنسفورمرهای مبتنی بر رمزگشا (Decoder-only Transformers)
• 22. ترنسفورمرهای رمزگذار-رمزگشا (Encoder-Decoder Transformers)
• 23. کاربرد ترنسفورمرها در پردازش زبان طبیعی (NLP)
• 24. ترجمه ماشینی با ترنسفورمرها
• 25. خلاصه‌سازی متن با ترنسفورمرها
• 26. تولید متن خلاقانه با ترنسفورمرها
• 27. پاسخ به سوالات با ترنسفورمرها
• 28. تشخیص احساسات با ترنسفورمرها
• 29. تحلیل معنایی جملات با ترنسفورمرها
• 30. تشخیص موجودیت‌های نام‌دار (NER)
• 31. دسته‌بندی متن با ترنسفورمرها
• 32. تولید کد با ترنسفورمرها
• 33. کاربرد ترنسفورمرها در بینایی ماشین (Computer Vision)
• 34. Vision Transformer (ViT)
• 35. ترنسفورمرهای مبتنی بر تصویر
• 36. طبقه‌بندی تصاویر با ترنسفورمرها
• 37. تشخیص اشیاء با ترنسفورمرها
• 38. تقسیم‌بندی تصاویر با ترنسفورمرها
• 39. تولید تصویر با ترنسفورمرها
• 40. کاربرد ترنسفورمرها در پردازش صوت
• 41. تشخیص گفتار با ترنسفورمرها
• 42. تولید صوت با ترنسفورمرها
• 43. ترنسفورمرها در حوزه‌های دیگر
• 44. ترنسفورمرها در bioinformatics
• 45. ترنسفورمرها در سیستم‌های توصیه‌گر
• 46. ترنسفورمرها در تحلیل داده‌های سری زمانی
• 47. آموزش ترنسفورمرها
• 48. مجموعه‌داده‌های مناسب برای آموزش
• 49. پیش‌پردازش داده‌ها
• 50. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 51. تکنیک‌های تنظیم ابرپارامترها
• 52. بهینه‌سازی مدل‌های ترنسفورمر
• 53. کاهش ابعاد در ترنسفورمرها
• 54. کوچک‌سازی مدل‌های ترنسفورمر (Model Compression)
• 55. تقطیر دانش (Knowledge Distillation)
• 56. هرس کردن (Pruning)
• 57. کوانتیزاسیون (Quantization)
• 58. استفاده از مدل‌های از پیش آموزش‌دیده (Pre-trained Models)
• 59. Fine-tuning مدل‌های ترنسفورمر
• 60. تنظیم دقیق برای وظایف خاص NLP
• 61. تنظیم دقیق برای وظایف خاص بینایی ماشین
• 62. ملاحظات اخلاقی در استفاده از ترنسفورمرها
• 63. سوگیری در مدل‌های ترنسفورمر
• 64. حفظ حریم خصوصی در داده‌های آموزشی
• 65. مسئولیت‌پذیری در توسعه مدل‌ها
• 66. محدودیت‌های ترنسفورمرها
• 67. هزینه محاسباتی بالا
• 68. نیاز به داده‌های زیاد
• 69. تفسیرپذیری مدل‌ها
• 70. مباحث پیشرفته در معماری ترنسفورمر
• 71. ترنسفورمرهای کارآمد (Efficient Transformers)
• 72. Longformer
• 73. Reformer
• 74. Performer
• 75. ترنسفورمرهای گرافی (Graph Transformers)
• 76. ترنسفورمرها برای داده‌های ساختاریافته
• 77. ترنسفورمرهای مولتی‌مودال (Multimodal Transformers)
• 78. ترکیب متن و تصویر
• 79. ترکیب متن و صدا
• 80. ترکیب متن و داده‌های سری زمانی
• 81. ترنسفورمرها در یادگیری تقویتی
• 82. طراحی معماری‌های سفارشی ترنسفورمر
• 83. بهبود مکانیسم توجه
• 84. روش‌های جدید تعبیه‌سازی
• 85. معماری‌های ترکیبی
• 86. روش‌های ارزیابی مدل‌های ترنسفورمر
• 87. معیارهای ارزیابی در NLP
• 88. معیارهای ارزیابی در بینایی ماشین
• 89. ارزیابی مدل‌های مولتی‌مودال
• 90. پروژه‌های عملی با ترنسفورمرها
• 91. ساخت یک سیستم ترجمه ماشینی ساده
• 92. پیاده‌سازی یک مدل خلاصه‌سازی متن
• 93. توسعه یک مدل تشخیص احساسات
• 94. ساخت یک مدل تولید کننده شعر
• 95. کاربرد ترنسفورمرها در تحلیل متون تاریخی
• 96. کاربرد ترنسفورمرها در تحلیل متون دینی (با رویکرد علمی و تفسیری)
• 97. کاربرد ترنسفورمرها در تحلیل داده‌های اقتصادی (با رویکرد مقرراتی)
• 98. کاربرد ترنسفورمرها در تحلیل داده‌های پزشکی (با رعایت پروتکل‌های وزارت بهداشت)
• 99. آینده ترنسفورمرها و جهت‌گیری‌های تحقیقاتی
• 100. ترنسفورمرهای خود-نظارتی (Self-supervised Transformers)