فلش‌کارت‌های آموزشی ترنسفورمرها: انقلابی در مدل‌های زبانی بزرگ

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب ترنسفورمرها: انقلابی در مدل‌های زبانی بزرگ

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر ترنسفورمرها
• 2. تاریخچه مدل‌های زبانی
• 3. نیاز به مدل‌های زبانی بزرگ
• 4. معرفی معماری ترنسفورمر
• 5. اجزای کلیدی ترنسفورمر
• 6. رمزگذار (Encoder)
• 7. رمزگشا (Decoder)
• 8. مکانیزم توجه (Attention Mechanism)
• 9. توجه خودی (Self-Attention)
• 10. توجه چند سر (Multi-Head Attention)
• 11. موقعیت‌یابی صوری (Positional Encoding)
• 12. لایه‌های Feed-Forward
• 13. اتصالات باقی‌مانده (Residual Connections)
• 14. نرمال‌سازی لایه (Layer Normalization)
• 15. مقایسه با RNN و LSTM
• 16. مزایای ترنسفورمرها
• 17. معایب ترنسفورمرها
• 18. کاربردهای ترنسفورمرها
• 19. ترجمه ماشینی
• 20. خلاصه‌سازی متن
• 21. تولید متن
• 22. پاسخ به سوال
• 23. تحلیل احساسات
• 24. تشخیص موجودیت نام‌گذاری شده (NER)
• 25. مدل‌سازی زبان
• 26. پیش‌بینی کلمه بعدی
• 27. مدل‌های زبانی بزرگ (LLMs)
• 28. معماری‌های معروف ترنسفورمر
• 29. BERT
• 30. GPT (Generative Pre-trained Transformer)
• 31. T5 (Text-to-Text Transfer Transformer)
• 32. RoBERTa
• 33. XLNet
• 34. Transformer-XL
• 35. Reformer
• 36. Longformer
• 37. Performer
• 38. ترنسفورمرهای مبتنی بر توجه خطی
• 39. آموزش مدل‌های ترنسفورمر
• 40. مجموعه داده‌های آموزشی
• 41. پیش‌پردازش داده‌ها
• 42. توکن‌سازی (Tokenization)
• 43. ایجاد واژگان (Vocabulary)
• 44. تنظیمات هایپرپارامتر (Hyperparameter Tuning)
• 45. بهینه‌سازها (Optimizers)
• 46. نرخ یادگیری (Learning Rate)
• 47. اندازه بچ (Batch Size)
• 48. تعداد دوره‌های آموزش (Epochs)
• 49. تنظیمات توجه (Attention Settings)
• 50. تنظیمات لایه‌های Feed-Forward
• 51. تنظیمات نرمال‌سازی لایه
• 52. تنظیمات اتصالات باقی‌مانده
• 53. تنظیمات موقعیت‌یابی صوری
• 54. تنظیمات رمزگذار و رمزگشا
• 55. تنظیمات مکانیزم توجه
• 56. تنظیمات توجه چند سر
• 57. تنظیمات توجه خودی
• 58. تنظیمات ترنسفورمرهای خطی
• 59. تنظیمات مدل‌های زبانی بزرگ
• 60. ارزیابی مدل‌های ترنسفورمر
• 61. معیارهای ارزیابی
• 62. Perplexity
• 63. BLEU
• 64. ROUGE
• 65. METEOR
• 66. GLUE (General Language Understanding Evaluation)
• 67. SuperGLUE
• 68. GEM (Generation Evaluation Metrics)
• 69. تنظیم دقیق (Fine-tuning) مدل‌های ترنسفورمر
• 70. تنظیم دقیق برای وظایف خاص
• 71. تنظیم دقیق برای ترجمه ماشینی
• 72. تنظیم دقیق برای خلاصه‌سازی متن
• 73. تنظیم دقیق برای تولید متن
• 74. تنظیم دقیق برای پاسخ به سوال
• 75. تنظیم دقیق برای تحلیل احساسات
• 76. تنظیم دقیق برای NER
• 77. تنظیم دقیق برای مدل‌سازی زبان
• 78. تنظیم دقیق برای وظایف چند زبانه
• 79. تنظیم دقیق برای وظایف با داده‌های کم (Few-shot learning)
• 80. تنظیم دقیق برای وظایف با داده‌های صفر (Zero-shot learning)
• 81. روش‌های پیشرفته در ترنسفورمرها
• 82. انتقال یادگیری (Transfer Learning)
• 83. یادگیری تقویتی (Reinforcement Learning) با ترنسفورمرها
• 84. تولید متن خلاقانه
• 85. تولید شعر
• 86. تولید داستان
• 87. تولید دیالوگ
• 88. تولید کد
• 89. ترنسفورمرها در پردازش تصویر
• 90. Vision Transformer (ViT)
• 91. معماری‌های ترنسفورمر برای تصویر
• 92. کاربردهای ترنسفورمر در تصویر
• 93. ترنسفورمرها در پردازش صدا
• 94. ترنسفورمرها در سیستم‌های توصیه‌گر
• 95. چالش‌های ترنسفورمرها
• 96. پیچیدگی محاسباتی
• 97. نیاز به داده‌های زیاد
• 98. قابلیت تفسیر (Interpretability)
• 99. تعصبات (Biases) در مدل‌ها
• 100. امنیت و حریم خصوصی