دوره ترنسفورمرها: ستون فقرات مدل‌های زبانی بزرگ همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترنسفورمرها: ستون فقرات مدل‌های زبانی بزرگ

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ و معماری ترنسفورمر
• 2. مروری بر تاریخچه پردازش زبان طبیعی
• 3. مفاهیم کلیدی در مدل‌های زبانی
• 4. آشنایی با شبکه‌های عصبی بازگشتی (RNN)
• 5. محدودیت‌های شبکه‌های عصبی بازگشتی
• 6. معماری ترنسفورمر: معرفی کلی
• 7. مکانیزم توجه (Attention Mechanism)
• 8. خود-توجهی (Self-Attention)
• 9. توجه چند-سر (Multi-Head Attention)
• 10. لایه موقعیتی (Positional Encoding)
• 11. بخش رمزگذار (Encoder) در ترنسفورمر
• 12. بخش رمزگشا (Decoder) در ترنسفورمر
• 13. ساختار بلوک رمزگذار
• 14. ساختار بلوک رمزگشا
• 15. ورودی و خروجی ترنسفورمر
• 16. توابع فعال‌سازی (Activation Functions)
• 17. بهینه‌سازها (Optimizers)
• 18. نرخ یادگیری (Learning Rate)
• 19. تنظیم بایاس (Bias) و وزن‌ها (Weights)
• 20. تابع هزینه (Loss Function)
• 21. مفهوم گرادیان کاهشی (Gradient Descent)
• 22. پس‌انتشار (Backpropagation)
• 23. مدل‌های زبانی مبتنی بر ترنسفورمر
• 24. معماری BERT
• 25. آموزش پیش‌فرض BERT
• 26. کاربردهای BERT
• 27. معماری GPT
• 28. آموزش پیش‌فرض GPT
• 29. کاربردهای GPT
• 30. معماری T5
• 31. معماری RoBERTa
• 32. معماری XLNet
• 33. معماری ALBERT
• 34. معماری ELECTRA
• 35. معماری Transformer-XL
• 36. معماری Longformer
• 37. معماری BigBird
• 38. معماری Reformer
• 39. معماری Perceiver
• 40. معماری Vision Transformer (ViT)
• 41. مفاهیم پیش‌پردازش متن
• 42. توکنیزه کردن (Tokenization)
• 43. انواع توکنیزه کردن
• 44. واژگان (Vocabulary)
• 45. کلمات خارج از دایره واژگان (Out-of-Vocabulary - OOV)
• 46. تعبیه‌های کلمه (Word Embeddings)
• 47. Word2Vec
• 48. GloVe
• 49. FastText
• 50. تعبیه‌های موقعیتی (Positional Embeddings)
• 51. تعبیه‌های ترنسفورمر
• 52. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 53. اعتبارسنجی متقابل (Cross-Validation)
• 54. تنظیم‌گرهای یادگیری (Learning Rate Schedulers)
• 55. تنظیم‌گرهای گرادیان (Gradient Clipping)
• 56. تنظیم‌گرهای نظم‌دهنده (Regularization Techniques)
• 57. Dropou
• 58. Batch Normalization
• 59. Layer Normalization
• 60. تنظیم‌گرهای وزن (Weight Decay)
• 61. انتقال یادگیری (Transfer Learning)
• 62. تنظیم دقیق (Fine-tuning)
• 63. کاربردهای مدل‌های ترنسفورمر در پردازش زبان طبیعی
• 64. طبقه‌بندی متن (Text Classification)
• 65. شناسایی موجودیت نام‌دار (Named Entity Recognition - NER)
• 66. پاسخ به پرسش (Question Answering)
• 67. ترجمه ماشینی (Machine Translation)
• 68. خلاصه‌سازی متن (Text Summarization)
• 69. تولید متن (Text Generation)
• 70. تحلیل احساسات (Sentiment Analysis)
• 71. مدل‌سازی موضوع (Topic Modeling)
• 72. تشخیص اسپم (Spam Detection)
• 73. تکمیل خودکار متن (Autocompletion)
• 74. بازشناسی گفتار (Speech Recognition)
• 75. ترکیب گفتار (Speech Synthesis)
• 76. تولید محتوای آموزشی سازگار با قوانین
• 77. تولید متون آموزشی در حوزه دین و اخلاق اسلامی
• 78. اصول خانواده در فرهنگ ایرانی-اسلامی
• 79. آموزش احکام شرعی بر اساس فقه شیعه اثنی‌عشری
• 80. مبانی اقتصاد اسلامی و بانکداری بدون ربا
• 81. تاریخ ایران باستان و تمدن اسلامی
• 82. شناخت مشاهیر علمی و دینی ایران
• 83. اصول علم اخلاق اسلامی
• 84. مبانی حقوق خانواده در نظام حقوقی ایران
• 85. فرهنگ و هنر اسلامی-ایرانی
• 86. مفاهیم قرآنی در علوم اسلامی
• 87. سیره پیامبر اکرم (ص) و اهل بیت (ع)
• 88. نقش علما در ترویج معارف دینی
• 89. اصول سیاست خارجی جمهوری اسلامی ایران
• 90. مقاومت و پایداری در اندیشه اسلامی
• 91. بصیرت سیاسی و دشمن‌شناسی
• 92. مبانی حکمرانی در اسلام
• 93. تاریخ انقلاب اسلامی ایران
• 94. دستاوردهای جمهوری اسلامی ایران
• 95. فرهنگ ایثار و شهادت
• 96. حجاب و عفاف در جامعه اسلامی
• 97. تأثیرات فرهنگی و اجتماعی رسانه‌های نوین
• 98. اصول سواد رسانه‌ای در چارچوب ارزش‌های دینی
• 99. مبانی تعاملات بین‌المللی با تأکید بر منافع ملی
• 100. آشنایی با سازمان‌های بین‌المللی و نقش ایران