دوره مبانی مدل‌های زبانی بزرگ: نگاهی کاربردی همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مبانی مدل‌های زبانی بزرگ: نگاهی کاربردی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: مدل‌های زبانی بزرگ (LLMs) - مفاهیم و اصول**

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ
• 2. تاریخچه و تکامل مدل‌های زبانی
• 3. معماری ترنسفورمر در مدل‌های زبانی
• 4. لایه توجه (Attention Mechanism)
• 5. انواع مدل‌های ترنسفورمر
• 6. مدل‌های زبانی پیش‌آموزش‌دیده (Pre-trained Language Models)
• 7. مبانی آموزش مدل‌های زبانی
• 8. فرآیند پیش‌آموزش (Pre-training)
• 9. مجموعه داده‌های مورد استفاده در پیش‌آموزش
• 10. تکنیک‌های پیش‌آموزش (مانند Masked Language Modeling)
• 11. تنظیم دقیق (Fine-tuning) مدل‌های زبانی
• 12. فرآیند تنظیم دقیق
• 13. مجموعه داده‌های مورد استفاده در تنظیم دقیق
• 14. کاربردهای تنظیم دقیق
• 15. مدل‌های زبانی مبتنی بر رمزگذار (Encoder-based Models)
• 16. مدل‌های زبانی مبتنی بر رمزگشا (Decoder-based Models)
• 17. مدل‌های زبانی دوطرفه (Encoder-Decoder Models)
• 18. معرفی مدل GPT (Generative Pre-trained Transformer)
• 19. کاربردهای مدل GPT
• 20. معرفی مدل BERT (Bidirectional Encoder Representations from Transformers)
• 21. کاربردهای مدل BERT
• 22. معرفی مدل RoBERTa
• 23. معرفی مدل XLNet
• 24. معرفی مدل T5 (Text-to-Text Transfer Transformer)
• 25. معرفی مدل BART (Bidirectional and Auto-Regressive Transformer)
• 26. تولید متن (Text Generation)
• 27. تکنیک‌های تولید متن
• 28. ارزیابی مدل‌های تولید متن
• 29. خلاصه‌سازی متن (Text Summarization)
• 30. انواع خلاصه‌سازی (استخراجی و چکیده‌ای)
• 31. ارزیابی مدل‌های خلاصه‌سازی
• 32. ترجمه ماشینی (Machine Translation)
• 33. معماری مدل‌های ترجمه ماشینی
• 34. ارزیابی مدل‌های ترجمه ماشینی
• 35. پاسخ به سؤال (Question Answering)
• 36. انواع سیستم‌های پاسخ به سؤال
• 37. ارزیابی سیستم‌های پاسخ به سؤال
• 38. تحلیل احساسات (Sentiment Analysis)
• 39. مدل‌های تحلیل احساسات
• 40. ارزیابی مدل‌های تحلیل احساسات
• 41. دسته‌بندی متن (Text Classification)
• 42. مدل‌های دسته‌بندی متن
• 43. ارزیابی مدل‌های دسته‌بندی متن
• 44. تشخیص موجودیت نام‌دار (Named Entity Recognition - NER)
• 45. مدل‌های NER
• 46. ارزیابی مدل‌های NER
• 47. مدل‌های زبانی برای درک مطلب (Natural Language Understanding - NLU)
• 48. چالش‌های NLU
• 49. مدل‌های زبانی برای تولید زبان طبیعی (Natural Language Generation - NLG)
• 50. چالش‌های NLG
• 51. مدل‌های زبانی کوچک‌تر و کارآمدتر
• 52. کوچک‌سازی مدل‌های زبانی (Model Compression)
• 53. تقطیر دانش (Knowledge Distillation)
• 54. هواندازی (Quantization)
• 55. هرس کردن (Pruning)
• 56. کاربرد مدل‌های زبانی در پردازش زبان فارسی
• 57. مجموعه داده‌های فارسی برای مدل‌های زبانی
• 58. چالش‌های پردازش زبان فارسی
• 59. مدل‌های زبانی چندزبانه (Multilingual Language Models)
• 60. معماری مدل‌های چندزبانه
• 61. کاربردهای مدل‌های چندزبانه
• 62. مدل‌های زبانی محلی (Local Language Models)
• 63. ملاحظات اخلاقی در استفاده از مدل‌های زبانی
• 64. سوگیری (Bias) در مدل‌های زبانی
• 65. روش‌های کاهش سوگیری
• 66. حریم خصوصی و امنیت در مدل‌های زبانی
• 67. توضیح‌پذیری مدل‌های زبانی (Explainability)
• 68. مفاهیم پایه یادگیری ماشین در مدل‌های زبانی
• 69. شبکه‌های عصبی کانولوشنال (CNN)
• 70. شبکه‌های عصبی بازگشتی (RNN)
• 71. حافظه کوتاه‌مدت طولانی (LSTM)
• 72. شبکه‌های عصبی ترتیبی (GRU)
• 73. مفاهیم پایه آمار و احتمال
• 74. مبانی بهینه‌سازی در آموزش مدل‌ها
• 75. گرادیان کاهشی (Gradient Descent)
• 76. انواع گرادیان کاهشی
• 77. ابزارهای یادگیری ماشین (مانند TensorFlow, PyTorch)
• 78. محیط‌های برنامه‌نویسی (مانند Jupyter Notebook)
• 79. مراحل ساخت یک سیستم مبتنی بر مدل زبانی
• 80. انتخاب مدل مناسب
• 81. جمع‌آوری و پیش‌پردازش داده‌ها
• 82. آموزش یا تنظیم دقیق مدل
• 83. ارزیابی عملکرد مدل
• 84. استقرار مدل
• 85. ملاحظات مربوط به زیرساخت و سخت‌افزار
• 86. کارت‌های گرافیک (GPU) و واحدهای پردازش تنسور (TPU)
• 87. مدیریت منابع محاسباتی
• 88. آینده مدل‌های زبانی بزرگ
• 89. مدل‌های زبانی بزرگ‌تر و توانمندتر
• 90. مدل‌های زبانی با قابلیت استدلال
• 91. مدل‌های زبانی تعاملی
• 92. نوآوری‌های آتی در معماری مدل‌ها
• 93. کاربردهای پیشرفته مدل‌های زبانی
• 94. علم داده و مدل‌های زبانی
• 95. هوش مصنوعی مولد (Generative AI)
• 96. تولید کد با مدل‌های زبانی
• 97. مدل‌های زبانی در علوم پزشکی
• 98. مدل‌های زبانی در حوزه حقوق
• 99. مدل‌های زبانی در آموزش و پژوهش
• 100. مدل‌های زبانی در صنعت