فلش‌کارت‌های آموزشی تنظیم دقیق مدل‌های زبان بزرگ برای پشتیبانی از زبان فارسی (LLaMA2)

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تنظیم دقیق مدل‌های زبان بزرگ برای پشتیبانی از زبان فارسی (LLaMA2)

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: مدل‌های زبان بزرگ (LLMs) و پردازش زبان طبیعی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. مبانی یادگیری ماشین
• 3. انواع یادگیری ماشین: نظارت شده، بدون نظارت، تقویتی
• 4. مقدمه‌ای بر شبکه‌های عصبی مصنوعی
• 5. ساختار و عملکرد نورون‌های مصنوعی
• 6. شبکه‌های عصبی پیشخور
• 7. پس‌انتشار خطا
• 8. توابع فعال‌سازی در شبکه‌های عصبی
• 9. بهینه‌سازی در شبکه‌های عصبی
• 10. گرادیان کاهشی تصادفی (SGD)
• 11. مقدمه‌ای بر پردازش زبان طبیعی (NLP)
• 12. نمایش متنی: Bag-of-Words و TF-IDF
• 13. تعبیه‌های کلمه (Word Embeddings): Word2Vec
• 14. تعبیه‌های کلمه: GloVe
• 15. شبکه‌های عصبی بازگشتی (RNN)
• 16. شبکه‌های حافظه کوتاه‌مدت طولانی (LSTM)
• 17. واحد بازگشتی دروازه‌ای (GRU)
• 18. توجه (Attention Mechanism)
• 19. مدل‌های ترنسفورمر (Transformer Models)
• 20. معماری ترنسفورمر: رمزگذار و رمزگشا
• 21. مقدمه‌ای بر مدل‌های زبان بزرگ (LLMs)
• 22. معماری ترنسفورمر برای LLMs
• 23. آموزش پیشین LLMs
• 24. تنظیم دقیق (Fine-tuning) LLMs
• 25. تنظیم دقیق نظارت شده (SFT)
• 26. تنظیم دقیق مبتنی بر بازخورد انسانی (RLHF)
• 27. مقدمه‌ای بر LLaMA 2
• 28. معماری LLaMA 2
• 29. مجموعه داده‌های LLaMA 2
• 30. چالش‌های چندزبانه در LLMs
• 31. مقدمه‌ای بر پردازش زبان فارسی
• 32. پیش‌پردازش متن فارسی
• 33. توکن‌سازی متن فارسی
• 34. حذف کلمات توقف (Stop Words) فارسی
• 35. ریشه‌یابی (Stemming) و بن‌واژه‌سازی (Lemmatization) فارسی
• 36. نمایش متنی فارسی: Bag-of-Words و TF-IDF
• 37. تعبیه‌های کلمه فارسی
• 38. استفاده از مدل‌های از پیش آموزش دیده برای فارسی
• 39. تنظیم دقیق LLaMA 2 برای زبان فارسی
• 40. انتخاب مدل پایه LLaMA 2
• 41. آماده‌سازی داده‌های تنظیم دقیق فارسی
• 42. فرمت‌بندی داده‌ها برای SFT فارسی
• 43. تنظیم پارامترهای SFT فارسی
• 44. ارزیابی مدل تنظیم شده فارسی
• 45. معیارهای ارزیابی در NLP فارسی
• 46. متریک‌های ارزیابی برای وظایف زبانی
• 47. تنظیم دقیق مبتنی بر بازخورد انسانی برای فارسی
• 48. جمع‌آوری داده‌های بازخورد انسانی فارسی
• 49. آموزش مدل پاداش (Reward Model) فارسی
• 50. تنظیم دقیق با استفاده از RLHF فارسی
• 51. چالش‌های اخلاقی در LLMs
• 52. سوگیری در مدل‌های زبانی
• 53. حفظ حریم خصوصی در LLMs
• 54. استفاده مسئولانه از LLMs
• 55. کاربرد LLMs در فارسی
• 56. تولید متن فارسی
• 57. خلاصه‌سازی متن فارسی
• 58. ترجمه ماشینی فارسی
• 59. پاسخ به پرسش فارسی
• 60. تحلیل احساسات متن فارسی
• 61. مدل‌های زبانی برای فارسی: مقایسه و انتخاب
• 62. نکات پیشرفته در تنظیم دقیق LLMs
• 63. تنظیم دقیق پارامتری کارآمد (PEFT)
• 64. تکنیک‌های LoRA
• 65. تکنیک‌های QLoRA
• 66. تنظیم دقیق با داده‌های کمتر (Few-shot fine-tuning)
• 67. تنظیم دقیق مولد (Generative Fine-tuning)
• 68. تنظیم دقیق با هدف (Task-specific fine-tuning)
• 69. تکنیک‌های ارزیابی پیشرفته برای LLMs فارسی
• 70. ارزیابی قابلیت‌های زبانی فارسی
• 71. ارزیابی درک مطلب فارسی
• 72. ارزیابی تولید متن خلاقانه فارسی
• 73. پایش و به‌روزرسانی مدل‌های LLaMA 2 فارسی
• 74. ملاحظات امنیتی در پیاده‌سازی LLMs
• 75. مقیاس‌پذیری در پیاده‌سازی LLMs
• 76. استقرار مدل‌های LLM فارسی
• 77. استفاده از APIهای LLM فارسی
• 78. مقدمه‌ای بر ابزارهای توسعه LLM
• 79. کتابخانه‌های NLP برای فارسی
• 80. چارچوب‌های یادگیری عمیق
• 81. استفاده از Hugging Face Transformers
• 82. تنظیم دقیق مدل‌های LLM دیگر برای فارسی
• 83. مقدمه‌ای بر مدل‌های مولد
• 84. کاربرد مدل‌های مولد در فارسی
• 85. ملاحظات حقوقی در استفاده از LLMs
• 86. قوانین کپی‌رایت و محتوای تولید شده
• 87. مسئولیت‌پذیری در قبال خروجی LLMs
• 88. آینده LLMs و زبان فارسی
• 89. تحقیقات جاری در زمینه LLMs فارسی
• 90. پیشرفت‌های آتی در پردازش زبان فارسی
• 91. نتیجه‌گیری و جمع‌بندی مباحث