فلش‌کارت‌های آموزشی آماده‌سازی داده و بهینه‌سازی مدل‌های زبان بزرگ با Unsloth

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آماده‌سازی داده و بهینه‌سازی مدل‌های زبان بزرگ با Unsloth

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: مهندسی و بهینه‌سازی مدل‌های یادگیری عمیق

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. مبانی یادگیری ماشین
• 3. انواع یادگیری ماشین: نظارت‌شده، بدون نظارت، تقویتی
• 4. یادگیری عمیق و شبکه‌های عصبی
• 5. مقدمه‌ای بر مدل‌های زبان بزرگ (LLMs)
• 6. معماری ترنسفورمرز
• 7. مبانی پردازش زبان طبیعی (NLP)
• 8. مفاهیم اساسی در آماده‌سازی داده
• 9. اهمیت کیفیت داده در یادگیری ماشین
• 10. شناسایی و مدیریت داده‌های پرت
• 11. پاکسازی و پیش‌پردازش داده‌های متنی
• 12. نرمال‌سازی متن و توکن‌سازی
• 13. ایجاد واژگان و جاسازی کلمات (Word Embeddings)
• 14. مقدمه‌ای بر کتابخانه Unsloth
• 15. نصب و پیکربندی Unsloth
• 16. مزایای استفاده از Unsloth برای بهینه‌سازی
• 17. کار با مجموعه داده‌های متنی بزرگ
• 18. ساختار داده‌های مورد نیاز Unsloth
• 19. فرمت‌های پشتیبانی شده توسط Unsloth
• 20. تبدیل فرمت‌های داده به فرمت Unsloth
• 21. مقدمه‌ای بر Fine-Tuning مدل‌های زبان
• 22. اهداف Fine-Tuning
• 23. انواع Fine-Tuning
• 24. Fine-Tuning با استفاده از Unsloth
• 25. تنظیم پارامترهای Fine-Tuning
• 26. انتخاب مدل پایه مناسب برای Fine-Tuning
• 27. مدل‌های زبان بزرگ موجود و سازگار با Unsloth
• 28. مقدمه‌ای بر مدل Whisper
• 29. کاربرد مدل Whisper در پردازش صوت
• 30. آماده‌سازی داده برای Fine-Tuning مدل Whisper
• 31. داده‌های صوتی و متنی برای Whisper
• 32. تطابق داده‌های صوتی و متنی
• 33. تکنیک‌های افزایش داده (Data Augmentation) برای صوت
• 34. استفاده از Unsloth برای Fine-Tuning Whisper
• 35. بهینه‌سازی سرعت Fine-Tuning با Unsloth
• 36. استفاده از سخت‌افزار مناسب (GPU)
• 37. مدیریت حافظه در طول Fine-Tuning
• 38. تنظیمات پیشرفته در Unsloth
• 39. تکنیک‌های کوانتیزاسیون (Quantization)
• 40. کوانتیزاسیون 4 بیتی
• 41. کوانتیزاسیون 8 بیتی
• 42. مزایای کوانتیزاسیون برای کاهش حجم مدل
• 43. استفاده از QLoRA با Unsloth
• 44. مبانی LoRA (Low-Rank Adaptation)
• 45. مزایای LoRA در Fine-Tuning
• 46. پیکربندی QLoRA در Unsloth
• 47. تنظیم پارامترهای QLoRA
• 48. ارزیابی عملکرد مدل Fine-Tuned
• 49. معیارهای ارزیابی در NLP
• 50. معیارهای ارزیابی برای وظایف صوتی (ASR)
• 51. محاسبه دقت و نرخ خطا
• 52. تفسیر نتایج ارزیابی
• 53. اشکال‌زدایی (Debugging) مدل‌های Fine-Tuned
• 54. شناسایی مشکلات رایج در Fine-Tuning
• 55. راهکارهای رفع مشکلات
• 56. تکنیک‌های تنظیم دقیق (Hyperparameter Tuning)
• 57. جستجوی شبکه‌ای (Grid Search)
• 58. جستجوی تصادفی (Random Search)
• 59. بهینه‌سازی بیزی (Bayesian Optimization)
• 60. استفاده از ابزارهای مانیتورینگ (مانند TensorBoard)
• 61. مفاهیم اساسی در مهندسی مدل
• 62. انتخاب معماری مناسب مدل
• 63. اندازه مدل و تعداد پارامترها
• 64. تاثیر پارامترها بر عملکرد و منابع
• 65. روش‌های Regularization برای جلوگیری از Overfitting
• 66. Dropout
• 67. Weight Decay
• 68. Early Stopping
• 69. مدیریت داده‌های نامتوازن (Imbalanced Data)
• 70. روش‌های نمونه‌برداری (Sampling Techniques)
• 71. تکنیک‌های تولید داده مصنوعی (Synthetic Data Generation)
• 72. مقدمه‌ای بر مدل‌های Diffusion
• 73. کاربرد مدل‌های Diffusion در تولید محتوا
• 74. Fine-Tuning مدل‌های Diffusion با Unsloth
• 75. بهینه‌سازی فرآیند آموزش مدل‌های Diffusion
• 76. ملاحظات اخلاقی در هوش مصنوعی
• 77. سوگیری (Bias) در داده‌ها و مدل‌ها
• 78. شناسایی و کاهش سوگیری
• 79. شفافیت و قابلیت توضیح‌پذیری مدل‌ها (Explainability)
• 80. حریم خصوصی داده‌ها در آموزش مدل‌ها
• 81. امنیت مدل‌های هوش مصنوعی
• 82. حملات adversarial و دفاع در برابر آن‌ها
• 83. مقدمه‌ای بر Metalearning
• 84. یادگیری چگونه یاد گرفتن
• 85. کاربرد Metalearning در بهینه‌سازی مدل‌ها
• 86. Fine-Tuning مدل‌ها برای وظایف جدید با داده کم
• 87. تکنیک‌های Few-Shot Learning
• 88. مقدمه‌ای بر Graph Neural Networks (GNNs)
• 89. کاربرد GNNs در داده‌های ساختاریافته
• 90. Fine-Tuning GNNs با Unsloth
• 91. بهینه‌سازی آموزش GNNs
• 92. مقدمه‌ای بر Reinforcement Learning
• 93. مفاهیم اساسی در یادگیری تقویتی
• 94. کاربرد یادگیری تقویتی در Unsloth
• 95. بهینه‌سازی مدل‌ها با یادگیری تقویتی
• 96. مقدمه‌ای بر مدل‌های مولد (Generative Models)
• 97. GANs (Generative Adversarial Networks)
• 98. VAEs (Variational Autoencoders)
• 99. کاربرد مدل‌های مولد در Unsloth
• 100. بهینه‌سازی آموزش مدل‌های مولد