فلش‌کارت‌های آموزشی سفارشی‌سازی و بهینه‌سازی مدل‌های زبان بزرگ با مثال‌های عملی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره سفارشی‌سازی و بهینه‌سازی مدل‌های زبان بزرگ با مثال‌های عملی

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: مدل‌های زبان بزرگ (LLMs)

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و یادگیری ماشین
• 2. مقدمه‌ای بر مدل‌های زبان بزرگ (LLMs)
• 3. معماری ترنسفورمر و مکانیزم توجه
• 4. مفاهیم اساسی پردازش زبان طبیعی
• 5. پیش‌پردازش متن برای مدل‌های زبان
• 6. ساخت واژگان و جاسازی کلمات (Word Embeddings)
• 7. جاسازی‌های مبتنی بر ترنسفورمر (BERT, GPT)
• 8. معرفی Fine-tuning در مدل‌های زبان
• 9. چرا Fine-tuning مهم است؟
• 10. فرایند کلی Fine-tuning LLMs
• 11. انتخاب مدل پایه مناسب برای Fine-tuning
• 12. مجموعه داده‌های مناسب برای Fine-tuning
• 13. آماده‌سازی و برچسب‌گذاری داده‌ها
• 14. تکنیک‌های Fine-tuning: Supervised Fine-tuning (SFT)
• 15. Fine-tuning برای وظایف طبقه‌بندی متن
• 16. Fine-tuning برای وظایف تولید متن
• 17. Fine-tuning برای وظایف پاسخگویی به سوال
• 18. Fine-tuning برای وظایف خلاصه‌سازی متن
• 19. Fine-tuning برای وظایف ترجمه ماشینی
• 20. Fine-tuning برای وظایف استخراج اطلاعات
• 21. Fine-tuning برای وظایف تحلیل احساسات
• 22. Fine-tuning برای وظایف تشخیص موجودیت نام‌گذاری شده (NER)
• 23. Fine-tuning برای وظایف تشخیص رابطه (Relation Extraction)
• 24. Fine-tuning برای وظایف پرسش و پاسخ باز (Open-domain QA)
• 25. Fine-tuning برای وظایف تولید کد
• 26. Fine-tuning برای وظایف چندزبانه
• 27. Fine-tuning با استفاده از داده‌های کم (Few-shot Learning)
• 28. Fine-tuning با استفاده از داده‌های صفر (Zero-shot Learning)
• 29. Fine-tuning مبتنی بر دستورالعمل (Instruction Tuning)
• 30. بهینه‌سازی فراپارامترها در Fine-tuning
• 31. نرخ یادگیری و زمان‌بندی آن
• 32. اندازه بچ (Batch Size) و تأثیر آن
• 33. تکنیک‌های تنظیم‌کننده (Regularization)
• 34. استفاده از بهینه‌سازها (Optimizers)
• 35. روش‌های تنظیم دقیق (Parameter-Efficient Fine-tuning - PEFT)
• 36. LoRA (Low-Rank Adaptation)
• 37. QLoRA
• 38. Adapter Tuning
• 39. Prompt Tuning
• 40. Prefix Tuning
• 41. P-Tuning
• 42. معرفی ابزارهای Fine-tuning (Hugging Face Transformers)
• 43. نصب و راه‌اندازی کتابخانه Transformers
• 44. بارگذاری مدل‌های از پیش آموزش‌دیده
• 45. استفاده از Tokenizers
• 46. آماده‌سازی مجموعه داده با Tokenizers
• 47. فرایند آموزش با Trainer API
• 48. ارزیابی مدل‌های Fine-tuned
• 49. معیارهای ارزیابی برای وظایف مختلف
• 50. Metrics: Accuracy, Precision, Recall, F1-Score
• 51. Metrics: BLEU, ROUGE, METEOR
• 52. Metrics: Perplexity
• 53. Metrics: Exact Match (EM), F1
• 54. Metrics: MRR
• 55. Metrics: CIDEr, SPICE
• 56. Metrics: GLUE, SuperGLUE
• 57. Metrics: MMLU
• 58. Metrics: HELLASWAG
• 59. Metrics: ARC
• 60. Metrics: Winograd Schema Challenge
• 61. Metrics: Big-Bench Hard
• 62. Metrics: Human Evaluation
• 63. مدیریت حافظه و محاسبات در Fine-tuning
• 64. استفاده از GPU و TPU
• 65. توزیع آموزش (Distributed Training)
• 66. کوانتیزاسیون مدل (Model Quantization)
• 67. تقطیر دانش (Knowledge Distillation)
• 68. پایپ‌لاین‌های استنتاج (Inference Pipelines)
• 69. بهینه‌سازی مدل برای استنتاج سریع
• 70. Deploy کردن مدل‌های Fine-tuned
• 71. ملاحظات اخلاقی در Fine-tuning LLMs
• 72. سوگیری در مدل‌های زبان
• 73. کاهش سوگیری در مجموعه داده‌ها
• 74. کاهش سوگیری در فرایند Fine-tuning
• 75. امنیت و حریم خصوصی در LLMs
• 76. استفاده مسئولانه از LLMs
• 77. کاربرد LLMs در ایران
• 78. توسعه مدل‌های زبان فارسی
• 79. Fine-tuning برای زبان فارسی
• 80. چالش‌های Fine-tuning مدل‌های فارسی
• 81. مثال‌های عملی Fine-tuning مدل‌های فارسی
• 82. Fine-tuning مدل‌های کوچک‌تر برای وظایف خاص
• 83. Fine-tuning مدل‌های بزرگ‌تر برای وظایف عمومی
• 84. Fine-tuning مدل‌های چندوجهی (Multimodal LLMs)
• 85. Fine-tuning برای تولید تصاویر از متن
• 86. Fine-tuning برای درک تصاویر
• 87. Fine-tuning برای رباتیک و کنترل
• 88. Fine-tuning برای سیستم‌های توصیه‌گر
• 89. Fine-tuning برای تحلیل داده‌های سری زمانی
• 90. Fine-tuning برای کاربردهای پزشکی (با احتیاط)
• 91. Fine-tuning برای کاربردهای حقوقی (با احتیاط)
• 92. Fine-tuning برای کاربردهای آموزشی (با احتیاط)
• 93. Fine-tuning مدل‌های زبانی با رویکرد اسلامی (با احتیاط)
• 94. Fine-tuning برای تولید محتوای دینی (با احتیاط)
• 95. Fine-tuning برای پاسخگویی به سوالات دینی (با احتیاط)
• 96. Fine-tuning برای تحلیل متون تاریخی اسلامی (با احتیاط)
• 97. Fine-tuning برای درک و تولید زبان عربی (با احتیاط)
• 98. مدیریت نسخه (Version Control) مدل‌ها
• 99. ذخیره‌سازی و بازیابی مدل‌ها
• 100. نظارت بر عملکرد مدل در طول زمان