فلش‌کارت‌های آموزشی fine-tuning مدل‌های زبانی: خلق لحن‌های مرحله‌ای و با یادگیری تدریجی

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب fine-tuning مدل‌های زبانی: خلق لحن‌های مرحله‌ای و با یادگیری تدریجی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: Fine-tuning برای جنبه‌های خاص (مانند لحن، سبک)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه به مدل‌های زبانی و fine-tuning
• 2. مبانی fine-tuning
• 3. چرا fine-tuning مهم است
• 4. انواع fine-tuning
• 5. کدام مدل‌های زبانی برای fine-tuning مناسب هستند
• 6. معرفی مدل‌های زبانی بزرگ (LLMs)
• 7. معماری ترنسفورمر
• 8. نحوه کارکرد مدل‌های زبانی
• 9. پیش‌نیازهای fine-tuning
• 10. نصب و راه‌اندازی محیط توسعه
• 11. انتخاب سخت‌افزار مناسب
• 12. نصب کتابخانه‌های لازم (PyTorch, TensorFlow, Hugging Face Transformers)
• 13. مجموعه داده‌های مناسب برای fine-tuning
• 14. اهمیت کیفیت داده
• 15. انواع داده‌های متنی
• 16. جمع‌آوری داده‌های سفارشی
• 17. پیش‌پردازش داده‌ها
• 18. پاکسازی داده‌ها
• 19. توکن‌سازی (Tokenization)
• 20. تنظیم واژگان (Vocabulary)
• 21. ایجاد داده‌های آموزشی، اعتبارسنجی و آزمون
• 22. معرفی تکنیک‌های fine-tuning
• 23. Fine-tuning کامل (Full Fine-tuning)
• 24. مزایا و معایب fine-tuning کامل
• 25. Fine-tuning پارامترهای کم (Parameter-Efficient Fine-tuning - PEFT)
• 26. معرفی LoRA (Low-Rank Adaptation)
• 27. نحوه کارکرد LoRA
• 28. مزایای LoRA
• 29. تنظیم پارامترهای LoRA
• 30. معرفی Prefix Tuning
• 31. معرفی P-Tuning
• 32. معرفی Prompt Tuning
• 33. مقایسه تکنیک‌های PEFT
• 34. کدام تکنیک PEFT را انتخاب کنیم
• 35. مراحل عملی fine-tuning
• 36. انتخاب مدل پایه (Base Model)
• 37. انتخاب معماری مدل
• 38. انتخاب اندازه مدل
• 39. تنظیم هایپرپارامترها (Hyperparameters)
• 40. نرخ یادگیری (Learning Rate)
• 41. اندازه بچ (Batch Size)
• 42. تعداد دوره‌های آموزشی (Epochs)
• 43. بهینه‌ساز (Optimizer)
• 44. تنظیمات منظم‌سازی (Regularization)
• 45. اجرای فرآیند fine-tuning
• 46. مانیتورینگ فرآیند آموزش
• 47. معیارهای ارزیابی مدل
• 48. دقت (Accuracy)
• 49. دقت و فراخوانی (Precision and Recall)
• 50. امتیاز F1
• 51. Perplexity
• 52. BLEU Score
• 53. ROUGE Score
• 54. ارزیابی مدل fine-tuned
• 55. تکنیک‌های ایجاد لحن‌های مرحله‌ای
• 56. تعریف لحن مرحله‌ای
• 57. چرا لحن مرحله‌ای مهم است
• 58. انواع لحن‌های مرحله‌ای
• 59. لحن رسمی
• 60. لحن غیررسمی
• 61. لحن طنزآمیز
• 62. لحن تخصصی
• 63. لحن دلگرم‌کننده
• 64. ایجاد داده‌های لحن‌دار
• 65. برچسب‌گذاری داده‌ها برای لحن
• 66. استفاده از مدل‌های از پیش آموزش‌دیده برای برچسب‌گذاری
• 67. تکنیک‌های fine-tuning برای لحن مرحله‌ای
• 68. Fine-tuning با داده‌های لحن‌دار
• 69. استفاده از LoRA برای لحن مرحله‌ای
• 70. استفاده از Prefix Tuning برای لحن مرحله‌ای
• 71. استفاده از Prompt Tuning برای لحن مرحله‌ای
• 72. تنظیم مدل برای لحن‌های خاص
• 73. ایجاد مدل‌های مولتی‌لحن
• 74. ارزیابی کیفیت لحن
• 75. معیارهای ارزیابی لحن
• 76. ارزیابی انسانی
• 77. تکنیک‌های یادگیری تدریجی (Continual Learning)
• 78. تعریف یادگیری تدریجی
• 79. چرا یادگیری تدریجی مهم است
• 80. چالش‌های یادگیری تدریجی
• 81. فراموشی فاجعه‌بار (Catastrophic Forgetting)
• 82. انواع یادگیری تدریجی
• 83. یادگیری تدریجی بدون حافظه (Memory-Free Continual Learning)
• 84. یادگیری تدریجی با حافظه (Memory-Based Continual Learning)
• 85. تکنیک‌های یادگیری تدریجی
• 86. انجماد پارامترها (Parameter Freezing)
• 87. تکرار داده‌ها (Replay)
• 88. تجمیع پارامترها (Parameter Averaging)
• 89. یادگیری تدریجی با استفاده از PEFT
• 90. LoRA برای یادگیری تدریجی
• 91. Prefix Tuning برای یادگیری تدریجی
• 92. Prompt Tuning برای یادگیری تدریجی
• 93. پیاده‌سازی یادگیری تدریجی در fine-tuning
• 94. مراحل پیاده‌سازی
• 95. مدیریت وظایف متوالی
• 96. ارزیابی مدل در طول یادگیری تدریجی
• 97. کاربردهای fine-tuning با لحن مرحله‌ای و یادگیری تدریجی
• 98. چت‌بات‌های سفارشی
• 99. دستیارهای مجازی
• 100. تولید محتوای خلاقانه