فلش‌کارت‌های آموزشی راهنمای کاربردی برای پیاده‌سازی PEFT در پروژه‌های NLP

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب راهنمای کاربردی برای پیاده‌سازی PEFT در پروژه‌های NLP

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: Fine-tuning با پارامترهای کم (Parameter-Efficient Fine-tuning - PEFT)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه بر PEFT
• 2. اهمیت PEFT در NLP
• 3. چالش‌های مدل‌های بزرگ زبانی (LLMs)
• 4. محدودیت‌های Fine-tuning سنتی
• 5. معرفی PEFT: رویکردی نوین
• 6. مزایای PEFT
• 7. انواع روش‌های PEFT
• 8. هدف این راهنما
• 9. مخاطبان هدف
• 10. پیش‌نیازها
• 11. مروری بر مدل‌های زبانی بزرگ (LLMs)
• 12. معماری ترنسفورمر
• 13. نحوه کار LLMs
• 14. مبانی Fine-tuning
• 15. چالش‌های Fine-tuning کامل
• 16. معرفی Parameter-Efficient Fine-Tuning (PEFT)
• 17. دلایل نیاز به PEFT
• 18. اصول کلیدی PEFT
• 19. تفاوت PEFT با Fine-tuning کامل
• 20. چرا PEFT در پروژه‌های NLP مهم است؟
• 21. کاهش هزینه‌های محاسباتی
• 22. کاهش نیاز به حافظه
• 23. سرعت بخشیدن به فرآیند Fine-tuning
• 24. امکان Fine-tuning بر روی سخت‌افزارهای محدود
• 25. قابلیت سفارشی‌سازی مدل‌ها برای وظایف خاص
• 26. افزایش قابلیت انتقال (Transferability)
• 27. مقایسه PEFT با روش‌های دیگر
• 28. معرفی روش‌های اصلی PEFT
• 29. Parameter-Efficient Fine-Tuning (PEFT)
• 30. LoRA (Low-Rank Adaptation)
• 31. Prefix Tuning
• 32. Prompt Tuning
• 33. P-Tuning
• 34. Adapter Layers
• 35. QLoRA
• 36. معرفی LoRA
• 37. مفهوم Low-Rank Decomposition
• 38. نحوه کار LoRA
• 39. مزایای LoRA
• 40. کاربردهای LoRA
• 41. پیاده‌سازی LoRA با Hugging Face Transformers
• 42. تنظیم پارامترهای LoRA
• 43. مثال عملی پیاده‌سازی LoRA
• 44. معرفی Prefix Tuning
• 45. مفهوم Prefixes قابل یادگیری
• 46. نحوه کار Prefix Tuning
• 47. مزایای Prefix Tuning
• 48. کاربردهای Prefix Tuning
• 49. پیاده‌سازی Prefix Tuning
• 50. تنظیم پارامترهای Prefix Tuning
• 51. مثال عملی پیاده‌سازی Prefix Tuning
• 52. معرفی Prompt Tuning
• 53. مفهوم Soft Prompts
• 54. نحوه کار Prompt Tuning
• 55. مزایای Prompt Tuning
• 56. کاربردهای Prompt Tuning
• 57. پیاده‌سازی Prompt Tuning
• 58. تنظیم پارامترهای Prompt Tuning
• 59. مثال عملی پیاده‌سازی Prompt Tuning
• 60. معرفی P-Tuning
• 61. مفهوم Prompts قابل یادگیری (مانند Prefix Tuning اما متمرکزتر)
• 62. نحوه کار P-Tuning
• 63. مزایای P-Tuning
• 64. کاربردهای P-Tuning
• 65. پیاده‌سازی P-Tuning
• 66. تنظیم پارامترهای P-Tuning
• 67. مثال عملی پیاده‌سازی P-Tuning
• 68. معرفی Adapter Layers
• 69. مفهوم ماژول‌های کوچک اضافی
• 70. نحوه کار Adapter Layers
• 71. مزایای Adapter Layers
• 72. کاربردهای Adapter Layers
• 73. پیاده‌سازی Adapter Layers
• 74. تنظیم پارامترهای Adapter Layers
• 75. مثال عملی پیاده‌سازی Adapter Layers
• 76. معرفی QLoRA
• 77. مفهوم Quantized Low-Rank Adaptation
• 78. نحوه کار QLoRA
• 79. مزایای QLoRA
• 80. کاربردهای QLoRA
• 81. پیاده‌سازی QLoRA
• 82. تنظیم پارامترهای QLoRA
• 83. مثال عملی پیاده‌سازی QLoRA
• 84. انتخاب روش PEFT مناسب
• 85. عوامل موثر در انتخاب روش
• 86. مقایسه عملکرد روش‌های مختلف
• 87. ملاحظات مربوط به وظیفه NLP
• 88. ملاحظات مربوط به داده‌ها
• 89. ملاحظات مربوط به منابع محاسباتی
• 90. نکات عملی برای انتخاب
• 91. پیاده‌سازی PEFT در پروژه‌های NLP
• 92. انتخاب مدل پایه
• 93. آماده‌سازی داده‌ها
• 94. انتخاب روش PEFT
• 95. تنظیم هایپرپارامترها
• 96. فرایند آموزش PEFT
• 97. ارزیابی مدل Fine-tuned
• 98. ذخیره‌سازی و بارگذاری مدل PEFT
• 99. استفاده از مدل PEFT در استنتاج
• 100. مدیریت چندین مدل PEFT