اپلیکیشن اندرویدی فلش‌کارت آموزشی کاربردهای عملی PEFT در دنیای واقعی مدل‌های زبانی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره کاربردهای عملی PEFT در دنیای واقعی مدل‌های زبانی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: Fine-tuning با پارامترهای کم (Parameter-Efficient Fine-tuning - PEFT)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر تنظیم دقیق مدل‌های زبانی بزرگ
• 2. مبانی تنظیم دقیق (Fine-tuning)
• 3. چالش‌های تنظیم دقیق سنتی
• 4. معرفی روش‌های PEFT
• 5. اهمیت PEFT در کاربردهای عملی
• 6. انواع روش‌های PEFT
• 7. تنظیم پارامترهای کم (Parameter-Efficient Fine-Tuning)
• 8. روش‌های مبتنی بر اضافه کردن پارامتر
• 9. روش‌های مبتنی بر تغییر پارامترهای از پیش آموزش‌دیده
• 10. PEFT و کاهش هزینه‌های محاسباتی
• 11. PEFT و حفظ دانش مدل اصلی
• 12. روش LoRA: معرفی و مبانی
• 13. کاربردهای LoRA در تنظیم دقیق
• 14. پیاده‌سازی LoRA با کتابخانه‌های موجود
• 15. تنظیم پارامترهای LoRA
• 16. مزایای LoRA نسبت به تنظیم دقیق کامل
• 17. معایب LoRA
• 18. روش AdaLoRA: بهینه‌سازی LoRA
• 19. مقایسه AdaLoRA و LoRA
• 20. روش QLoRA: فشرده‌سازی و تنظیم دقیق
• 21. کاربرد QLoRA در مدل‌های بزرگ
• 22. تنظیم دقیق مدل‌های کوانتیزه شده
• 23. مزایای QLoRA
• 24. معایب QLoRA
• 25. روش Prefix Tuning
• 26. مبانی Prefix Tuning
• 27. تنظیم پیشوندها برای وظایف خاص
• 28. کاربردهای Prefix Tuning
• 29. مقایسه Prefix Tuning با LoRA
• 30. روش P-Tuning
• 31. تفاوت P-Tuning با Prefix Tuning
• 32. بهینه‌سازی پرامپت‌های پیوسته
• 33. کاربردهای P-Tuning
• 34. روش Prompt Tuning
• 35. مفهوم Prompt Tuning
• 36. تنظیم توکن‌های مجازی (Virtual Tokens)
• 37. کاربردهای Prompt Tuning
• 38. مزایای Prompt Tuning
• 39. روش Adapter Tuning
• 40. معماری آداپتورها
• 41. جایگذاری آداپتورها در مدل
• 42. تنظیم دقیق با آداپتورها
• 43. کاربردهای Adapter Tuning
• 44. مقایسه Adapter Tuning با LoRA
• 45. روش LoRA-FA
• 46. کاربرد LoRA-FA در وظایف خاص
• 47. تنظیم دقیق با LoRA-FA
• 48. روش LoRA-IA
• 49. کاربرد LoRA-IA در وظایف خاص
• 50. تنظیم دقیق با LoRA-IA
• 51. روش LoRA-LM
• 52. کاربرد LoRA-LM در مدل‌های زبانی
• 53. تنظیم دقیق با LoRA-LM
• 54. روش LoRA-SC
• 55. کاربرد LoRA-SC در وظایف خاص
• 56. تنظیم دقیق با LoRA-SC
• 57. روش LoRA-Seq
• 58. کاربرد LoRA-Seq در وظایف ترتیبی
• 59. تنظیم دقیق با LoRA-Seq
• 60. روش LoRA-Adapter
• 61. ترکیب LoRA و Adapter Tuning
• 62. کاربرد LoRA-Adapter
• 63. روش LoRA-GAN
• 64. کاربرد LoRA-GAN در تولید محتوا
• 65. تنظیم دقیق با LoRA-GAN
• 66. روش LoRA-VAE
• 67. کاربرد LoRA-VAE در مدل‌های متغیر
• 68. تنظیم دقیق با LoRA-VAE
• 69. روش LoRA-Diffusion
• 70. کاربرد LoRA-Diffusion در مدل‌های انتشاری
• 71. تنظیم دقیق با LoRA-Diffusion
• 72. PEFT برای وظایف تولید متن
• 73. تنظیم دقیق برای خلاصه‌سازی متن
• 74. تنظیم دقیق برای ترجمه ماشینی
• 75. تنظیم دقیق برای پاسخ به سوالات
• 76. تنظیم دقیق برای تولید کد
• 77. تنظیم دقیق برای مکالمه
• 78. PEFT برای وظایف طبقه‌بندی متن
• 79. تنظیم دقیق برای تحلیل احساسات
• 80. تنظیم دقیق برای تشخیص موضوع
• 81. تنظیم دقیق برای شناسایی موجودیت نام‌دار
• 82. PEFT برای وظایف استخراج اطلاعات
• 83. استخراج روابط بین موجودیت‌ها
• 84. استخراج حقایق از متن
• 85. PEFT و سفارشی‌سازی مدل‌های زبانی
• 86. تنظیم دقیق برای حوزه پزشکی
• 87. تنظیم دقیق برای حوزه حقوقی
• 88. تنظیم دقیق برای حوزه مالی
• 89. تنظیم دقیق برای حوزه آموزشی
• 90. PEFT و حفظ حریم خصوصی
• 91. تنظیم دقیق فدرال (Federated Fine-Tuning)
• 92. روش‌های حفظ حریم خصوصی در PEFT
• 93. ملاحظات اخلاقی در PEFT
• 94. ارزیابی مدل‌های تنظیم دقیق شده با PEFT
• 95. معیارهای ارزیابی
• 96. مقایسه روش‌های مختلف PEFT
• 97. کاربردهای پیشرفته PEFT
• 98. PEFT در مدل‌های چندوجهی
• 99. PEFT و یادگیری تقویتی
• 100. آینده PEFT در مدل‌های زبانی