فلش‌کارت‌های آموزشی مهندسی پرامپت و تنظیم دقیق مدل‌های ترنسفورمر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مهندسی پرامپت و تنظیم دقیق مدل‌های ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمات و مبانی مهندسی پرامپت
• 2. مفهوم مدل‌های زبانی بزرگ (LLMs)
• 3. معماری ترنسفورمر: نگاهی عمیق
• 4. جزء به جزء معماری ترنسفورمر
• 5. مکانیزم توجه (Attention Mechanism)
• 6. خود-توجهی (Self-Attention)
• 7. توجه چند-سری (Multi-Head Attention)
• 8. لایه‌های انکودر و دیکودر
• 9. جایگذاری توکن‌ها (Token Embeddings)
• 10. جایگذاری موقعیتی (Positional Embeddings)
• 11. نرمال‌سازی لایه‌ای (Layer Normalization)
• 12. اتصالات باقی‌مانده (Residual Connections)
• 13. توابع فعال‌سازی (Activation Functions)
• 14. ساختار داده‌ها در ترنسفورمرها
• 15. کاربرد ترنسفورمرها در پردازش زبان طبیعی
• 16. تاریخچه و تکامل مدل‌های ترنسفورمر
• 17. مدل‌های پیش-آموزش‌دیده (Pre-trained Models)
• 18. مفاهیم تنظیم دقیق (Fine-tuning)
• 19. هدف از تنظیم دقیق مدل‌ها
• 20. فرایند تنظیم دقیق مدل‌های ترنسفورمر
• 21. انتخاب مجموعه داده برای تنظیم دقیق
• 22. اهمیت کیفیت داده در تنظیم دقیق
• 23. پیش‌پردازش داده‌ها برای تنظیم دقیق
• 24. قالب‌بندی داده‌ها برای ورودی مدل
• 25. تعیین پارامترهای تنظیم دقیق
• 26. نرخ یادگیری (Learning Rate)
• 27. اندازه دسته (Batch Size)
• 28. تعداد دوره‌های آموزشی (Epochs)
• 29. بهینه‌سازها (Optimizers)
• 30. تنظیم نرخ یادگیری (Learning Rate Scheduling)
• 31. روش‌های منظم‌سازی (Regularization Techniques)
• 32. کاهش منظم‌سازی (Dropout)
• 33. تنظیم وزن (Weight Decay)
• 34. ارزیابی مدل پس از تنظیم دقیق
• 35. متریک‌های ارزیابی در پردازش زبان طبیعی
• 36. معیارهای ارزیابی کیفیت متن تولیدی
• 37. تست و اعتبارسنجی مدل
• 38. عیب‌یابی و رفع اشکال در تنظیم دقیق
• 39. تشخیص و رفع بیش‌برازش (Overfitting)
• 40. تشخیص و رفع کم‌برازش (Underfitting)
• 41. تکنیک‌های بهبود عملکرد مدل
• 42. افزایش حجم داده (Data Augmentation)
• 43. یادگیری انتقالی (Transfer Learning)
• 44. تنظیم دقیق با پارامترهای کم (Parameter-Efficient Fine-Tuning - PEFT)
• 45. مقدمه‌ای بر PEFT
• 46. روش LoRA (Low-Rank Adaptation)
• 47. مزایای LoRA
• 48. پیاده‌سازی LoRA
• 49. روش Prefix Tuning
• 50. روش Prompt Tuning
• 51. روش Adapter Tuning
• 52. مقایسه روش‌های PEFT
• 53. مقدمات مهندسی پرامپت (Prompt Engineering)
• 54. اهمیت پرامپت در مدل‌های زبانی
• 55. انواع پرامپت‌ها
• 56. پرامپت‌های صفر-شات (Zero-shot Prompts)
• 57. پرامپت‌های یک-شات (One-shot Prompts)
• 58. پرامپت‌های چند-شات (Few-shot Prompts)
• 59. نکات کلیدی در نوشتن پرامپت‌های مؤثر
• 60. شفافیت و صراحت در پرامپت
• 61. ارائه زمینه (Context) کافی
• 62. دستورالعمل‌های مشخص
• 63. مثال‌های واضح و گویا
• 64. تنظیم لحن و سبک پرامپت
• 65. استفاده از کلمات کلیدی مناسب
• 66. تکنیک‌های پیشرفته پرامپت‌نویسی
• 67. پرامپت‌های زنجیره‌ای (Chain-of-Thought Prompting)
• 68. پرامپت‌های مبتنی بر نقش (Role-based Prompting)
• 69. پرامپت‌های مبتنی بر قالب (Format-based Prompting)
• 70. پرامپت‌های تکرارشونده (Iterative Prompting)
• 71. پرامپت‌های شرطی (Conditional Prompting)
• 72. پرامپت‌های با اولویت‌بندی (Prioritized Prompting)
• 73. مهندسی پرامپت برای وظایف خاص
• 74. تولید متن خلاقانه
• 75. خلاصه‌سازی متون
• 76. ترجمه ماشینی
• 77. پاسخ به پرسش‌ها
• 78. طبقه‌بندی متون
• 79. استخراج اطلاعات
• 80. تولید کد برنامه‌نویسی
• 81. تولید محتوا برای شبکه‌های اجتماعی
• 82. تولید محتوای آموزشی
• 83. کاربرد پرامپت در تحلیل احساسات
• 84. کاربرد پرامپت در دیالوگ سیستم‌ها
• 85. ارزیابی کیفیت پرامپت‌ها
• 86. ابزارها و فریم‌ورک‌های مهندسی پرامپت
• 87. چالش‌های مهندسی پرامپت
• 88. اخلاقیات در مهندسی پرامپت
• 89. حفاظت از حریم خصوصی در پرامپت‌ها
• 90. مقابله با سوگیری در پرامپت‌ها
• 91. آینده مهندسی پرامپت
• 92. پروژه‌های عملی و کاربردی
• 93. ساخت یک سیستم پرسش و پاسخ با LLM
• 94. توسعه یک ابزار خلاصه‌سازی متن پیشرفته
• 95. ایجاد یک دستیار نویسندگی هوشمند
• 96. طراحی یک سیستم تولید محتوای خودکار
• 97. کاربرد LLM در تحلیل داده‌های متنی
• 98. تحلیل روندها با استفاده از LLM
• 99. شناسایی الگوهای پنهان در داده‌ها
• 100. توسعه سیستم‌های توصیه‌گر مبتنی بر LLM