فلش‌کارت‌های آموزشی مهندسی مدل‌های زبانی پیشرفته با Ray برای بهینه‌سازی عملکرد

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مهندسی مدل‌های زبانی پیشرفته با Ray برای بهینه‌سازی عملکرد

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: مدل‌های زبانی بزرگ (LLMs) و تنظیم دقیق آن‌ها

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. مبانی یادگیری ماشین
• 3. انواع یادگیری ماشین
• 4. یادگیری نظارت شده
• 5. یادگیری نظارت نشده
• 6. یادگیری تقویتی
• 7. شبکه‌های عصبی مقدماتی
• 8. مقدمه‌ای بر مدل‌های زبانی
• 9. مبانی پردازش زبان طبیعی
• 10. انواع مدل‌های زبانی
• 11. مدل‌های زبانی آماری
• 12. مدل‌های زبانی عصبی
• 13. شبکه‌های بازگشتی (RNN)
• 14. شبکه‌های حافظه طولانی کوتاه (LSTM)
• 15. واحدهای بازگشتی گیت‌دار (GRU)
• 16. مقدمه‌ای بر مدل‌های ترنسفورمر
• 17. معماری ترنسفورمر
• 18. مکانیزم توجه (Attention)
• 19. خود-توجهی (Self-Attention)
• 20. مدل‌های زبانی بزرگ (LLMs)
• 21. معماری GPT
• 22. معماری BERT
• 23. معماری T5
• 24. معماری Llama
• 25. مفاهیم کلیدی در LLMs
• 26. پارامترها و ابعاد مدل
• 27. فرآیند پیش‌آموزش (Pre-training)
• 28. مجموعه داده‌های پیش‌آموزش
• 29. تنظیم دقیق (Fine-tuning)
• 30. انواع تنظیم دقیق
• 31. تنظیم دقیق برای وظایف خاص
• 32. تنظیم دقیق با نظارت
• 33. تنظیم دقیق بدون نظارت
• 34. یادگیری انتقالی (Transfer Learning)
• 35. مفاهیم یادگیری انتقالی
• 36. کاربرد یادگیری انتقالی در LLMs
• 37. مقدمه‌ای بر Ray
• 38. معماری Ray
• 39. اجزای Ray
• 40. Ray Core
• 41. Ray Tune
• 42. Ray Train
• 43. Ray Serve
• 44. Ray Datasets
• 45. نصب و راه‌اندازی Ray
• 46. کار با Ray برای محاسبات توزیع شده
• 47. مقدمه‌ای بر مهندسی مدل‌های زبانی
• 48. چرخه حیات مدل زبانی
• 49. مراحل توسعه مدل زبانی
• 50. انتخاب مدل پایه
• 51. آماده‌سازی داده برای تنظیم دقیق
• 52. برچسب‌گذاری داده
• 53. پاکسازی داده
• 54. پیش‌پردازش داده
• 55. تنظیم دقیق مدل با Ray Train
• 56. مدیریت منابع در Ray
• 57. نظارت بر فرآیند تنظیم دقیق
• 58. ارزیابی مدل تنظیم شده
• 59. معیارهای ارزیابی مدل زبانی
• 60. Perplexity
• 61. BLEU
• 62. ROUGE
• 63. METEOR
• 64. ارزیابی مدل برای وظایف خاص
• 65. تنظیم دقیق برای تولید متن
• 66. تنظیم دقیق برای طبقه‌بندی متن
• 67. تنظیم دقیق برای ترجمه ماشینی
• 68. تنظیم دقیق برای پاسخ به سوال
• 69. بهینه‌سازی عملکرد مدل
• 70. تکنیک‌های بهینه‌سازی
• 71. کوانتیزاسیون مدل
• 72. تقطیر دانش (Knowledge Distillation)
• 73. هرس کردن مدل (Pruning)
• 74. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 75. استفاده از Ray Tune برای تنظیم ابرپارامترها
• 76. تنظیم دقیق با داده‌های کم (Few-shot Fine-tuning)
• 77. روش‌های Few-shot
• 78. تنظیم دقیق با استفاده از Prompting
• 79. Prompt Engineering
• 80. انواع Prompting
• 81. Zero-shot Prompting
• 82. One-shot Prompting
• 83. Few-shot Prompting
• 84. Prompting با Chain-of-Thought
• 85. کاربرد LLMs در برنامه‌های کاربردی
• 86. سیستم‌های پرسش و پاسخ
• 87. تولید محتوا
• 88. خلاصه‌سازی متن
• 89. ترجمه ماشینی
• 90. تولید کد
• 91. چت‌بات‌ها
• 92. ملاحظات اخلاقی در LLMs
• 93. سوگیری در مدل‌ها
• 94. حریم خصوصی داده‌ها
• 95. شفافیت و قابلیت توضیح
• 96. امنیت مدل‌ها
• 97. ملاحظات قانونی و شرعی در استفاده از LLMs
• 98. مقایسه Ray با چارچوب‌های دیگر
• 99. مزایای Ray برای LLMs
• 100. چالش‌های استفاده از LLMs