فلش‌کارت‌های آموزشی بهینه‌سازی و استقرار مدل‌های زبانی بزرگ با TensorRT-LLM

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی و استقرار مدل‌های زبانی بزرگ با TensorRT-LLM

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: پردازش زبان طبیعی و مدل‌های زبانی بزرگ

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. مبانی شبکه‌های عصبی مصنوعی
• 3. آشنایی با مفاهیم یادگیری عمیق
• 4. معماری‌های کلیدی شبکه‌های عصبی
• 5. مبانی پردازش زبان طبیعی
• 6. مقدمه‌ای بر مدل‌های زبانی
• 7. انواع مدل‌های زبانی سنتی
• 8. مقدمه‌ای بر شبکه‌های عصبی بازگشتی (RNN)
• 9. شبکه‌های حافظه طولانی کوتاه‌مدت (LSTM)
• 10. واحد بازگشتی دروازه‌ای (GRU)
• 11. آشنایی با مکانیزم توجه (Attention Mechanism)
• 12. ترنسفورمرها: معماری انقلابی
• 13. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLMs)
• 14. مبانی معماری ترنسفورمر
• 15. تکامل مدل‌های زبانی بزرگ
• 16. معماری‌های پیشرفته LLM
• 17. آموزش مدل‌های زبانی بزرگ
• 18. داده‌های آموزشی برای LLMs
• 19. فرهنگ لغت و توکن‌سازی (Tokenization)
• 20. روش‌های کدگذاری ورودی
• 21. مبانی بهینه‌سازی مدل‌ها
• 22. گرادیان کاهشی (Gradient Descent)
• 23. بهینه‌سازهای پیشرفته
• 24. تنظیم پارامترهای مدل (Hyperparameter Tuning)
• 25. روش‌های منظم‌سازی (Regularization)
• 26. مقدمه‌ای بر TensorRT-LLM
• 27. چرا TensorRT-LLM؟
• 28. معماری TensorRT-LLM
• 29. کامپایل مدل‌ها با TensorRT-LLM
• 30. بهینه‌سازی مدل‌ها برای استقرار
• 31. مفاهیم پایه‌ای استقرار مدل
• 32. چالش‌های استقرار LLMs
• 33. معماری‌های TensorRT برای استقرار
• 34. نقش CUDA در TensorRT
• 35. بهینه‌سازی لایه‌های شبکه عصبی
• 36. عملیات ماتریسی بهینه
• 37. تکنیک‌های کوانتیزاسیون (Quantization)
• 38. کوانتیزاسیون ۱۰ بیتی و ۸ بیتی
• 39. فشرده‌سازی مدل‌ها
• 40. استفاده از حافظه بهینه
• 41. مدیریت حافظه در TensorRT-LLM
• 42. استقرار مدل‌های بزرگ بر روی سخت‌افزار
• 43. پردازنده‌های گرافیکی (GPU) برای LLMs
• 44. بهینه‌سازی برای معماری‌های GPU
• 45. مدیریت پردازش موازی
• 46. استقرار توزیع‌شده مدل‌ها
• 47. مقدمه‌ای بر PyTorch
• 48. کار با تانسورها در PyTorch
• 49. ساخت مدل‌های سفارشی در PyTorch
• 50. آموزش مدل‌ها با PyTorch
• 51. ذخیره و بارگذاری مدل‌ها
• 52. مبانی TensorRT
• 53. فرایند کامپایل TensorRT
• 54. استفاده از TensorRT Runtime
• 55. یکپارچه‌سازی PyTorch با TensorRT
• 56. TensorRT-LLM برای مدل‌های ترنسفورمر
• 57. پیاده‌سازی ترنسفورمر با TensorRT-LLM
• 58. مدل‌های Encoder-Decoder
• 59. مدل‌های Decoder-Only
• 60. بهینه‌سازی برای استنتاج (Inference)
• 61. کاهش تأخیر (Latency)
• 62. افزایش توان عملیاتی (Throughput)
• 63. مدیریت بچ‌های ورودی
• 64. استقرار مدل‌های تولید متن
• 65. بهینه‌سازی تولید متن
• 66. تکنیک‌های نمونه‌برداری (Sampling)
• 67. روش‌های جستجوی پرتو (Beam Search)
• 68. ارزیابی عملکرد مدل‌ها
• 69. معیارهای ارزیابی LLMs
• 70. معیارهای کیفیت متن تولیدی
• 71. مقدمه‌ای بر بهینه‌سازی عملکرد
• 72. شناسایی گلوگاه‌های عملکرد
• 73. استفاده از پروفایلرها
• 74. بهینه‌سازی کد PyTorch
• 75. بهینه‌سازی کد C++ در TensorRT
• 76. مدیریت وابستگی‌ها
• 77. مستندسازی پروژه
• 78. مراحل استقرار عملیاتی
• 79. تست و اعتبارسنجی مدل
• 80. نظارت بر مدل مستقر شده
• 81. به‌روزرسانی مدل‌ها
• 82. ملاحظات امنیتی در استقرار
• 83. مبانی حاکمیت داده
• 84. مسئولیت‌پذیری در هوش مصنوعی
• 85. اخلاق در توسعه LLMs
• 86. چارچوب‌های قانونی برای AI
• 87. استفاده از AI در حوزه‌های صنعتی
• 88. کاربرد AI در خدمات مشتری
• 89. AI در تحلیل داده‌های بزرگ
• 90. AI در سیستم‌های توصیه‌گر
• 91. آینده هوش مصنوعی و LLMs
• 92. چالش‌های پیش روی AI
• 93. تحقیقات نوین در LLMs
• 94. یادگیری تقویتی با LLMs
• 95. مدل‌های چندوجهی (Multimodal Models)
• 96. آشنایی با کتابخانه‌های مرتبط
• 97. کار با Hugging Face Transformers
• 98. استفاده از ابزارهای مانیتورینگ
• 99. مقدمه‌ای بر معماری‌های نسل جدید
• 100. جمع‌بندی و چشم‌انداز آینده