فلش‌کارت‌های آموزشی شتاب‌دهی استنتاج مدل‌های زبان بزرگ با TensorRT-LLM

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره شتاب‌دهی استنتاج مدل‌های زبان بزرگ با TensorRT-LLM

موضوع کلی: مهندسی نرم‌افزار و هوش مصنوعی

موضوع میانی: بهینه‌سازی و استقرار مدل‌های هوش مصنوعی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مهندسی نرم‌افزار و هوش مصنوعی
• 2. مبانی یادگیری ماشین و شبکه‌های عصبی
• 3. معماری مدل‌های زبان بزرگ (LLMs)
• 4. معرفی TensorRT-LLM
• 5. نصب و پیکربندی TensorRT-LLM
• 6. مفاهیم کلیدی بهینه‌سازی مدل
• 7. بهینه‌سازی مدل‌های زبان بزرگ
• 8. معماری GPU و تأثیر آن بر استنتاج
• 9. مقدمه‌ای بر TensorRT
• 10. تکنیک‌های کوانتیزاسیون در TensorRT-LLM
• 11. کوانتیزاسیون ۸ بیتی و ۴ بیتی
• 12. کوانتیزاسیون سفارشی
• 13. بهینه‌سازی معماری مدل برای TensorRT-LLM
• 14. مدل‌های پیش‌آموزش‌دیده و سفارشی‌سازی آن‌ها
• 15. تبدیل مدل‌های PyTorch به TensorRT-LLM
• 16. تبدیل مدل‌های TensorFlow به TensorRT-LLM
• 17. مدیریت مدل‌های مختلف
• 18. استقرار مدل‌های بهینه‌شده
• 19. معماری‌های استقرار مدل
• 20. مقدمه‌ای بر LLMOps
• 21. اصول LLMOps
• 22. ابزارهای LLMOps
• 23. مدیریت چرخه عمر مدل هوش مصنوعی
• 24. پایپ‌لاین‌های LLMOps
• 25. نظارت بر عملکرد مدل
• 26. عیب‌یابی و رفع مشکلات استنتاج
• 27. مقاله‌های علمی مرتبط با بهینه‌سازی LLM
• 28. بررسی مقالات کلیدی در زمینه LLMOps
• 29. تحلیل نتایج مقالات
• 30. استفاده از TensorRT-LLM در پروژه‌های واقعی
• 31. مطالعه موردی: استقرار مدل ترجمه ماشینی
• 32. مطالعه موردی: استقرار مدل خلاصه‌سازی متن
• 33. مطالعه موردی: استقرار مدل تولید محتوا
• 34. مقایسه TensorRT-LLM با ابزارهای مشابه
• 35. مزایای استفاده از TensorRT-LLM
• 36. محدودیت‌های TensorRT-LLM
• 37. آینده بهینه‌سازی استنتاج مدل‌های زبان بزرگ
• 38. روندهای جدید در LLMOps
• 39. تأثیر سخت‌افزار بر استنتاج مدل
• 40. بهینه‌سازی برای معماری‌های مختلف GPU
• 41. استفاده از چندین GPU برای استنتاج
• 42. مدیریت حافظه در استنتاج GPU
• 43. بهینه‌سازی پردازش موازی
• 44. تکنیک‌های پیشرفته بهینه‌سازی
• 45. پردازش دسته‌ای (Batch Processing)
• 46. پردازش توالی (Sequence Processing)
• 47. مدیریت صف درخواست‌ها
• 48. بهینه‌سازی تاخیر (Latency Optimization)
• 49. بهینه‌سازی توان عملیاتی (Throughput Optimization)
• 50. تنظیم پارامترهای مدل
• 51. تنظیم پارامترهای کوانتیزاسیون
• 52. تنظیم پارامترهای معماری
• 53. بهینه‌سازی مصرف انرژی
• 54. مدیریت منابع محاسباتی
• 55. نرم‌افزارهای متن‌باز مرتبط با LLMOps
• 56. مشارکت در پروژه‌های متن‌باز
• 57. استانداردهای امنیتی در استقرار مدل
• 58. حفاظت از مدل‌های هوش مصنوعی
• 59. اصول اخلاقی در هوش مصنوعی
• 60. مسئولیت‌پذیری در توسعه هوش مصنوعی
• 61. کاربرد TensorRT-LLM در صنایع مختلف
• 62. کاربرد در پردازش زبان طبیعی
• 63. کاربرد در تحلیل داده‌های متنی
• 64. کاربرد در سیستم‌های توصیه‌گر
• 65. کاربرد در ربات‌های گفتگو
• 66. کاربرد در هوش مصنوعی مولد
• 67. مقدمه‌ای بر مفاهیم پیشرفته مدل‌های زبان
• 68. معماری‌های ترنسفورمر پیشرفته
• 69. مدل‌های زبانی با قابلیت‌های چندوجهی
• 70. تکنیک‌های یادگیری انتقالی (Transfer Learning)
• 71. تنظیم دقیق (Fine-tuning) مدل‌ها
• 72. روش‌های ارزیابی مدل‌های زبان
• 73. معیارهای ارزیابی کیفیت استنتاج
• 74. روش‌های بهبود دقت مدل
• 75. مدیریت دانش در مدل‌های زبان
• 76. استفاده از پایگاه‌های دانش خارجی
• 77. ادغام دانش در مدل‌ها
• 78. تکنیک‌های تولید متن خلاقانه
• 79. تولید شعر و داستان
• 80. تولید کد برنامه‌نویسی
• 81. تولید محتوای آموزشی
• 82. تکنیک‌های تشخیص الگو در متن
• 83. تحلیل احساسات متنی
• 84. شناسایی موجودیت‌های نام‌دار
• 85. استخراج روابط بین موجودیت‌ها
• 86. کاربرد TensorRT-LLM در تحقیقات علمی
• 87. پژوهش در زمینه مدل‌های زبانی
• 88. توسعه الگوریتم‌های جدید
• 89. ارائه نتایج تحقیقاتی
• 90. مقدمه‌ای بر برنامه‌نویسی موازی در پایتون
• 91. کتابخانه‌های موازی‌سازی
• 92. استفاده از CUDA برای پردازش موازی
• 93. مدیریت خطاهای کوانتیزاسیون
• 94. کاهش اثرات ناخواسته کوانتیزاسیون
• 95. بهینه‌سازی برای معماری‌های خاص
• 96. مدل‌های کوچک‌تر و کارآمدتر
• 97. تکنیک‌های فشرده‌سازی مدل
• 98. فشرده‌سازی مبتنی بر هرس (Pruning)
• 99. فشرده‌سازی مبتنی بر تقطیر دانش (Knowledge Distillation)
• 100. چالش‌های استقرار مدل‌های بزرگ