فلش‌کارت‌های آموزشی مهندسی و بهینه‌سازی کارایی در TensorRT-LLM

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مهندسی و بهینه‌سازی کارایی در TensorRT-LLM

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: بهینه‌سازی مدل‌های زبانی بزرگ (LLMs)

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و یادگیری ماشین
• 2. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLMs)
• 3. معماری ترنسفورمر در LLMs
• 4. نکات کلیدی مدل‌های ترنسفورمر
• 5. پردازش زبان طبیعی با LLMs
• 6. مفاهیم پایه در یادگیری عمیق
• 7. توابع فعال‌سازی و بهینه‌سازی
• 8. بهینه‌سازی مدل‌های یادگیری ماشین
• 9. مقدمه‌ای بر TensorRT-LLM
• 10. نصب و راه‌اندازی TensorRT-LLM
• 11. معماری TensorRT-LLM
• 12. مراحل اصلی در TensorRT-LLM
• 13. کاربرد TensorRT-LLM در LLMs
• 14. بهینه‌سازی زمان استنتاج (Inference)
• 15. تکنیک‌های کوانتیزاسیون (Quantization)
• 16. کوانتیزاسیون ۸ بیتی و ۴ بیتی
• 17. مزایای کوانتیزاسیون
• 18. بهینه‌سازی تنسور (Tensor Optimization)
• 19. تجمیع عملیات (Operation Fusion)
• 20. مدیریت حافظه در TensorRT-LLM
• 21. بهینه‌سازی لایه‌های مدل
• 22. بهینه‌سازی لایه‌های خطی (Linear Layers)
• 23. بهینه‌سازی لایه‌های توجه (Attention Layers)
• 24. بهینه‌سازی لایه‌های نرمال‌سازی (Normalization Layers)
• 25. بهینه‌سازی لایه‌های پیش‌خور (Feed-Forward Layers)
• 26. استفاده از کرنل‌های بهینه‌شده
• 27. کرنل‌های سفارشی برای LLMs
• 28. تولید و کامپایل کرنل‌ها
• 29. مدیریت کرنل‌های سفارشی
• 30. بهینه‌سازی در سطح مدل
• 31. تنظیم پارامترهای مدل
• 32. تکنیک‌های Pruning و Sparsity
• 33. کاربرد Sparsity در LLMs
• 34. بهینه‌سازی برای سخت‌افزارهای مختلف
• 35. پشتیبانی از GPUهای NVIDIA
• 36. بهینه‌سازی برای معماری‌های Ampere و Hopper
• 37. تنظیمات خاص برای سخت‌افزار
• 38. موازات‌سازی (Parallelism) در LLMs
• 39. موازات‌سازی مدل (Model Parallelism)
• 40. موازات‌سازی داده (Data Parallelism)
• 41. موازات‌سازی پایپ‌لاین (Pipeline Parallelism)
• 42. ترکیب روش‌های موازات‌سازی
• 43. استراتژی‌های بهینه‌سازی مولد (Generative Optimization)
• 44. تولید متن با کارایی بالا
• 45. بهینه‌سازی برای وظایف خاص
• 46. ترجمه ماشینی با TensorRT-LLM
• 47. خلاصه‌سازی متن با TensorRT-LLM
• 48. پاسخگویی به سوالات با TensorRT-LLM
• 49. فهم زبان طبیعی با TensorRT-LLM
• 50. کاربرد در سیستم‌های مکالمه‌ای
• 51. توسعه برنامه‌های کاربردی مبتنی بر LLMs
• 52. چالش‌های مهندسی LLMs
• 53. عیب‌یابی (Debugging) در TensorRT-LLM
• 54. پروفایلینگ (Profiling) عملکرد
• 55. اندازه‌گیری معیارهای کلیدی
• 56. تحلیل نتایج پروفایلینگ
• 57. بهبود مستمر کارایی
• 58. مدل‌های زبانی بزرگ پیشرفته
• 59. آخرین دستاوردها در LLMs
• 60. روش‌های آموزش LLMs
• 61. یادگیری تقویتی با بازخورد انسانی (RLHF)
• 62. کاربرد RLHF در بهینه‌سازی
• 63. اخلاق در هوش مصنوعی
• 64. مسئولیت‌پذیری در توسعه LLMs
• 65. امنیت مدل‌های زبانی بزرگ
• 66. حفاظت از داده‌ها و حریم خصوصی
• 67. مدیریت ریسک در پروژه‌های LLMs
• 68. استانداردهای صنعتی در LLMs
• 69. آینده مهندسی LLMs
• 70. مقایسه TensorRT-LLM با ابزارهای مشابه
• 71. TensorFlow و PyTorch در LLMs
• 72. مقایسه عملکرد TensorRT-LLM
• 73. کارایی در مقیاس بزرگ
• 74. بهینه‌سازی برای استقرار (Deployment)
• 75. استقرار LLMs در محیط‌های تولیدی
• 76. نکات عملی برای مهندسان
• 77. مطالعات موردی (Case Studies)
• 78. پروژه‌های موفق با TensorRT-LLM
• 79. درس‌های آموخته شده از پروژه‌ها
• 80. مفاهیم پیشرفته در یادگیری عمیق
• 81. شبکه‌های عصبی کانولوشنی (CNNs)
• 82. شبکه‌های عصبی بازگشتی (RNNs)
• 83. شبکه‌های حافظه طولانی کوتاه‌مدت (LSTMs)
• 84. شبکه‌های حافظه کوتاه‌مدت (GRUs)
• 85. یادگیری انتقالی (Transfer Learning)
• 86. تنظیم دقیق (Fine-tuning) مدل‌ها
• 87. بهینه‌سازی مدل برای حافظه محدود
• 88. تکنیک‌های کاهش حافظه
• 89. فشرده‌سازی مدل (Model Compression)
• 90. معماری‌های سبک (Lightweight Architectures)
• 91. ابزارهای ارزیابی LLMs
• 92. معیارهای ارزیابی کیفیت متن
• 93. فهم متقابل (Mutual Information)
• 94. ارزیابی عینی و ذهنی
• 95. روش‌های خودکار ارزیابی
• 96. کاربرد LLMs در علم و فناوری
• 97. کشف دارو با LLMs
• 98. تحلیل داده‌های علمی با LLMs
• 99. نوآوری در آموزش با LLMs
• 100. توسعه نرم‌افزار با LLMs