کتاب صوتی پیشرفته: هرس با هدایت دانش (Knowledge-Guided Pruning)

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره پیشرفته: هرس با هدایت دانش (Knowledge-Guided Pruning)

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: Model Pruning

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هرس با هدایت دانش
• 2. مبانی هرس مدل‌های یادگیری عمیق
• 3. انواع هرس مدل‌ها: ساختاری و غیرساختاری
• 4. روش‌های هرس مبتنی بر اهمیت پارامتر
• 5. اهمیت کانال‌ها و فیلترها در هرس
• 6. معیارهای انتخاب پارامترهای کم‌اهمیت
• 7. تکنیک‌های هرس مبتنی بر گرادیان
• 8. هرس مبتنی بر اطلاعات متقابل
• 9. هرس با استفاده از تابع هزینه
• 10. رویکردهای هرس مبتنی بر بهینه‌سازی
• 11. هرس برای کاهش پیچیدگی محاسباتی
• 12. هرس برای افزایش سرعت استنتاج
• 13. هرس برای کاهش حجم مدل
• 14. فشرده‌سازی مدل با هرس و کوانتیزاسیون
• 15. ترکیب هرس و کوانتیزاسیون
• 16. هرس برای مدل‌های تشخیص تصویر
• 17. هرس برای مدل‌های پردازش زبان طبیعی
• 18. هرس برای شبکه‌های عصبی کانولوشنی
• 19. هرس برای شبکه‌های عصبی بازگشتی
• 20. هرس برای مدل‌های ترنسفورمر
• 21. هرس خودکار (Automated Pruning)
• 22. یادگیری تقویتی در هرس مدل
• 23. یادگیری عمیق برای هرس
• 24. هرس با استفاده از شبکه‌های عصبی کوچک
• 25. تکنیک‌های بازیابی دقت پس از هرس
• 26. بازیابی دقت با تنظیم دقیق (Fine-tuning)
• 27. آموزش مدل‌های کوچک‌تر به جای هرس
• 28. همبستگی بین هرس و تعمیم‌پذیری
• 29. تحلیل حساسیت مدل به هرس
• 30. ارزیابی مدل‌های هرس شده
• 31. معیارهای ارزیابی هرس: دقت، حجم، سرعت
• 32. ابزارها و کتابخانه‌های هرس مدل
• 33. پیاده‌سازی هرس با PyTorch
• 34. پیاده‌سازی هرس با TensorFlow
• 35. هرس در چارچوب کتابخانه‌های متن‌باز
• 36. هرس مدل‌های آموزش‌دیده از پیش
• 37. اثر هرس بر حافظه مورد نیاز مدل
• 38. هرس و مصرف انرژی در دستگاه‌های لبه
• 39. کاربرد هرس در دستگاه‌های موبایل
• 40. کاربرد هرس در سیستم‌های نهفته
• 41. هرس مدل‌های مبتنی بر یادگیری فدرال
• 42. چالش‌های هرس در یادگیری فدرال
• 43. بهینه‌سازی هرس برای سخت‌افزارهای خاص
• 44. هرس با در نظر گرفتن معماری سخت‌افزار
• 45. هرس مدل‌های بزرگ زبانی (LLMs)
• 46. چالش‌های هرس مدل‌های ترنسفورمر بزرگ
• 47. هرس اتنشن در مدل‌های ترنسفورمر
• 48. هرس لایه‌های میانی در ترنسفورمرها
• 49. هرس با استفاده از تکنیک‌های دانش‌تقطیری
• 50. تقطیر دانش برای بهبود مدل‌های هرس شده
• 51. هرس مبتنی بر فعال‌سازی نورون‌ها
• 52. هرس با استفاده از روش‌های آماری
• 53. تحلیل آماری اهمیت پارامترها
• 54. هرس با رویکردهای بیزی
• 55. مدل‌سازی عدم قطعیت در هرس
• 56. هرس و قابلیت تفسیرپذیری مدل
• 57. تاثیر هرس بر سوگیری مدل
• 58. بررسی سوگیری‌های ناشی از هرس
• 59. هرس و اخلاق در هوش مصنوعی
• 60. مسئولیت‌پذیری در هرس مدل‌ها
• 61. هرس و پایداری مدل‌های هوش مصنوعی
• 62. تکنیک‌های پیشرفته هرس غیرساختاری
• 63. هرس مبتنی بر اثرات متقابل پارامترها
• 64. هرس با استفاده از الگوریتم‌های ژنتیک
• 65. بهینه‌سازی پارامترهای هرس با الگوریتم‌های تکاملی
• 66. هرس و بهینه‌سازی تابع هزینه
• 67. تکنیک‌های هرس پویا (Dynamic Pruning)
• 68. هرس در طول فرآیند آموزش
• 69. هرس در زمان استنتاج
• 70. هرس با هدف حفظ کارایی مدل
• 71. هرس برای کاربردهای زمان واقعی
• 72. هرس و تأثیر آن بر دقت در داده‌های نامتعادل
• 73. مدیریت عدم تعادل داده پس از هرس
• 74. هرس و تعمیم‌پذیری به دامنه‌های جدید
• 75. انتقال دانش از مدل‌های بزرگ به کوچک‌تر
• 76. هرس و امنیت مدل‌های هوش مصنوعی
• 77. حملات احتمالی به مدل‌های هرس شده
• 78. دفاع در برابر حملات به مدل‌های هرس شده
• 79. مطالعات موردی هرس موفق
• 80. بررسی مدل‌های هرس شده در صنعت
• 81. چالش‌های پیاده‌سازی عملی هرس
• 82. راهکارهای غلبه بر چالش‌های پیاده‌سازی
• 83. مباحث پیشرفته در هرس مدل‌های یادگیری عمیق
• 84. مرزهای دانش در هرس مدل‌ها
• 85. جهت‌گیری‌های تحقیقاتی آینده در هرس
• 86. هرس و هوش مصنوعی مولد
• 87. هرس مدل‌های گراف عصبی
• 88. کاربرد هرس در رباتیک
• 89. هرس مدل‌های یادگیری تقویتی عمیق
• 90. تاثیر هرس بر پایداری در یادگیری تقویتی
• 91. هرس و بهینه‌سازی منابع محاسباتی
• 92. مطالعه تطبیقی روش‌های هرس
• 93. ارزیابی اقتصادی هرس مدل‌ها
• 94. هرس و نقش آن در کاهش ردپای کربن هوش مصنوعی
• 95. ملاحظات اخلاقی در استفاده از هرس
• 96. آینده هرس مدل‌های هوش مصنوعی
• 97. پیش‌بینی روندها در هرس
• 98. هرس و دموکراتیزه کردن هوش مصنوعی
• 99. هرس و دسترسی به فناوری‌های پیشرفته
• 100. هرس و نوآوری در معماری‌های عصبی