فلش‌کارت‌های آموزشی تکنیک‌های توضیح‌پذیری مدل‌های پیچیده هوش مصنوعی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تکنیک‌های توضیح‌پذیری مدل‌های پیچیده هوش مصنوعی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: هوش مصنوعی قابل اعتماد (Trustworthy AI)

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و مدل‌های پیچیده
• 2. مقدمه‌ای بر توضیح‌پذیری (Explainability)
• 3. چرا مدل‌های پیچیده نیاز به توضیح دارند؟
• 4. اهمیت توضیح‌پذیری در کاربردهای حیاتی
• 5. دسته‌بندی روش‌های توضیح‌پذیری
• 6. روش‌های مبتنی بر مدل (Model-Based Methods)
• 7. روش‌های مستقل از مدل (Model-Agnostic Methods)
• 8. مفاهیم کلیدی در توضیح‌پذیری
• 9. شاخص‌های ارزیابی توضیح‌پذیری
• 10. توضیح‌پذیری محلی در مقابل توضیح‌پذیری سراسری
• 11. مقدمه‌ای بر مدل‌های یادگیری ماشین پیچیده
• 12. شبکه‌های عصبی عمیق (Deep Neural Networks)
• 13. ماشین‌های بردار پشتیبان (Support Vector Machines)
• 14. جنگل‌های تصادفی (Random Forests)
• 15. تقویت گرادیان (Gradient Boosting)
• 16. مدل‌های زبانی بزرگ (Large Language Models)
• 17. مدل‌های تولید تصویر (Generative Image Models)
• 18. مقدمه‌ای بر داده‌ها و پیش‌پردازش آن‌ها
• 19. انواع داده‌ها در هوش مصنوعی
• 20. پاکسازی و آماده‌سازی داده‌ها
• 21. مهندسی ویژگی (Feature Engineering)
• 22. انتخاب ویژگی (Feature Selection)
• 23. روش‌های بصری‌سازی داده‌ها
• 24. مقدمه‌ای بر ارزیابی مدل‌های یادگیری ماشین
• 25. معیارهای ارزیابی برای طبقه‌بندی
• 26. معیارهای ارزیابی برای رگرسیون
• 27. اعتبارسنجی متقابل (Cross-Validation)
• 28. بیش‌برازش (Overfitting) و کم‌برازش (Underfitting)
• 29. تشخیص بیش‌برازش و راهکارهای آن
• 30. تکنیک LIME (Local Interpretable Model-agnostic Explanations)
• 31. کاربرد LIME در مدل‌های طبقه‌بندی
• 32. کاربرد LIME در مدل‌های رگرسیون
• 33. مثال‌های عملی با LIME
• 34. تکنیک SHAP (SHapley Additive exPlanations)
• 35. مفهوم ارزش شپلی (Shapley Value)
• 36. محاسبه SHAP برای ویژگی‌ها
• 37. تفسیر خروجی SHAP
• 38. مقایسه LIME و SHAP
• 39. کاربرد SHAP در مدل‌های پیچیده
• 40. روش‌های مبتنی بر اهمیت ویژگی (Feature Importance)
• 41. اهمیت ویژگی در مدل‌های درختی
• 42. اهمیت ویژگی مبتنی بر جایگشت (Permutation Importance)
• 43. محدودیت‌های اهمیت ویژگی
• 44. تکنیک‌های تجزیه و تحلیل حساسیت (Sensitivity Analysis)
• 45. تغییرات جزئی در ورودی و تأثیر آن بر خروجی
• 46. نقشه‌های حساسیت (Sensitivity Maps)
• 47. کاربرد تجزیه و تحلیل حساسیت در مدل‌های عصبی
• 48. روش‌های مبتنی بر نقشه‌های فعال‌سازی (Activation Maps)
• 49. نقشه‌های فعال‌سازی در شبکه‌های عصبی کانولوشنی (CNNs)
• 50. تکنیک‌های CAM (Class Activation Mapping)
• 51. تکنیک Grad-CAM
• 52. تفسیر نقشه‌های فعال‌سازی
• 53. کاربرد نقشه‌های فعال‌سازی در بینایی ماشین
• 54. روش‌های استخراج قوانین (Rule Extraction)
• 55. استخراج قوانین از درخت‌های تصمیم
• 56. استخراج قوانین از شبکه‌های عصبی
• 57. محدودیت‌های استخراج قوانین
• 58. روش‌های مبتنی بر نمونه (Example-Based Explanations)
• 59. نمونه‌های نماینده (Prototypes) و نمونه‌های حاشیه‌ای (Criticisms)
• 60. روش‌های Case-Based Reasoning
• 61. تفسیر مبتنی بر نمونه‌های نزدیک
• 62. روش‌های مبتنی بر داده‌های مصنوعی (Counterfactual Explanations)
• 63. پیدا کردن نزدیک‌ترین نمونه با خروجی متفاوت
• 64. اهمیت داده‌های مصنوعی در تصمیم‌گیری
• 65. کاربرد داده‌های مصنوعی در تعامل با مدل
• 66. روش‌های مبتنی بر تجزیه و تحلیل واریانس (ANOVA)
• 67. تحلیل واریانس برای درک اثر متغیرها
• 68. کاربرد ANOVA در مدل‌های آماری
• 69. محدودیت‌های ANOVA در مدل‌های پیچیده
• 70. توضیح‌پذیری مدل‌های زبانی بزرگ (LLMs)
• 71. اهمیت توضیح‌پذیری در LLMs
• 72. تکنیک‌های توضیح‌پذیری برای LLMs
• 73. تحلیل توجه (Attention Analysis) در LLMs
• 74. تفسیر بردارهای جاسازی (Embeddings)
• 75. روش‌های توضیح‌پذیری برای مدل‌های تولید متن
• 76. توضیح‌پذیری مدل‌های تولید تصویر
• 77. تحلیل تأثیر ورودی بر خروجی مدل‌های تولید تصویر
• 78. تکنیک‌های بصری‌سازی در مدل‌های تولید تصویر
• 79. کاربرد توضیح‌پذیری در تشخیص تقلب
• 80. کاربرد توضیح‌پذیری در پزشکی
• 81. کاربرد توضیح‌پذیری در امور مالی
• 82. کاربرد توضیح‌پذیری در سیستم‌های توصیه‌گر
• 83. مسائل اخلاقی در توضیح‌پذیری هوش مصنوعی
• 84. حریم خصوصی و توضیح‌پذیری
• 85. سوگیری (Bias) در مدل‌ها و توضیح‌پذیری
• 86. چالش‌های پیاده‌سازی توضیح‌پذیری در عمل
• 87. آینده توضیح‌پذیری مدل‌های هوش مصنوعی
• 88. تکنیک‌های پیشرفته توضیح‌پذیری
• 89. توضیح‌پذیری برای مدل‌های یادگیری تقویتی (Reinforcement Learning)
• 90. ارزیابی و اعتبارسنجی روش‌های توضیح‌پذیری
• 91. استانداردسازی در توضیح‌پذیری
• 92. توضیح‌پذیری برای کاربران غیرمتخصص
• 93. پلتفرم‌ها و ابزارهای توضیح‌پذیری