فلش‌کارت‌های آموزشی شفافیت و توضیح‌پذیری در الگوریتم‌های یادگیری ماشین

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره شفافیت و توضیح‌پذیری در الگوریتم‌های یادگیری ماشین

موضوع کلی: علوم داده و یادگیری ماشین

موضوع میانی: مسئولیت پذیری (Accountability)

📋 سرفصل‌های دوره

• 1. مقدمه به شفافیت و توضیح‌پذیری
• 2. چرا شفافیت در یادگیری ماشین مهم است؟
• 3. مفاهیم کلیدی: شفافیت، توضیح‌پذیری، قابلیت تفسیر
• 4. تعریف انواع مدل‌های یادگیری ماشین: جعبه سیاه و جعبه سفید
• 5. اهمیت توضیح‌پذیری برای اعتماد و پذیرش
• 6. ملاحظات اخلاقی در شفافیت الگوریتم‌ها
• 7. مسائل حقوقی و نظارتی مرتبط
• 8. شفافیت در چرخه حیات یادگیری ماشین
• 9. مراحل توسعه مدل و نقاط نیازمند شفافیت
• 10. جمع‌آوری و آماده‌سازی داده‌ها: تاثیر بر شفافیت
• 11. انتخاب ویژگی و مهندسی ویژگی: نقش در توضیح‌پذیری
• 12. انتخاب مدل و تاثیر آن بر شفافیت
• 13. روش‌های ارزیابی مدل و شاخص‌های شفافیت
• 14. تست و اعتبارسنجی مدل با رویکرد شفاف
• 15. استقرار و پایش مدل: شفافیت در عمل
• 16. نگهداری و به‌روزرسانی مدل: حفظ شفافیت
• 17. تکنیک‌های توضیح‌پذیری مدل‌های جعبه سیاه
• 18. روش‌های پس از وقوع (Post-hoc Explanations)
• 19. تکنیک‌های مبتنی بر جایگزینی (Surrogate Models)
• 20. یادگیری ماشین قابل تفسیر (Interpretable Machine Learning)
• 21. مدل‌های ذاتی قابل تفسیر (Intrinsically Interpretable Models)
• 22. مدل‌های خطی ساده (رگرسیون خطی، رگرسیون لجستیک)
• 23. درختان تصمیم (Decision Trees)
• 24. قوانین انجمنی (Association Rules)
• 25. ماشین‌های بردار پشتیبان با کرنل خطی (Linear SVM)
• 26. مدل‌های مبتنی بر قوانین (Rule-based Models)
• 27. توضیح‌پذیری مدل‌های پیچیده
• 28. تکنیک LIME (Local Interpretable Model-agnostic Explanations)
• 29. توضیح LIME
• 30. نحوه عملکرد LIME
• 31. کاربرد LIME برای طبقه‌بندی
• 32. کاربرد LIME برای رگرسیون
• 33. محدودیت‌های LIME
• 34. تکنیک SHAP (SHapley Additive exPlanations)
• 35. مفهوم مقادیر شاپلی
• 36. محاسبه مقادیر شاپلی
• 37. تفسیر مقادیر شاپلی
• 38. نمودارهای SHAP (SHAP Summary Plot)
• 39. نمودارهای SHAP (SHAP Dependence Plot)
• 40. نمودارهای SHAP (SHAP Interaction Plot)
• 41. مزایای SHAP
• 42. محدودیت‌های SHAP
• 43. تکنیک‌های مبتنی بر استخراج ویژگی (Feature Importance)
• 44. اهمیت کلی ویژگی (Global Feature Importance)
• 45. روش‌های مبتنی بر حذف (Permutation Importance)
• 46. روش‌های مبتنی بر گرادیان (Gradient-based Importance)
• 47. اهمیت محلی ویژگی (Local Feature Importance)
• 48. تکنیک‌های مبتنی بر تجزیه و تحلیل تاثیر (Influence Functions)
• 49. توابع تاثیر در یادگیری ماشین
• 50. کاربرد توابع تاثیر
• 51. تکنیک‌های مبتنی بر مثال‌های نماینده (Representative Examples)
• 52. شناسایی مثال‌های کلیدی
• 53. مثال‌های پرتاثیر (Prototypes)
• 54. مثال‌های گمراه‌کننده (Criticisms)
• 55. تکنیک‌های مبتنی بر تجزیه و تحلیل حالات (Counterfactual Explanations)
• 56. توضیحات متقابل
• 57. جستجوی توضیحات متقابل
• 58. کاربرد توضیحات متقابل
• 59. تکنیک‌های مبتنی بر تجسم (Visualization Techniques)
• 60. نمودارهای پراکندگی (Scatter Plots)
• 61. هیستوگرام‌ها (Histograms)
• 62. نمودارهای میله‌ای (Bar Charts)
• 63. نقشه‌های حرارتی (Heatmaps)
• 64. تجسم تصمیمات مدل
• 65. تجسم ویژگی‌ها
• 66. تجسم فضای ویژگی (Feature Space Visualization)
• 67. تکنیک‌های توضیح‌پذیری برای شبکه‌های عصبی عمیق
• 68. نقشه‌برداری فعال‌سازی کلاس (Class Activation Mapping - CAM)
• 69. Gradient-weighted Class Activation Mapping (Grad-CAM)
• 70. Grad-CAM++
• 71. Integrated Gradients
• 72. Excitation Backpropagation
• 73. DeepLIFT
• 74. LRP (Layer-wise Relevance Propagation)
• 75. تکنیک‌های توضیح‌پذیری در پردازش زبان طبیعی (NLP)
• 76. تفسیر مدل‌های مبتنی بر توجه (Attention Models)
• 77. نشان دادن کلمات مهم در متن
• 78. تجسم ماتریس‌های توجه
• 79. تجسم ساختار جملات
• 80. تکنیک‌های توضیح‌پذیری در بینایی ماشین (Computer Vision)
• 81. نقشه‌های حرارتی لایه‌های کانولوشنی
• 82. تجسم فیلترهای کانولوشنی
• 83. تجسم ویژگی‌های یادگرفته شده
• 84. تجسم تشخیص اشیاء
• 85. کاربرد شفافیت و توضیح‌پذیری در حوزه‌های مختلف
• 86. سیستم‌های توصیه‌گر (Recommender Systems)
• 87. توضیح دلیل توصیه‌ها
• 88. سیستم‌های تشخیص تقلب (Fraud Detection)
• 89. توضیح دلایل تشخیص تقلب
• 90. حوزه سلامت (Healthcare)
• 91. توضیح تشخیص بیماری
• 92. حوزه مالی (Finance)
• 93. توضیح تصمیمات اعتباری
• 94. حوزه عدالت کیفری (Criminal Justice)
• 95. شفافیت در پیش‌بینی ریسک
• 96. ملاحظات پیاده‌سازی شفافیت
• 97. انتخاب ابزارها و کتابخانه‌های مناسب
• 98. ایجاد گزارش‌های شفاف
• 99. ارائه توضیحات به کاربران نهایی
• 100. چالش‌های آینده در شفافیت و توضیح‌پذیری