فلش‌کارت‌های آموزشی امنیت و حریم خصوصی در مدل‌های زبانی با تمرکز بر افزایش شفافیت و اعتبار

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب امنیت و حریم خصوصی در مدل‌های زبانی با تمرکز بر افزایش شفافیت و اعتبار

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: امنیت و حریم خصوصی در LLMs

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر مدل های زبانی و اهمیت امنیت و حریم خصوصی
• 2. تعریف مدل های زبانی بزرگ (LLMs)
• 3. کاربردهای مدل های زبانی
• 4. چالش های امنیتی مرتبط با مدل های زبانی
• 5. چالش های حریم خصوصی مرتبط با مدل های زبانی
• 6. اهمیت شفافیت در مدل های زبانی
• 7. اهمیت اعتبار در مدل های زبانی
• 8. ارتباط بین امنیت، حریم خصوصی، شفافیت و اعتبار
• 9. اهداف دوره آموزشی
• 10. مروری بر تهدیدات امنیتی در مدل های زبانی
• 11. حملات تزریق پرامپت (Prompt Injection Attacks)
• 12. تکنیک های حمله تزریق پرامپت
• 13. روش های دفاع در برابر تزریق پرامپت
• 14. حملات افشای داده های آموزشی (Training Data Leakage)
• 15. چگونه داده های آموزشی ممکن است افشا شوند
• 16. روش های پیشگیری از افشای داده های آموزشی
• 17. حملات سوء استفاده از مدل (Model Exploitation Attacks)
• 18. حملات تولید محتوای مضر
• 19. حملات تبعیض آمیز و جانبدارانه
• 20. حملات فیشینگ و مهندسی اجتماعی با استفاده از LLMs
• 21. حملات انکار سرویس (Denial of Service) بر روی LLMs
• 22. حملات سرقت مدل (Model Stealing Attacks)
• 23. مروری بر چالش های حریم خصوصی در مدل های زبانی
• 24. جمع آوری و استفاده از داده های حساس
• 25. حریم خصوصی در داده های آموزشی
• 26. حریم خصوصی در تعاملات کاربر با LLM
• 27. شناسایی و احراز هویت کاربران
• 28. نقض حریم خصوصی از طریق خروجی مدل
• 29. تکنیک های حمله به حریم خصوصی
• 30. حملات استنتاج عضویت (Membership Inference Attacks)
• 31. حملات بازسازی داده (Data Reconstruction Attacks)
• 32. حملات شناسایی شخصی (Personal Identification Attacks)
• 33. حملات استنتاج ویژگی (Attribute Inference Attacks)
• 34. مدل های زبانی و مسائل مربوط به رضایت کاربر
• 35. داده های شخصی در پرامپت ها
• 36. حریم خصوصی در داده های مکالمه ای
• 37. اهمیت شفافیت در مدل های زبانی
• 38. تعریف شفافیت در مدل های زبانی
• 39. چرا شفافیت مهم است
• 40. انواع شفافیت
• 41. شفافیت در داده های آموزشی
• 42. شفافیت در معماری مدل
• 43. شفافیت در فرآیند آموزش
• 44. شفافیت در خروجی مدل
• 45. شفافیت در قابلیت تفسیر (Interpretability)
• 46. شفافیت در توضیح پذیری (Explainability)
• 47. موانع شفافیت
• 48. پیچیدگی مدل های زبانی
• 49. فقدان ابزار مناسب
• 50. ملاحظات تجاری و مالکیت معنوی
• 51. دسته بندی تکنیک های افزایش شفافیت
• 52. شفافیت در داده ها
• 53. شفافیت در مدل
• 54. شفافیت در خروجی
• 55. تکنیک های افزایش شفافیت در داده های آموزشی
• 56. مستندسازی مجموعه داده ها
• 57. بررسی و پاکسازی داده ها
• 58. مدیریت داده های حساس
• 59. برچسب گذاری داده ها
• 60. شفافیت در معماری و فرآیند آموزش
• 61. مستندسازی معماری مدل
• 62. توضیح پارامترها و لایه ها
• 63. مستندسازی فرآیند آموزش
• 64. تنظیمات هایپرپارامترها
• 65. روش های اعتبارسنجی و تست
• 66. شفافیت در خروجی مدل
• 67. توضیح دلایل خروجی
• 68. ارائه منابع خروجی
• 69. مدیریت عدم قطعیت در خروجی
• 70. تکنیک های قابلیت تفسیر (Interpretability)
• 71. روش های مبتنی بر توجه (Attention Mechanisms)
• 72. تحلیل وزن های مدل
• 73. تکنیک های مبتنی بر نمونه (Example-based Methods)
• 74. تکنیک های مبتنی بر جایگزینی (Surrogate Models)
• 75. تکنیک های مبتنی بر حذف (Removal Methods)
• 76. تکنیک های مبتنی بر Perturbation
• 77. تکنیک های مبتنی بر LIME و SHAP
• 78. تکنیک های توضیح پذیری (Explainability)
• 79. توضیح تصمیمات مدل
• 80. توضیح پیش بینی های مدل
• 81. توضیح علت خروجی های خاص
• 82. ارتباط قابلیت تفسیر و توضیح پذیری
• 83. اهمیت اعتبار در مدل های زبانی
• 84. تعریف اعتبار در مدل های زبانی
• 85. چرا اعتبار مهم است
• 86. ابعاد اعتبار
• 87. دقت و صحت (Accuracy and Correctness)
• 88. قابلیت اطمینان (Reliability)
• 89. انصاف (Fairness)
• 90. مقاومت در برابر سوء استفاده (Robustness)
• 91. کاهش سوگیری (Bias Reduction)
• 92. قابلیت اعتماد (Trustworthiness)
• 93. چالش های اعتبار
• 94. سوگیری در داده های آموزشی
• 95. خطا در فرآیند آموزش
• 96. تولید اطلاعات نادرست (Hallucinations)
• 97. تولید محتوای مضر
• 98. وابستگی به داده های آموزشی
• 99. تکنیک های افزایش اعتبار
• 100. روش های بهبود کیفیت داده های آموزشی