فلش‌کارت‌های آموزشی کاربرد MCMC در مدل‌سازی آماری برای یادگیری ماشین

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب کاربرد MCMC در مدل‌سازی آماری برای یادگیری ماشین

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: مدل‌های آماری برای یادگیری ماشین بیزی

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر مدل سازی آماری
• 2. ضرورت مدل سازی آماری در یادگیری ماشین
• 3. مفهوم فضای احتمال
• 4. متغیرهای تصادفی و توزیع ها
• 5. توزیع های گسسته و پیوسته
• 6. توزیع های رایج (گاوسی، برنولی، پواسون)
• 7. توزیع های چند متغیره
• 8. مفهوم تابع احتمال
• 9. مفهوم تابع چگالی احتمال
• 10. تابع توزیع تجمعی
• 11. امید ریاضی و واریانس
• 12. همبستگی و کوواریانس
• 13. مدل های آماری پارامترايز شده
• 14. تخمین پارامترها
• 15. حداکثر درستنمایی (Maximum Likelihood Estimation - MLE)
• 16. روش گشتاورها (Method of Moments)
• 17. حداقل مربعات (Least Squares)
• 18. مشکلات تخمین پارامترها (بیش برازش، کم برازش)
• 19. مقدمه ای بر استنتاج بیزی
• 20. نظریه بیز
• 21. توزیع پیشین (Prior Distribution)
• 22. تابع درستنما (Likelihood Function)
• 23. توزیع پسین (Posterior Distribution)
• 24. مزایای رویکرد بیزی
• 25. چالش های استنتاج بیزی (محاسبه توزیع پسین)
• 26. مقدمه ای بر روش های مونت کارلو (Monte Carlo Methods)
• 27. ایده اصلی روش های مونت کارلو
• 28. نمونه برداری از توزیع ها
• 29. کاربرد روش های مونت کارلو در انتگرال گیری
• 30. کاربرد روش های مونت کارلو در تخمین
• 31. محدودیت های روش های مونت کارلو مستقیم
• 32. معرفی زنجیره مارکوف (Markov Chains)
• 33. تعریف زنجیره مارکوف
• 34. فضای حالت و انتقال حالت
• 35. ماتریس انتقال
• 36. زمان ناهمسان و همسان
• 37. توزیع پایدار (Stationary Distribution)
• 38. قضیه حد مرکزی برای زنجیره مارکوف
• 39. مفهوم زنجیره مارکوف برگشت پذیر (Reversible Markov Chains)
• 40. ارتباط زنجیره مارکوف با مدل های بیزی
• 41. معرفی الگوریتم های MCMC
• 42. ضرورت الگوریتم های MCMC
• 43. هدف اصلی الگوریتم های MCMC
• 44. استنتاج پارامترهای مدل های پیچیده
• 45. محاسبه انتگرال های پیچیده
• 46. ترکیب زنجیره مارکوف و روش مونت کارلو
• 47. ایده اصلی MCMC
• 48. تولید نمونه از توزیع هدف
• 49. همگرایی زنجیره مارکوف به توزیع هدف
• 50. مراحل کلی الگوریتم MCMC
• 51. انتخاب توزیع هدف
• 52. انتخاب توزیع پیشنهاد (Proposal Distribution)
• 53. قانون پذیرش (Acceptance Probability)
• 54. الگوریتم Metropolis-Hastings
• 55. جزئیات الگوریتم Metropolis-Hastings
• 56. انتخاب توزیع پیشنهاد در Metropolis-Hastings
• 57. کاربرد Metropolis-Hastings در مدل های آماری
• 58. مزایای Metropolis-Hastings
• 59. معایب Metropolis-Hastings
• 60. الگوریتم نمونه گیری گیبس (Gibbs Sampling)
• 61. ایده اصلی نمونه گیری گیبس
• 62. نمونه گیری شرطی (Conditional Sampling)
• 63. مزایای نمونه گیری گیبس
• 64. معایب نمونه گیری گیبس
• 65. کاربرد نمونه گیری گیبس در مدل های آماری
• 66. مقایسه Metropolis-Hastings و نمونه گیری گیبس
• 67. الگوریتم های MCMC پیشرفته
• 68. Metropolis-Adjusted Langevin Algorithm (MALA)
• 69. Hamiltonian Monte Carlo (HMC)
• 70. No-U-Turn Sampler (NUTS)
• 71. کاربرد HMC و NUTS در مدل های بیزی عمیق
• 72. ارزیابی همگرایی الگوریتم های MCMC
• 73. مفهوم گرم شدن (Burn-in)
• 74. روش های ارزیابی همگرایی (Gelman-Rubin, R-hat statistic)
• 75. تشخیص دورگه شدن (Mixing)
• 76. تعداد نمونه های لازم
• 77. کاهش واریانس در MCMC
• 78. کاهش همبستگی بین نمونه ها
• 79. استفاده از اطلاعات پیشین
• 80. استفاده از توزیع های پیشنهاد بهتر
• 81. نمونه گیری با اهمیت (Importance Sampling)
• 82. اهمیت نمونه گیری در MCMC
• 83. کاربرد نمونه گیری با اهمیت برای کاهش واریانس
• 84. کاربرد MCMC در مدل های یادگیری ماشین
• 85. مدل های بیزی خطی
• 86. مدل های بیزی غیرخطی
• 87. شبکه های بیزی (Bayesian Networks)
• 88. مدل های گرافیکی (Graphical Models)
• 89. مدل های مخلوط گوسی (Gaussian Mixture Models)
• 90. مدل های پنهان مارکوف (Hidden Markov Models)
• 91. مدل های موضوعی (Topic Models)
• 92. مدل های بیزی عمیق (Deep Bayesian Models)
• 93. یادگیری بازنمایی بیزی (Bayesian Representation Learning)
• 94. مدل های تولیدی (Generative Models)
• 95. استفاده از MCMC برای آموزش مدل های تولیدی
• 96. کاربرد MCMC در انتخاب مدل (Model Selection)
• 97. کاربرد MCMC در ارزیابی عدم قطعیت (Uncertainty Quantification)
• 98. کاربرد MCMC در سیستم های توصیه گر (Recommender Systems)
• 99. کاربرد MCMC در پردازش زبان طبیعی (Natural Language Processing)
• 100. کاربرد MCMC در بینایی ماشین (Computer Vision)