دوره Hamiltonian Monte Carlo: ابزاری قدرتمند برای مدل‌سازی بیزی سطوح بالا همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره Hamiltonian Monte Carlo: ابزاری قدرتمند برای مدل‌سازی بیزی سطوح بالا

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: Hamiltonian Monte Carlo (HMC)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌سازی بیزی و ضرورت روش‌های نمونه‌گیری
• 2. مبانی احتمال و آمار در مدل‌سازی بیزی
• 3. مفهوم توزیع پیشین، درستنمایی و پسین
• 4. قضیه بیز و کاربردهای آن
• 5. محدودیت‌های روش‌های تحلیلی در مدل‌سازی بیزی
• 6. نیاز به روش‌های عددی برای تخمین توزیع پسین
• 7. معرفی روش‌های مونت کارلو
• 8. مفهوم زنجیره‌های مارکوف
• 9. زنجیره‌های مارکوف در فضای حالت گسسته
• 10. زنجیره‌های مارکوف در فضای حالت پیوسته
• 11. شرط ایستا بودن زنجیره‌های مارکوف
• 12. شرط ارگودیک بودن زنجیره‌های مارکوف
• 13. مفهوم توزیع پایدار در زنجیره‌های مارکوف
• 14. الگوریتم Metropolis-Hastings
• 15. مراحل پیاده‌سازی الگوریتم Metropolis-Hastings
• 16. انتخاب تابع پیشنهاد در Metropolis-Hastings
• 17. کارایی الگوریتم Metropolis-Hastings
• 18. محدودیت‌های Metropolis-Hastings در فضاهای با ابعاد بالا
• 19. مفهوم گرادیان و کاربرد آن در بهینه‌سازی
• 20. گرادیان نزولی و کاربردهای آن
• 21. مفهوم انرژی در فیزیک آماری
• 22. ارتباط انرژی با تابع چگالی احتمال
• 23. تبدیل از تابع چگالی به تابع انرژی
• 24. مفهوم پتانسیل در مدل‌سازی آماری
• 25. مفهوم هامیلتونی در فیزیک کلاسیک
• 26. قانون بقای انرژی هامیلتونی
• 27. معادلات حرکت هامیلتونی
• 28. ارتباط با مکانیک لاگرانژی
• 29. نکات کلیدی در معادلات هامیلتونی
• 30. مفهوم فضای فاز
• 31. انتقال در فضای فاز
• 32. حرکت در فضای فاز تحت هامیلتونی
• 33. مفهوم دینامیک هامیلتونی
• 34. شبیه‌سازی دینامیک هامیلتونی
• 35. انتخاب گام زمانی در شبیه‌سازی
• 36. روش‌های انتگرال‌گیری عددی برای معادلات دیفرانسیل
• 37. روش اویلر و محدودیت‌های آن
• 38. روش‌های مرتبه بالاتر (مانند رونگه-کوتا)
• 39. مفهوم حفظ انرژی در انتگرال‌گیری عددی
• 40. مشکلات انتگرال‌گیری عددی در دینامیک هامیلتونی
• 41. مقدمه‌ای بر Hamiltonian Monte Carlo (HMC)
• 42. ایده اصلی HMC: ترکیب دینامیک هامیلتونی با روش‌های مونت کارلو
• 43. استفاده از شتاب برای نمونه‌گیری کارآمد
• 44. مفهوم "مسیر" در HMC
• 45. طول مسیر و تأثیر آن بر نمونه‌گیری
• 46. مفهوم "شتاب" در HMC
• 47. نقش گرادیان تابع انرژی در شتاب‌دهی
• 48. الگوریتم HMC: گام‌های اصلی
• 49. شبیه‌سازی دینامیک هامیلتونی برای تولید مسیر
• 50. تصحیح Metropolis برای مسیر تولید شده
• 51. مزایای HMC نسبت به Metropolis-Hastings
• 52. کارایی HMC در فضاهای با ابعاد بالا
• 53. کارایی HMC در مدل‌های پیچیده
• 54. چالش‌های HMC: تنظیم پارامترها
• 55. انتخاب گام زمانی مناسب
• 56. تنظیم تعداد گام‌های شبیه‌سازی دینامیکی
• 57. تنظیم پارامترهای تابع پیشنهاد (در صورت استفاده)
• 58. مفهوم "burn-in" و تشخیص آن
• 59. تشخیص همگرایی در HMC
• 60. معیارهای تشخیص همگرایی (مانند R-hat)
• 61. تکنیک‌های بهبود کارایی HMC
• 62. استفاده از leapfrog integrator
• 63. بهبود leapfrog integrator
• 64. مفهوم "NUTS" (No-U-Turn Sampler)
• 65. چرا NUTS کارآمدتر است؟
• 66. مراحل الگوریتم NUTS
• 67. مقایسه NUTS با HMC استاندارد
• 68. کاربرد HMC در مدل‌های بیزی سلسله‌مراتبی
• 69. مدل‌های خطی تعمیم‌یافته بیزی
• 70. مدل‌های رگرسیون بیزی
• 71. مدل‌های طبقه‌بندی بیزی
• 72. کاربرد HMC در یادگیری ماشین
• 73. شبکه‌های عصبی بیزی
• 74. ماشین‌های بردار پشتیبان بیزی
• 75. مدل‌های گرافیکی بیزی
• 76. کاربرد HMC در علوم زیستی
• 77. مدل‌سازی ژنومیک بیزی
• 78. مدل‌سازی اپیدمیولوژیک بیزی
• 79. مدل‌سازی بیزی در علوم اجتماعی
• 80. تحلیل داده‌های نظرسنجی بیزی
• 81. مدل‌سازی پیش‌بینی در علوم اقتصادی
• 82. پیاده‌سازی HMC با استفاده از کتابخانه‌ها
• 83. معرفی کتابخانه‌های پایتون (مانند PyMC3، Stan)
• 84. مثال‌های عملی پیاده‌سازی HMC
• 85. ساخت یک مدل بیزی ساده با HMC
• 86. تحلیل نتایج نمونه‌گیری HMC
• 87. تفسیر توزیع پسین
• 88. ارزیابی عدم قطعیت با استفاده از نمونه‌ها
• 89. مقایسه با نتایج روش‌های دیگر
• 90. ملاحظات محاسباتی در HMC
• 91. نیاز به منابع محاسباتی قوی
• 92. بهینه‌سازی کد برای سرعت
• 93. مقایسه زمانی HMC با روش‌های دیگر
• 94. نکات پیشرفته در HMC
• 95. استفاده از HMC در مدل‌های با وابستگی‌های پیچیده
• 96. مدل‌سازی دینامیک سیستم‌ها با HMC
• 97. ملاحظات مربوط به توزیع‌های پسین غیرمتعارف
• 98. چالش‌های HMC در عمل
• 99. اشکالات رایج در پیاده‌سازی HMC
• 100. راه‌حل‌های اشکال‌زدایی