فلش‌کارت‌های آموزشی بهینه‌سازی اجرای MCMC در Stan

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب بهینه‌سازی اجرای MCMC در Stan

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: مخاطرات و تنظیمات Stan

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر MCMC و Stan
• 2. مفاهیم پایه MCMC
• 3. روش های نمونه برداری MCMC
• 4. الگوریتم های MCMC رایج (Gibbs, Metropolis-Hastings)
• 5. محدودیت های MCMC سنتی
• 6. چرا به بهینه سازی نیاز داریم؟
• 7. معرفی Stan
• 8. زبان مدل سازی Stan
• 9. نحوه کامپایل و اجرای مدل ها در Stan
• 10. ساختار پایه ای یک مدل Stan
• 11. مفهوم "نمونه گیری" در Stan
• 12. آشنایی با زنجیره های مارکوف
• 13. هدف از بهینه سازی اجرای MCMC
• 14. اهمیت کارایی در محاسبات MCMC
• 15. چالش های اجرای MCMC در مقیاس بزرگ
• 16. انواع بهینه سازی ها: الگوریتمی، پیاده سازی، سخت افزاری
• 17. مقدمه ای بر الگوریتم های نمونه برداری پیشرفته در Stan
• 18. HMC (Hamiltonian Monte Carlo)
• 19. NUTS (No-U-Turn Sampler)
• 20. مزایای HMC و NUTS نسبت به MCMC سنتی
• 21. نحوه عملکرد HMC (شبیه سازی دینامیکی)
• 22. نحوه عملکرد NUTS (پیدا کردن مسیر بهینه)
• 23. تنظیم پارامترهای NUTS
• 24. مقایسه NUTS با الگوریتم های دیگر
• 25. استفاده از پارامترهای پیش فرض NUTS
• 26. بهینه سازی های مرتبط با مدل در Stan
• 27. ساختار مدل و تاثیر آن بر کارایی
• 28. انتخاب توزیع های پیشین مناسب
• 29. تأثیر توزیع های پیشین بر همگرایی
• 30. استفاده از توزیع های پیشین غیرمتمرکز
• 31. تأثیر توزیع های پیشین متمرکز
• 32. تبدیلات متغیر برای ساده سازی مدل
• 33. استفاده از پارامترهای پنهان (latent variables)
• 34. مدل های سلسله مراتبی و پیچیدگی آنها
• 35. نحوه مدل سازی صحیح مدل های سلسله مراتبی
• 36. بهینه سازی در تعریف تابع درستنمایی (likelihood)
• 37. ساده سازی محاسبات تابع درستنمایی
• 38. استفاده از توابع کمکی (helper functions)
• 39. جلوگیری از محاسبات تکراری
• 40. اهمیت گسسته یا پیوسته بودن متغیرها
• 41. مدل سازی متغیرهای گسسته در Stan
• 42. استفاده از توابع گسسته در Stan
• 43. تأثیر نوع متغیرها بر الگوریتم نمونه برداری
• 44. استفاده از توابع پروب در Stan
• 45. بهینه سازی های مرتبط با پارامترهای الگوریتم در Stan
• 46. تنظیم تعداد گام های HMC (stepsize)
• 47. تنظیم تعداد گام های NUTS (max_treedepth)
• 48. تنظیم تعداد نخ های پردازشی (chains)
• 49. تنظیم تعداد نمونه های پس از همگرایی (warmup)
• 50. تنظیم تعداد نمونه های نهایی (iter)
• 51. تنظیم نرخ پذیرش (acceptance rate)
• 52. چگونه نرخ پذیرش مطلوب را تعیین کنیم؟
• 53. تأثیر نرخ پذیرش بر همگرایی
• 54. تنظیم پارامترهای مربوط به متغیرهای پنهان
• 55. بهینه سازی های مرتبط با داده ها
• 56. اندازه مجموعه داده و تأثیر آن بر زمان اجرا
• 57. پیش پردازش داده ها
• 58. پاکسازی داده ها
• 59. استانداردسازی داده ها
• 60. نرمال سازی داده ها
• 61. استفاده از داده های نمونه (subsampling)
• 62. تأثیر اندازه نمونه بر نتایج
• 63. فیلتر کردن داده های پرت (outliers)
• 64. مدل سازی داده های حجیم
• 65. فشرده سازی داده ها
• 66. استفاده از فرمت های داده ای کارآمد
• 67. بهینه سازی های مرتبط با پیاده سازی و کد Stan
• 68. نوشتن کد Stan خوانا و قابل نگهداری
• 69. استفاده از دستورات شرطی (if/else)
• 70. استفاده از حلقه ها (for loops)
• 71. بهینه سازی استفاده از حلقه ها
• 72. توابع برداری (vectorization) در Stan
• 73. مزایای توابع برداری
• 74. نحوه پیاده سازی توابع برداری
• 75. استفاده از بلوک های `transformed parameters` و `generated quantities`
• 76. بهینه سازی محاسبات در بلوک `generated quantities`
• 77. جلوگیری از محاسبات غیرضروری
• 78. استفاده از توابع داخلی Stan
• 79. معرفی توابع داخلی مفید
• 80. استفاده از توابع آماری در Stan
• 81. استفاده از توابع ریاضی در Stan
• 82. بهینه سازی های مرتبط با محیط اجرا
• 83. انتخاب کامپایلر مناسب برای Stan
• 84. نحوه نصب و پیکربندی کامپایلر
• 85. استفاده از C++ برای بهینه سازی های پیشرفته
• 86. ارتباط Stan با زبان های دیگر (R, Python)
• 87. استفاده از بسته های کمکی برای Stan
• 88. بهینه سازی اجرای موازی (parallel execution)
• 89. تنظیم تعداد نخ های پردازشی (threads)
• 90. استفاده از GPU برای محاسبات MCMC
• 91. نحوه فعال سازی پشتیبانی از GPU در Stan
• 92. مزایا و معایب استفاده از GPU
• 93. بهینه سازی های مرتبط با تشخیص و رفع مشکلات
• 94. تشخیص عدم همگرایی (non-convergence)
• 95. معیارهای همگرایی (trace plots, R-hat, ESS)
• 96. تفسیر trace plots
• 97. مفهوم R-hat و نحوه محاسبه آن
• 98. مفهوم ESS (Effective Sample Size)
• 99. افزایش ESS
• 100. تشخیص و رفع مشکلات مربوط به نرخ پذیرش