فلش‌کارت‌های آموزشی آموزش جامع No-U-Turn Sampler

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب آموزش جامع No-U-Turn Sampler

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: No-U-Turn Sampler (NUTS)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر No-U-Turn Sampler (NUTS)
• 2. تاریخچه و انگیزه NUTS
• 3. مقایسه NUTS با الگوریتم های نمونه برداری دیگر
• 4. مفاهیم پایه نمونه برداری بیزی
• 5. توزیع های احتمال و تابع چگالی احتمال (PDF)
• 6. توزیع های پسین (Posterior Distributions)
• 7. توزیع های پیشین (Prior Distributions)
• 8. میانگین، واریانس، و انحراف معیار
• 9. توزیع های نرمال، گوسی، و برنولی
• 10. قضیه بیز
• 11. فرآیند نمونه برداری
• 12. شبه تصادفی و اعداد تصادفی
• 13. توزیع های یکنواخت
• 14. توزیع های نرمال استاندارد
• 15. تولید اعداد تصادفی از توزیع های دلخواه
• 16. روش های مونت کارلو
• 17. روش مونت کارلو مارکوف چین (MCMC)
• 18. تفاوت MCMC با سایر روش های مونت کارلو
• 19. الگوریتم Metropolis-Hastings
• 20. الگوریتم Gibbs Sampling
• 21. محدودیت های Metropolis-Hastings و Gibbs Sampling
• 22. مقدمه ای بر دینامیک های همیلتونی
• 23. قانون بقای انرژی
• 24. همیلتونیان در مکانیک کلاسیک
• 25. تابع پتانسیل و تابع جنبشی
• 26. معادلات حرکت همیلتون
• 27. توابع انرژی و پتانسیل در زمینه مدل های بیزی
• 28. نقش دینامیک های همیلتونی در نمونه برداری
• 29. مقدمه ای بر نمونه بردار شیب (Gradient-based Samplers)
• 30. محاسبه گرادیان تابع چگالی احتمال
• 31. استفاده از گرادیان برای هدایت نمونه برداری
• 32. الگوریتم نمونه برداری شیب میانگین (Stochastic Gradient Langevin Dynamics - SGLD)
• 33. الگوریتم نمونه برداری شیب میانگین انتگرالی (Stochastic Gradient Langevin Dynamics with Annealing - SGLDA)
• 34. محدودیت های نمونه برداری شیب
• 35. معرفی No-U-Turn Sampler (NUTS)
• 36. هدف اصلی NUTS: حل مشکلات نمونه برداری شیب
• 37. نحوه عملکرد NUTS: ترکیب دینامیک همیلتونی و الگوریتم های جستجو
• 38. مفهوم "بدون بازگشت" (No-U-Turn)
• 39. نقش گام های زمانی (Time Steps) در NUTS
• 40. نقش گام های جهشی (Leapfrog Steps)
• 41. نحوه انتخاب طول مسیر (Path Length)
• 42. نحوه انتخاب عرض مسیر (Path Width)
• 43. ایده اصلی NUTS: جستجو در فضای پارامترها با حفظ انرژی
• 44. الگوریتم اصلی NUTS: جزئیات پیاده سازی
• 45. مراحل اصلی الگوریتم NUTS
• 46. تعیین گام های جهشی
• 47. محاسبه گرادیان های همیلتونی
• 48. استفاده از درخت جستجو (Tree Algorithm)
• 49. الگوریتم بازگشتی (Recursive Algorithm) برای ساخت درخت
• 50. شرایط توقف درخت جستجو
• 51. معیار U-Turn
• 52. محاسبه و پذیرش نمونه جدید
• 53. پارامترهای کلیدی NUTS
• 54. تعداد تکرارها (Number of Iterations)
• 55. تعداد مراحل جهشی در هر تکرار (Number of Leapfrog Steps per Iteration)
• 56. عرض باند (Bandwidth)
• 57. آستانه U-Turn (U-Turn Threshold)
• 58. تنظیم پارامترهای NUTS
• 59. اهمیت تنظیم پارامترها
• 60. روش های خودکار تنظیم پارامترها
• 61. نکات عملی در تنظیم پارامترها
• 62. ارزیابی کیفیت نمونه برداری NUTS
• 63. معیارهای همگرایی (Convergence Diagnostics)
• 64. R-hat (Potential Scale Reduction Factor)
• 65. Trace Plots
• 66. Autocorrelation Plots
• 67. Effective Sample Size (ESS)
• 68. ارزیابی توزیع پسین
• 69. مقایسه توزیع های پسین با نتایج تحلیلی (در صورت وجود)
• 70. تجسم توزیع های پسین
• 71. پیاده سازی NUTS
• 72. کتابخانه های محبوب برای پیاده سازی NUTS (مانند Stan, PyMC3, TensorFlow Probability)
• 73. مثال های عملی پیاده سازی NUTS
• 74. مدل های ساده و پیچیده
• 75. کاربرد NUTS در علوم مختلف
• 76. فیزیک
• 77. زیست شناسی
• 78. اقتصاد
• 79. یادگیری ماشین
• 80. کاربردهای پیشرفته NUTS
• 81. نمونه برداری در مدل های سلسله مراتبی (Hierarchical Models)
• 82. نمونه برداری در مدل های پیچیده با ابعاد بالا
• 83. نمونه برداری در مدل های زمان سری (Time Series Models)
• 84. نمونه برداری در مدل های مکانی (Spatial Models)
• 85. چالش ها و محدودیت های NUTS
• 86. پیچیدگی محاسباتی
• 87. نیاز به محاسبات گرادیان
• 88. مشکلات در مدل های با ابعاد بسیار بالا
• 89. مشکلات در مدل های با توزیع های پسین نامتقارن یا چندوجهی
• 90. مقایسه NUTS با سایر الگوریتم های MCMC پیشرفته
• 91. Hamiltonian Monte Carlo (HMC)
• 92. No-U-Turn Sampler (NUTS) در مقابل HMC
• 93. مزایای NUTS نسبت به HMC
• 94. معایب NUTS نسبت به HMC
• 95. سایر روش های نمونه برداری پیشرفته
• 96. آینده NUTS و تحقیقات مرتبط
• 97. توسعه الگوریتم های جدیدتر
• 98. بهبود کارایی و مقیاس پذیری
• 99. کاربرد در حوزه های جدید
• 100. جمع بندی و نکات کلیدی