فلش‌کارت‌های آموزشی بهینه‌سازی فرآیند استفاده از NUTS

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب بهینه‌سازی فرآیند استفاده از NUTS

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: No-U-Turn Sampler (NUTS)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه و معرفی NUTS
• 2. تاریخچه NUTS
• 3. کاربرد NUTS در مدل‌سازی احتمالی
• 4. مزایای NUTS نسبت به روش‌های MCMC سنتی
• 5. مبانی نظری NUTS
• 6. حرکت براونی در فضای پارامتر
• 7. قانون گرانش نیوتون در MCMC
• 8. رابطه NUTS با دینامیک هامیلتونی
• 9. تابع پتانسیل در NUTS
• 10. تابع جنبشی در NUTS
• 11. هامیلتونیان سیستم
• 12. معادلات حرکت هامیلتون
• 13. حل عددی معادلات حرکت
• 14. روش گام‌گیری سایمپلکتیک (Symplectic Integrators)
• 15. تکنیک Leapfrog Integration
• 16. انتخاب گام زمانی (Time Step)
• 17. پیامد انتخاب گام زمانی نامناسب
• 18. روش پیشنهاد دهنده (Proposal Mechanism)
• 19. ایده اصلی پیشنهاد دهنده NUTS
• 20. نقش حرکت براونی در پیشنهاد دهنده
• 21. محدودیت‌های روش پیشنهاد دهنده اولیه
• 22. معرفی روش Tree Sampling
• 23. الگوریتم Tree Sampling
• 24. تکرار و بازگشت در Tree Sampling
• 25. انتخاب جهت حرکت (Direction Selection)
• 26. معیار پذیرش در Tree Sampling
• 27. معیار هارمونیک (Harmonic Mean)
• 28. معیار پذیرش در MCMC
• 29. تفاوت معیار پذیرش NUTS با Metropolis-Hastings
• 30. پیاده‌سازی NUTS
• 31. انتخاب زبان برنامه‌نویسی
• 32. کتابخانه‌های مرتبط با NUTS (مانند PyMC, Stan)
• 33. نصب و پیکربندی کتابخانه‌ها
• 34. ساختار کلی الگوریتم NUTS در کد
• 35. تعریف مدل احتمالی
• 36. نحوه تعریف تابع پتانسیل
• 37. نحوه تعریف گرادیان تابع پتانسیل
• 38. تنظیم پارامترهای NUTS
• 39. تنظیم تعداد گام‌های پیشنهادی (Leapfrog Steps)
• 40. تنظیم حداکثر عمق درخت (Max Tree Depth)
• 41. تنظیم گام زمانی اولیه (Initial Time Step)
• 42. تنظیم معیارهای توقف (Stopping Criteria)
• 43. اشکال‌زدایی (Debugging) الگوریتم NUTS
• 44. بررسی همگرایی (Convergence)
• 45. روش‌های تشخیص همگرایی (R-hat, Effective Sample Size)
• 46. تجسم نتایج NUTS
• 47. رسم نمودارهای Trace Plot
• 48. رسم نمودارهای Autocorrelation Plot
• 49. رسم نمودارهای Pair Plot
• 50. تفسیر نتایج MCMC
• 51. شناسایی مشکلات احتمالی در اجرا
• 52. تنظیم مجدد پارامترها برای بهبود عملکرد
• 53. بهینه‌سازی گام زمانی
• 54. بهینه‌سازی تعداد گام‌های Leapfrog
• 55. بهینه‌سازی حداکثر عمق درخت
• 56. تأثیر ابعاد مدل بر عملکرد NUTS
• 57. مدل‌های با ابعاد بالا
• 58. چالش‌های NUTS در ابعاد بالا
• 59. استفاده از تکنیک‌های کاهش ابعاد
• 60. انطباق NUTS با مدل‌های پیچیده
• 61. مدل‌های سلسله مراتبی (Hierarchical Models)
• 62. مدل‌های با وابستگی‌های پیچیده
• 63. مدل‌های مخلوط (Mixture Models)
• 64. مدل‌های مکانی-زمانی (Spatio-temporal Models)
• 65. مدل‌های بیزی غیرپارامتری (Non-parametric Bayesian Models)
• 66. NUTS و مدل‌های سفارشی (Custom Models)
• 67. نوشتن توابع گرادیان سفارشی
• 68. مدیریت خطا در توابع سفارشی
• 69. بهینه‌سازی سرعت اجرای NUTS
• 70. استفاده از پردازش موازی (Parallel Processing)
• 71. استفاده از GPU برای محاسبات
• 72. روش‌های پیش‌بینی گام زمانی (Adaptive Time Step)
• 73. استفاده از NUTS در مدل‌های بزرگ
• 74. مدیریت حافظه
• 75. تکنیک‌های نمونه‌برداری بخش‌بندی شده (Block Sampling)
• 76. NUTS و مدل‌های بیزی پویا (Dynamic Bayesian Models)
• 77. مدل‌های خطی تعمیم یافته (Generalized Linear Models)
• 78. مدل‌های خطی تعمیم یافته سلسله مراتبی
• 79. مدل‌های خطی تعمیم یافته پویا
• 80. کاربرد NUTS در یادگیری ماشین
• 81. آموزش مدل‌های بیزی عمیق (Deep Bayesian Models)
• 82. استفاده از NUTS در شبکه‌های عصبی بیزی
• 83. بهینه‌سازی معماری شبکه‌های عصبی با NUTS
• 84. کاربرد NUTS در علوم داده
• 85. تحلیل داده‌های بزرگ با NUTS
• 86. استنتاج بیزی در کاربردهای صنعتی
• 87. تشخیص ناهنجاری با NUTS
• 88. پیش‌بینی سری‌های زمانی با NUTS
• 89. بهینه‌سازی پارامترهای مدل با NUTS
• 90. NUTS و مطالعات مقایسه‌ای
• 91. مقایسه NUTS با سایر نمونه‌برداران MCMC
• 92. مقایسه NUTS با روش‌های Variational Inference
• 93. مزایای NUTS در مقایسه با سایر روش‌ها
• 94. معایب NUTS در مقایسه با سایر روش‌ها
• 95. ملاحظات پیشرفته در NUTS
• 96. تنظیم خودکار پارامترها (Automatic Tuning)
• 97. روش‌های پیشرفته پیشنهاد دهنده
• 98. روش‌های بهبود پیشنهاد دهنده
• 99. NUTS و مفاهیم پیشرفته MCMC
• 100. نظریه Ergodicité