فلش‌کارت‌های آموزشی تسلط بر برنامه‌نویسی موازی با MPI: از مبانی تا کاربردهای پیشرفته

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تسلط بر برنامه‌نویسی موازی با MPI: از مبانی تا کاربردهای پیشرفته

موضوع کلی: محاسبات علمی و موازی

موضوع میانی: برنامه‌نویسی توزیع‌شده با MPI

📋 سرفصل‌های دوره

• 1. در اینجا 100 سرفصل برای دوره آموزشی "تسلط بر برنامه‌نویسی موازی با MPI: از مبانی تا کاربردهای پیشرفته" آورده شده است:
• 2. مقدمه‌ای بر محاسبات علمی و موازی
• 3. نیاز به محاسبات موازی در دنیای امروز
• 4. مفهوم موازی‌سازی و انواع آن
• 5. مقدمه‌ای بر برنامه‌نویسی توزیع‌شده
• 6. معرفی کتاب "برنامه‌نویسی موازی با ام‌پی‌آی (MPI)"
• 7. تاریخچه و تکامل MPI
• 8. اهمیت MPI در محاسبات با کارایی بالا (HPC)
• 9. نصب و پیکربندی محیط MPI
• 10. اولین برنامه MPI: سلام دنیا
• 11. مفهوم پردازنده‌ها (Processes) در MPI
• 12. مفهوم ارتباط‌گرها (Communicators) در MPI
• 13. توابع اساسی MPI: `MPI_Init` و `MPI_Finalize`
• 14. شناسایی پردازنده: `MPI_Comm_rank`
• 15. تعداد پردازنده‌ها: `MPI_Comm_size`
• 16. ارسال و دریافت پیام‌های همزمان: `MPI_Send` و `MPI_Recv`
• 17. انواع تگ‌ها در پیام‌رسانی MPI
• 18. انواع مودهای ارسال در MPI
• 19. ارسال بلوکی (Blocking Send)
• 20. ارسال غیربلوکی (Non-blocking Send)
• 21. دریافت بلوکی (Blocking Receive)
• 22. دریافت غیربلوکی (Non-blocking Receive)
• 23. تأخیر در دریافت پیام‌ها
• 24. مدیریت خطاهای ارسال و دریافت
• 25. ارسال و دریافت با اندازه دلخواه
• 26. ارسال و دریافت داده‌های مختلف
• 27. مفهوم ساختارهای داده‌ای سفارشی (Custom Datatypes)
• 28. ایجاد ساختارهای داده‌ای سفارشی
• 29. استفاده از ساختارهای داده‌ای سفارشی در ارسال و دریافت
• 30. مفهوم عملیات جمعی (Collective Operations)
• 31. عملیات جمعی یک‌به‌همه (One-to-All): `MPI_Bcast`
• 32. عملیات جمعی همه-به‌یک (All-to-One): `MPI_Reduce`
• 33. عملیات جمعی همه-به‌همه (All-to-All)
• 34. عملیات جمعی کاهش توزیع‌شده (Allreduce)
• 35. عملیات جمعی اسکن (Scan)
• 36. عملیات جمعی جمع‌آوری (Gather)
• 37. عملیات جمعی پراکنده (Scatter)
• 38. عملیات جمعی پراکنده جمع‌آوری (Scatterv)
• 39. عملیات جمعی جمع‌آوری پراکنده (Gatherv)
• 40. عملیات جمعی همه-به‌همه با جابجایی (Alltoallv)
• 41. عملیات جمعی همه-به‌همه با پراکندگی (Alltoallw)
• 42. مفهوم ارتباط‌گرهای گروهی (Group Communicators)
• 43. ایجاد ارتباط‌گرهای جدید از گروه‌ها
• 44. فیلتر کردن پردازنده‌ها در ارتباط‌گرها
• 45. ایجاد توپولوژی‌های شبکه‌ای (Cartesian Topologies)
• 46. مفهوم ابعاد در توپولوژی‌های دکارتی
• 47. ایجاد توپولوژی دکارتی
• 48. نگاشت بین مختصات دکارتی و رتبه پردازنده
• 49. محاسبه همسایگان در توپولوژی دکارتی
• 50. ارسال به همسایگان در توپولوژی دکارتی
• 51. مفهوم ارتباط‌گرهای دامنه‌ای (Domain Decomposition)
• 52. تقسیم‌بندی داده‌ها در یک بعد
• 53. تقسیم‌بندی داده‌ها در دو بعد
• 54. تقسیم‌بندی داده‌ها در سه بعد
• 55. الگوریتم‌های موازی برای حل معادلات دیفرانسیل جزئی (PDEs)
• 56. روش تفاضل محدود (Finite Difference Method)
• 57. پیاده‌سازی روش تفاضل محدود با MPI
• 58. مفهوم ارتباطات مرزی (Boundary Communication)
• 59. بهینه‌سازی ارتباطات مرزی
• 60. الگوریتم‌های موازی برای ضرب ماتریس‌ها
• 61. ضرب ماتریس-بردار موازی
• 62. ضرب ماتریس-ماتریس موازی (Cannon's Algorithm)
• 63. ضرب ماتریس-ماتریس موازی (Dijkstra's Algorithm)
• 64. الگوریتم‌های موازی برای حل سیستم‌های خطی
• 65. روش حذف گاوسی موازی
• 66. روش ژاکوبی موازی
• 67. روش گاوس-سیدل موازی
• 68. مفهوم قفل‌گذاری (Deadlock) در MPI
• 69. تشخیص و جلوگیری از قفل‌گذاری
• 70. استفاده از ارسال غیربلوکی برای جلوگیری از قفل‌گذاری
• 71. مفهوم پروفایلینگ (Profiling) و بهینه‌سازی کارایی
• 72. ابزارهای پروفایلینگ MPI
• 73. تحلیل گلوگاه‌های کارایی
• 74. تکنیک‌های بهینه‌سازی انتقال داده
• 75. کاهش سربار ارتباطات
• 76. استفاده از الگوریتم‌های موازی بهتر
• 77. مفهوم مدل حافظه توزیع‌شده (Distributed Shared Memory - DSM)
• 78. مقایسه MPI با مدل DSM
• 79. مفهوم یک‌طرفه (One-Sided) ارتباطات در MPI
• 80. توابع `MPI_Put` و `MPI_Get`
• 81. توابع `MPI_Accumulate`
• 82. مدیریت پنجره‌های دسترسی (Access Windows)
• 83. کاربرد ارتباطات یک‌طرفه
• 84. مفهوم واسط‌های API سطح بالا (High-Level APIs)
• 85. معرفی Charm++, UPC، Chapel
• 86. مقایسه MPI با واسط‌های سطح بالا
• 87. کاربرد MPI در شبیه‌سازی‌های فیزیکی
• 88. کاربرد MPI در تحلیل داده‌های بزرگ
• 89. کاربرد MPI در یادگیری ماشین موازی
• 90. مفهوم موازی‌سازی وظیفه (Task Parallelism)
• 91. ترکیب موازی‌سازی داده و وظیفه
• 92. مباحث پیشرفته در MPI
• 93. توابع MPI برای مدیریت زمان
• 94. مفهوم نقاط بازبینی (Checkpointing)
• 95. پشتیبانی MPI از نقاط بازبینی
• 96. مثال‌های عملی از کاربردهای پیشرفته MPI
• 97. پیاده‌سازی یک برنامه علمی پیچیده با MPI
• 98. نکات و ترفندهای برنامه‌نویسی MPI
• 99. جمع‌بندی دوره و گام‌های بعدی