دوره ICA³PP '96: مروری بر پیشرفت‌های نوین در محاسبات موازی و توزیع‌شده همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب ICA³PP '96: مروری بر پیشرفت‌های نوین در محاسبات موازی و توزیع‌شده

موضوع کلی: معماری و الگوریتم‌های محاسبات موازی

موضوع میانی: الگوریتم‌ها و تکنیک‌های محاسبات موازی

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه‌ای بر محاسبات موازی: نیازها و چالش‌ها
• 2. تعریف موازی‌سازی: انواع و سطوح
• 3. تاریخچه و تکامل سیستم‌های موازی (تا اواسط دهه 90)
• 4. معماری‌های عمومی سیستم‌های موازی: طبقه‌بندی فلین
• 5. مفاهیم اساسی سرعت‌بخشی (Speedup) و بهره‌وری (Efficiency)
• 6. قانون آمدال و قانون گوستافسون: محدودیت‌ها و فرصت‌ها
• 7. همگام‌سازی و ارتباطات در سیستم‌های موازی: چالش‌های بنیادین
• 8. مدل‌های حافظه: حافظه مشترک و توزیع‌شده
• 9. مزایا و معایب محاسبات موازی
• 10. مدل‌های هزینه برای الگوریتم‌های موازی
• 11. سیستم‌های حافظه مشترک: UMA, NUMA, CC-NUMA
• 12. سیستم‌های حافظه توزیع‌شده: اصول و ساختار
• 13. شبکه‌های میان‌ارتباطی: توپولوژی‌های رایج (مش، توروس، هایپرکیوب)
• 14. شبکه‌های میان‌ارتباطی: درخت‌های چاق و شبکه‌های مبتنی بر سوئیچ
• 15. مسیردهی در شبکه‌های میان‌ارتباطی: استاتیک و دینامیک
• 16. معماری‌های پردازنده‌های موازی: SIMD و MIMD
• 17. معماری‌های چندپردازنده‌ای: Multiprocessors و Multicomputers
• 18. خوشه‌های کاری (Clusters of Workstations - COW): رویکردی جدید در دهه 90
• 19. سیستم‌های حافظه توزیع‌شده مجازی (DSM): پیاده‌سازی و چالش‌ها
• 20. معماری‌های خاص منظوره موازی: مثال‌ها و کاربردها
• 21. مدل برنامه‌نویسی با حافظه مشترک: Pthreads و OpenMP (مفاهیم اولیه)
• 22. مدل پیام‌رسانی (Message Passing): مبانی و اصول
• 23. PVM (Parallel Virtual Machine): معماری و توابع کلیدی
• 24. MPI (Message Passing Interface): مروری بر استاندارد و عملکرد
• 25. عملیات ارتباطی پایه در MPI: ارسال و دریافت بلوک‌بندی و غیربلوک‌بندی
• 26. عملیات جمعی (Collective Operations) در MPI: Broadcast, Scatter, Gather
• 27. عملیات جمعی پیشرفته در MPI: Reduce, Allreduce, Alltoall
• 28. برنامه‌نویسی موازی با استفاده از RPC (Remote Procedure Call)
• 29. ابزارهای اشکال‌زدایی و پروفایلینگ برای برنامه‌های موازی
• 30. نقش کامپایلرها و بهینه‌سازی‌ها در برنامه‌نویسی موازی
• 31. تجزیه کارها (Task Decomposition): رویکردهای اصلی
• 32. تجزیه داده‌ها (Data Decomposition): بلوکی و چرخشی
• 33. تخصیص کارها و داده‌ها: استاتیک و دینامیک
• 34. توازن بار (Load Balancing): الگوریتم‌ها و استراتژی‌ها
• 35. کاهش سربار ارتباطات: رویکردها و تکنیک‌ها
• 36. مدیریت عدم قطعیت و ناهمگونی (Heterogeneity) در سیستم‌های موازی
• 37. طراحی الگوریتم‌های تقسیم و حل (Divide and Conquer) موازی
• 38. طراحی الگوریتم‌های کاهش-تولید (MapReduce-like) در موازی‌سازی
• 39. طراحی الگوریتم‌های پیمایش فضای حالت (State-Space Search) موازی
• 40. تکنیک‌های موازی‌سازی حلقه‌ها (Loop Parallelization)
• 41. موازی‌سازی مرتب‌سازی: مرتب‌سازی Odd-Even Transposition
• 42. مرتب‌سازی موازی: مرتب‌سازی Bitonic
• 43. مرتب‌سازی موازی: Merge Sort و Quick Sort
• 44. موازی‌سازی جستجو: جستجوی دودویی موازی
• 45. عملیات موازی بر روی لیست‌ها و آرایه‌ها
• 46. پیشوند اسکن موازی (Parallel Prefix Scan) و کاربردها
• 47. الگوریتم‌های ماتریس-بردار ضرب موازی
• 48. الگوریتم‌های ضرب ماتریس موازی: Strassen و Cannon
• 49. الگوریتم‌های موازی برای تبدیل فوریه سریع (FFT)
• 50. موازی‌سازی تولید اعداد تصادفی
• 51. حل سیستم‌های معادلات خطی موازی: روش‌های مستقیم (گوس)
• 52. حل سیستم‌های معادلات خطی موازی: روش‌های تکراری (ژاکوبی، گوس-سیدل)
• 53. مقادیر ویژه و بردارهای ویژه موازی
• 54. موازی‌سازی حل معادلات دیفرانسیل جزئی (PDEs)
• 55. شبیه‌سازی‌های دینامیک مولکولی موازی
• 56. الگوریتم‌های بهینه‌سازی موازی (مانند الگوریتم‌های ژنتیک)
• 57. پردازش سیگنال دیجیتال موازی: فیلترها و تبدیل‌ها
• 58. موازی‌سازی مدل‌سازی آب و هوا و اقلیم
• 59. محاسبات علمی با دقت بالا و موازی‌سازی آن
• 60. موازی‌سازی روش مونت کارلو (Monte Carlo)
• 61. نمایش گراف‌ها در محیط‌های موازی
• 62. پیمایش گراف موازی: BFS و DFS
• 63. الگوریتم‌های کوتاه‌ترین مسیر موازی: Dijkstra و Floyd-Warshall
• 64. الگوریتم‌های درخت پوشای مینیمم موازی: Prim و Kruskal
• 65. موازی‌سازی تشخیص مؤلفه‌های همبند گراف
• 66. موازی‌سازی الگوریتم‌های جریان بیشینه (Max-Flow)
• 67. پردازش تصاویر موازی: فیلترینگ و تشخیص لبه
• 68. پردازش تصاویر موازی: تبدیل مورفولوژیک و تقسیم‌بندی
• 69. موازی‌سازی پایگاه‌های داده: پردازش کوئری موازی
• 70. موازی‌سازی استخراج دانش (Data Mining): مبانی و تکنیک‌ها
• 71. مدیریت کش و سازگاری کش (Cache Coherence) در سیستم‌های موازی
• 72. حافظه‌های مشترک توزیع‌شده (DSM): پروتکل‌ها و پیاده‌سازی‌ها
• 73. سیستم‌های ورودی/خروجی موازی (Parallel I/O): چالش‌ها و راه‌حل‌ها
• 74. تحمل خطا (Fault Tolerance) در سیستم‌های موازی
• 75. زمان‌بندی (Scheduling) وظایف در محیط‌های موازی و توزیع‌شده
• 76. معماری‌های چند هسته‌ای (Multicore): مفاهیم اولیه
• 77. پردازش بلادرنگ موازی (Real-Time Parallel Processing)
• 78. امنیت در سیستم‌های محاسبات موازی و توزیع‌شده
• 79. مدل‌های ارتباطات غیر همزمان (Asynchronous Communication Models)
• 80. سخت‌افزارهای کمکی برای موازی‌سازی: ASICs و FPGAs
• 81. تحلیل عملکرد برنامه‌های موازی: معیارهای پیشرفته
• 82. مدل‌های پیش‌بینی عملکرد (Performance Prediction Models)
• 83. بهینه‌سازی کد موازی: حذف تنگناهای ارتباطی
• 84. بهینه‌سازی دسترسی به حافظه و ساختارهای داده
• 85. ارزیابی مقیاس‌پذیری (Scalability Analysis) سیستم‌های موازی
• 86. تحلیل عوامل محدودکننده عملکرد (Performance Bottlenecks)
• 87. ابزارهای بصری‌سازی (Visualization Tools) برای عملکرد موازی
• 88. معیارهای مقایسه‌ای (Benchmarks) برای سیستم‌های موازی
• 89. نقش پروفایلینگ در بهبود عملکرد موازی
• 90. مهندسی عملکرد برای سیستم‌های محاسبات موازی
• 91. محاسبات توزیع‌شده: اصول و معماری‌ها
• 92. سیستم‌های عامل توزیع‌شده: چالش‌ها و رویکردها
• 93. محاسبات Grid: مفاهیم اولیه و پتانسیل‌ها
• 94. موازی‌سازی در هوش مصنوعی و شبکه‌های عصبی
• 95. کاربردهای موازی در پردازش زبان طبیعی
• 96. موازی‌سازی در شبیه‌سازی‌های پیچیده فیزیکی و شیمیایی
• 97. سیستم‌های توزیع‌شده مبتنی بر عامل (Agent-Based Distributed Systems)
• 98. چالش‌های مقیاس‌پذیری و قابلیت اطمینان در سیستم‌های بزرگ موازی
• 99. مروری بر پروژه‌ها و سیستم‌های موازی برجسته (تا 1996)
• 100. آینده محاسبات موازی و توزیع‌شده: چشم‌انداز 1996