دوره بهینه‌سازی عملکرد و برنامه‌نویسی موازی برای GPU همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب بهینه‌سازی عملکرد و برنامه‌نویسی موازی برای GPU

موضوع کلی: گرافیک کامپیوتری و پردازش موازی با GPU

موضوع میانی: تکنیک‌های پیشرفته رندرینگ و محاسبات GPU

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه‌ای بر محاسبات GPU
• 2. معماری GPU: هسته‌ها، حافظه و جریان داده
• 3. مبانی برنامه‌نویسی موازی
• 4. چالش‌های برنامه‌نویسی GPU
• 5. معماری CUDA
• 6. مفاهیم اصلی CUDA: نخ‌ها، بلوک‌ها، شبکه‌ها
• 7. مدیریت حافظه در CUDA: سراسری، اشتراکی، محلی
• 8. بهینه‌سازی دسترسی به حافظه سراسری
• 9. استفاده موثر از حافظه اشتراکی
• 10. همگام‌سازی نخ‌ها در CUDA
• 11. الگوهای برنامه‌نویسی موازی برای GPU
• 12. الگوهای تقسیم کار
• 13. الگوهای همگام‌سازی
• 14. الگوهای داده‌محور
• 15. الگوهای مبتنی بر نخ
• 16. الگوهای مبتنی بر بلوک
• 17. الگوهای مبتنی بر شبکه
• 18. تکنیک‌های اصلی بهینه‌سازی عملکرد GPU
• 19. کاهش سربار هسته (Kernel Overhead)
• 20. افزایش موازی‌سازی
• 21. کاهش تداخل حافظه
• 22. بهینه‌سازی محاسبات
• 23. مدیریت توان مصرفی GPU
• 24. پروفایلینگ و اندازه‌گیری عملکرد GPU
• 25. ابزارهای پروفایلینگ CUDA
• 26. تفسیر نتایج پروفایلینگ
• 27. شناسایی گلوگاه‌های عملکرد
• 28. بهینه‌سازی الگوریتم‌ها برای GPU
• 29. تبدیل الگوریتم‌های متوالی به موازی
• 30. الگوریتم‌های مرتب‌سازی بر روی GPU
• 31. الگوریتم‌های جستجو بر روی GPU
• 32. عملیات ماتریس بر روی GPU
• 33. تبدیل فوریه سریع (FFT) بر روی GPU
• 34. پردازش تصویر بر روی GPU
• 35. یادگیری ماشین بر روی GPU
• 36. شبکه‌های عصبی عمیق بر روی GPU
• 37. یادگیری تقویتی بر روی GPU
• 38. شبیه‌سازی‌های علمی بر روی GPU
• 39. شبیه‌سازی دینامیک مولکولی بر روی GPU
• 40. دینامیک سیالات محاسباتی (CFD) بر روی GPU
• 41. فیزیک شبیه‌سازی بر روی GPU
• 42. استفاده از CUDA C/C++
• 43. ساختار توابع کرنل
• 44. دستورالعمل‌های نخ‌ها و بلوک‌ها
• 45. مدیریت حافظه پیشرفته در CUDA
• 46. بهینه‌سازی دسترسی به حافظه سراسری با Coalescing
• 47. استفاده بهینه از حافظه اشتراکی برای کاهش دسترسی به حافظه سراسری
• 48. استفاده از حافظه ثابت (Constant Memory)
• 49. استفاده از حافظه سراسری (Global Memory) با استراتژی‌های مناسب
• 50. مدیریت حافظه در دستگاه (Device Memory Management)
• 51. تکنیک‌های پیشرفته همگام‌سازی
• 52. Barrier Synchronization
• 53. Atomic Operations
• 54. Volatile Keyword
• 55. مدیریت خطاهای CUDA
• 56. اشکال‌زدایی برنامه‌های CUDA
• 57. تکنیک‌های کاهش سربار هسته
• 58. کاهش تعداد فراخوانی‌های کرنل
• 59. استفاده از استریم‌ها (Streams) برای اجرای ناهمزمان
• 60. بهینه‌سازی اندازه‌های بلوک و شبکه نخ‌ها
• 61. استفاده از Warp Shuffles
• 62. بهینه‌سازی محاسبات با دقت پایین (FP16، INT8)
• 63. فشرده‌سازی داده‌ها برای GPU
• 64. مدیریت حافظه اشتراکی با اندازه‌های متغیر
• 65. استفاده از Texture Memory
• 66. استفاده از Surface Memory
• 67. بهینه‌سازی دسترسی به حافظه برای الگوهای غیرخطی
• 68. پروفایلینگ پیشرفته
• 69. تحلیل Warp Execution Mask
• 70. شناسایی Warp Divergence
• 71. تحلیل حافظه با جزئیات بالا
• 72. تحلیل مصرف انرژی GPU
• 73. بهینه‌سازی الگوریتم‌های داده‌محور
• 74. Matrix Multiplication (GEMM) Optimization
• 75. Convolution Optimization
• 76. Reduction Operations
• 77. Scan Operations
• 78. Parallel Prefix Sum
• 79. الگوریتم‌های گراف بر روی GPU
• 80. جستجوی اول سطح (BFS) بر روی GPU
• 81. جستجوی اول عمق (DFS) بر روی GPU
• 82. الگوریتم‌های کوتاه‌ترین مسیر بر روی GPU
• 83. مدیریت گراف‌های پراکنده بر روی GPU
• 84. برنامه‌نویسی موازی با OpenCL
• 85. مفاهیم اصلی OpenCL: پلتفرم، دستگاه، زمینه، صف دستورات
• 86. نوشتن کرنل در OpenCL
• 87. مدیریت حافظه در OpenCL
• 88. مقایسه CUDA و OpenCL
• 89. ملاحظات معماری GPUهای مدرن
• 90. انویدیا Ampere, Hopper Architectures
• 91. AMD CDNA Architectures
• 92. تکنیک‌های برنامه‌نویسی برای معماری‌های خاص
• 93. بهینه‌سازی برای Tensor Cores
• 94. استفاده از حافظه HBM
• 95. برنامه‌نویسی GPU با کتابخانه‌های سطح بالا
• 96. cuBLAS, cuFFT, cuRAND
• 97. Thrust Library
• 98. Deep Learning Frameworks (TensorFlow, PyTorch)
• 99. استفاده از GPU برای محاسبات علمی با دقت بالا
• 100. Double Precision Computations