کتاب بهینه‌سازی مدل‌های زبانی بزرگ برای اجرا روی دستگاه: تکنیک‌ها و چالش‌ها

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 62,488 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی

📚 محتوای این محصول آموزشی (پکیج کامل)

💡 این محصول یک نسخهٔ کامل و جامع است

تمامی محتوای آموزشی این کتاب در قالب یک بسته‌ی کامل و یکپارچه ارائه می‌شود و شامل تمام نسخه‌ها و فایل‌های موردنیاز برای یادگیری است.

🎁 محتویات کامل بسته دانلودی

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل کتاب‌ها، تمرین‌ها و خودآزمایی .


ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود و نسخهٔ چاپی ندارد.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های کتاب همانجا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب بهینه‌سازی مدل‌های زبانی بزرگ برای اجرا روی دستگاه: تکنیک‌ها و چالش‌ها

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: On-device LLMs

📋 سرفصل‌های کتاب (100 موضوع)

  • 1. مقدمه به مدل‌های زبانی بزرگ (LLMs)
  • 2. کاربرد LLMs در دستگاه‌های لبه
  • 3. مزایای اجرای LLMs روی دستگاه
  • 4. چالش‌های اجرای LLMs روی دستگاه
  • 5. محدودیت‌های سخت‌افزاری دستگاه‌های لبه
  • 6. مصرف انرژی در دستگاه‌های لبه
  • 7. حافظه و توان پردازشی محدود
  • 8. تاخیر (Latency) در دستگاه‌های لبه
  • 9. حریم خصوصی و امنیت داده‌ها
  • 10. نیاز به مدل‌های کوچکتر و کارآمدتر
  • 11. مفاهیم پایه بهینه‌سازی مدل
  • 12. انواع تکنیک‌های بهینه‌سازی مدل
  • 13. فشرده‌سازی مدل (Model Compression)
  • 14. کوانتیزاسیون (Quantization)
  • 15. تکنیک‌های کوانتیزاسیون
  • 16. کوانتیزاسیون با دقت پایین (Low-bit Quantization)
  • 17. کوانتیزاسیون پس از آموزش (Post-Training Quantization - PTQ)
  • 18. کوانتیزاسیون در طول آموزش (Quantization-Aware Training - QAT)
  • 19. مزایای کوانتیزاسیون
  • 20. معایب کوانتیزاسیون
  • 21. تکنیک‌های هرس (Pruning)
  • 22. انواع هرس
  • 23. هرس مبتنی بر وزن (Weight Pruning)
  • 24. هرس مبتنی بر ساختار (Structured Pruning)
  • 25. هرس غیرمبتنی بر ساختار (Unstructured Pruning)
  • 26. مزایای هرس
  • 27. معایب هرس
  • 28. تقطیر دانش (Knowledge Distillation)
  • 29. معماری مدل معلم (Teacher Model)
  • 30. معماری مدل دانش‌آموز (Student Model)
  • 31. روش‌های تقطیر دانش
  • 32. تقطیر بر اساس خروجی (Output-based Distillation)
  • 33. تقطیر بر اساس ویژگی (Feature-based Distillation)
  • 34. تقطیر مبتنی بر رابطه (Relation-based Distillation)
  • 35. مزایای تقطیر دانش
  • 36. معایب تقطیر دانش
  • 37. بهینه‌سازی معماری مدل
  • 38. کاوش معماری عصبی (Neural Architecture Search - NAS)
  • 39. NAS برای مدل‌های کوچک
  • 40. معماری‌های کارآمد برای LLMs
  • 41. معماری‌های ترنسفورمر سبک (Lightweight Transformer Architectures)
  • 42. معماری‌های مبتنی بر کانولوشن (Convolutional Architectures)
  • 43. معماری‌های هیبریدی (Hybrid Architectures)
  • 44. بهینه‌سازی لایه‌ها و بلوک‌های ترنسفورمر
  • 45. مکانیسم توجه کارآمد (Efficient Attention Mechanisms)
  • 46. توجه خطی (Linear Attention)
  • 47. توجه پراکنده (Sparse Attention)
  • 48. توجه مبتنی بر پنجره (Windowed Attention)
  • 49. تکنیک‌های کاهش ابعاد (Dimensionality Reduction Techniques)
  • 50. تجزیه ماتریس (Matrix Factorization)
  • 51. تکنیک‌های کاهش پارامتر
  • 52. تکنیک‌های کاهش محاسبات
  • 53. بهینه‌سازی اجرای مدل
  • 54. اجرا بر روی سخت‌افزارهای تخصصی (Hardware Acceleration)
  • 55. پردازنده‌های گرافیکی (GPUs)
  • 56. پردازنده‌های تنسور (TPUs)
  • 57. شتاب‌دهنده‌های هوش مصنوعی (AI Accelerators)
  • 58. پردازنده‌های سیگنال دیجیتال (DSPs)
  • 59. پردازنده‌های محاسباتی عصبی (NPUs)
  • 60. استفاده از کتابخانه‌های بهینه‌سازی
  • 61. TensorRT
  • 62. ONNX Runtime
  • 63. OpenVINO
  • 64. TFLite
  • 65. PyTorch Mobile
  • 66. تکنیک‌های زمان اجرا (Runtime Techniques)
  • 67. تفسیر (Interpretation) و زمان‌بندی (Scheduling)
  • 68. بهینه‌سازی حافظه در زمان اجرا
  • 69. مدیریت حافظه پشته (Stack Memory Management)
  • 70. مدیریت حافظه Heap
  • 71. کش کردن (Caching)
  • 72. بهینه‌سازی لوله‌های پردازشی (Pipeline Optimization)
  • 73. موازی‌سازی (Parallelism)
  • 74. موازی‌سازی داده (Data Parallelism)
  • 75. موازی‌سازی مدل (Model Parallelism)
  • 76. موازی‌سازی لوله (Pipeline Parallelism)
  • 77. تکنیک‌های ادغام عملیات (Operator Fusion)
  • 78. بهینه‌سازی حافظه نهان (Cache Optimization)
  • 79. مدیریت حافظه (Memory Management)
  • 80. کاهش مصرف حافظه در زمان اجرا
  • 81. تکنیک‌های پیش‌بارگذاری (Prefetching)
  • 82. بهینه‌سازی حافظه برای مدل‌های بزرگ
  • 83. تکنیک‌های راندمان حافظه (Memory Efficiency Techniques)
  • 84. استفاده از حافظه مشترک (Shared Memory)
  • 85. کاهش دسترسی به حافظه اصلی
  • 86. بهینه‌سازی برای دستگاه‌های خاص
  • 87. بهینه‌سازی برای موبایل
  • 88. بهینه‌سازی برای دستگاه‌های اینترنت اشیا (IoT)
  • 89. بهینه‌سازی برای دستگاه‌های پوشیدنی (Wearables)
  • 90. بهینه‌سازی برای سیستم‌های تعبیه‌شده (Embedded Systems)
  • 91. ارزیابی و اندازه‌گیری عملکرد
  • 92. معیارهای ارزیابی مدل‌های زبانی
  • 93. دقت (Accuracy)
  • 94. کارایی (Efficiency)
  • 95. مصرف انرژی
  • 96. تاخیر (Latency)
  • 97. اندازه مدل (Model Size)
  • 98. ابزارهای اندازه‌گیری عملکرد
  • 99. پروفایلینگ (Profiling)
  • 100. بنچمارکینگ (Benchmarking)

📚 محتوای این محصول آموزشی (پکیج کامل)

💡 این محصول یک نسخهٔ کامل و جامع است

تمامی محتوای آموزشی این کتاب در قالب یک بسته‌ی کامل و یکپارچه ارائه می‌شود و شامل تمام نسخه‌ها و فایل‌های موردنیاز برای یادگیری است.

🎁 محتویات کامل بسته دانلودی

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل کتاب‌ها، تمرین‌ها و خودآزمایی .


ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود و نسخهٔ چاپی ندارد.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های کتاب همانجا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.