فلش‌کارت‌های آموزشی کوانتیزاسیون مدل‌های زبانی بزرگ: بهینه‌سازی برای کاربردهای موبایل

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب کوانتیزاسیون مدل‌های زبانی بزرگ: بهینه‌سازی برای کاربردهای موبایل

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: Quantization

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه به مدل‌های زبانی بزرگ
• 2. مقدمه به کوانتیزاسیون
• 3. نیاز به کوانتیزاسیون برای کاربردهای موبایل
• 4. چالش‌های اجرای مدل‌های زبانی بزرگ روی موبایل
• 5. تعریف کوانتیزاسیون
• 6. انواع کوانتیزاسیون (پست-ترینینگ، حین-ترینینگ)
• 7. کوانتیزاسیون بدون اتلاف
• 8. کوانتیزاسیون با اتلاف
• 9. مزایای کوانتیزاسیون (اندازه مدل، سرعت، مصرف انرژی)
• 10. معایب کوانتیزاسیون (کاهش دقت)
• 11. کاربرد کوانتیزاسیون در مدل‌های زبانی بزرگ
• 12. معماری‌های رایج مدل‌های زبانی بزرگ (ترنسفورمرها)
• 13. مکانیسم توجه در ترنسفورمرها
• 14. لایه های Feed-Forward در ترنسفورمرها
• 15. Embedding Layers
• 16. Output Layers
• 17. تأثیر کوانتیزاسیون بر دقت مدل‌های زبانی بزرگ
• 18. اندازه‌گیری دقت مدل‌های زبانی بزرگ
• 19. معیارهای ارزیابی مدل‌های زبانی بزرگ
• 20. معیارهای تشابه متن
• 21. معیارهای تولید متن
• 22. کوانتیزاسیون وزن‌ها
• 23. کوانتیزاسیون فعال‌سازی‌ها (Activations)
• 24. کوانتیزاسیون مقادیر میانی (Intermediate Values)
• 25. کوانتیزاسیون مقادیر ثابت (Fixed-Point Quantization)
• 26. کوانتیزاسیون مقادیر شناور (Floating-Point Quantization)
• 27. کوانتیزاسیون 8 بیتی (INT8)
• 28. کوانتیزاسیون 4 بیتی (INT4)
• 29. کوانتیزاسیون 2 بیتی (INT2)
• 30. کوانتیزاسیون 1 بیتی (Binary Quantization)
• 31. کوانتیزاسیون پویا (Dynamic Quantization)
• 32. کوانتیزاسیون ثابت (Static Quantization)
• 33. کوانتیزاسیون Post-Training Quantization (PTQ)
• 34. کوانتیزاسیون Quantization-Aware Training (QAT)
• 35. مراحل کوانتیزاسیون PTQ
• 36. انتخاب مجموعه داده کالیبراسیون
• 37. محاسبه محدوده فعال‌سازی‌ها
• 38. محاسبه مقیاس کوانتیزاسیون
• 39. انتخاب سطح کوانتیزاسیون
• 40. کوانتیزاسیون وزن‌ها در PTQ
• 41. کوانتیزاسیون فعال‌سازی‌ها در PTQ
• 42. کوانتیزاسیون مقادیر میانی در PTQ
• 43. مراحل کوانتیزاسیون QAT
• 44. تعبیه شبیه‌ساز کوانتیزاسیون در مدل
• 45. آموزش مدل با در نظر گرفتن کوانتیزاسیون
• 46. تنظیم هایپرپارامترها در QAT
• 47. مزایای QAT نسبت به PTQ
• 48. معایب QAT نسبت به PTQ
• 49. کوانتیزاسیون لایه‌های خاص مدل‌های زبانی بزرگ
• 50. کوانتیزاسیون لایه‌های توجه
• 51. کوانتیزاسیون لایه‌های Feed-Forward
• 52. کوانتیزاسیون لایه‌های Embedding
• 53. کوانتیزاسیون لایه‌های خروجی
• 54. تکنیک‌های کاهش اتلاف در کوانتیزاسیون
• 55. Differential Quantization
• 56. Learned Quantization
• 57. Mixed-Precision Quantization
• 58. Quantization Schemes for Different Data Types
• 59. تکنیک‌های پیشرفته کوانتیزاسیون
• 60. Sparse Quantization
• 61. Structured Quantization
• 62. Quantization for Low-Rank Approximations
• 63. Quantization of Large Language Model Architectures
• 64. Quantization of Transformer Models
• 65. Quantization of BERT-like Models
• 66. Quantization of GPT-like Models
• 67. Quantization of Encoder-Decoder Models
• 68. Quantization for Specific NLP Tasks on Mobile
• 69. Text Classification Quantization
• 70. Named Entity Recognition Quantization
• 71. Question Answering Quantization
• 72. Machine Translation Quantization
• 73. Text Generation Quantization
• 74. Summarization Quantization
• 75. Quantization Frameworks and Libraries
• 76. TensorFlow Lite
• 77. PyTorch Mobile
• 78. ONNX Runtime
• 79. Core ML
• 80. TensorRT
• 81. NVIDIA Tools for Quantization
• 82. Qualcomm Tools for Quantization
• 83. ARM Tools for Quantization
• 84. Hardware Accelerators for Quantized Models
• 85. Neural Processing Units (NPUs)
• 86. Digital Signal Processors (DSPs)
• 87. Graphics Processing Units (GPUs) on Mobile
• 88. Impact of Quantization on Mobile Performance
• 89. Latency Reduction
• 90. Memory Footprint Reduction
• 91. Energy Efficiency Improvement
• 92. Trade-offs Between Accuracy and Performance
• 93. Benchmarking Quantized Models on Mobile Devices
• 94. Real-world Mobile Application Examples
• 95. On-device Chatbots
• 96. On-device Translation Apps
• 97. On-device Virtual Assistants
• 98. Challenges and Future Directions in Model Quantization
• 99. Quantization of Extremely Large Models
• 100. Robustness of Quantized Models to Adversarial Attacks