اپلیکیشن اندرویدی فلش‌کارت آموزشی راهنمای جامع شبکه‌های عصبی ترنسفورمر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهنمای جامع شبکه‌های عصبی ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی ترنسفورمر
• 2. مبانی یادگیری عمیق برای ترنسفورمرها
• 3. آرشیتکتور پایه ترنسفورمر
• 4. مکانیزم توجه (Attention Mechanism)
• 5. توجه چند سر (Multi-Head Attention)
• 6. رمزگذار و رمزگشا در ترنسفورمر
• 7. لایه‌های نرمال‌سازی و اتصالات باقی‌مانده
• 8. توابع فعال‌سازی در ترنسفورمرها
• 9. کدگذاری موقعیتی (Positional Encoding)
• 10. ورودی‌ها و خروجی‌های ترنسفورمر
• 11. آموزش مدل‌های ترنسفورمر
• 12. تابع هزینه (Loss Function) در ترنسفورمرها
• 13. بهینه‌سازها (Optimizers) برای ترنسفورمرها
• 14. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 15. ارزیابی مدل‌های ترنسفورمر
• 16. معیارهای ارزیابی عملکرد
• 17. مدل‌های زبانی بزرگ (LLMs)
• 18. معماری GPT و خانواده آن
• 19. معماری BERT و خانواده آن
• 20. ترنسفورمرهای تولیدی (Generative Transformers)
• 21. ترنسفورمرهای تمایزی (Discriminative Transformers)
• 22. ترنسفورمرهای خودرگرسیو (Autoregressive Transformers)
• 23. ترنسفورمرهای غیر خودرگرسیو (Non-Autoregressive Transformers)
• 24. ترنسفورمرهای مبدل (Encoder-Decoder Transformers)
• 25. ترنسفورمرهای فقط رمزگذار (Encoder-only Transformers)
• 26. ترنسفورمرهای فقط رمزگشا (Decoder-only Transformers)
• 27. کاربرد ترنسفورمرها در پردازش زبان طبیعی (NLP)
• 28. ترجمه ماشینی با ترنسفورمرها
• 29. خلاصه‌سازی متن با ترنسفورمرها
• 30. تولید متن با ترنسفورمرها
• 31. پاسخگویی به سوالات با ترنسفورمرها
• 32. تحلیل احساسات با ترنسفورمرها
• 33. دسته‌بندی متن با ترنسفورمرها
• 34. تشخیص موجودیت نام‌دار (NER) با ترنسفورمرها
• 35. برچسب‌گذاری اجزای کلام (POS Tagging) با ترنسفورمرها
• 36. یادگیری بازنمایی کلمات (Word Embeddings)
• 37. یادگیری بازنمایی جملات (Sentence Embeddings)
• 38. ترنسفورمرها در بینایی ماشین (Computer Vision)
• 39. طبقه‌بندی تصویر با ترنسفورمرها
• 40. تشخیص اشیاء با ترنسفورمرها
• 41. تقسیم‌بندی تصویر با ترنسفورمرها
• 42. تولید تصویر با ترنسفورمرها
• 43. کاربرد ترنسفورمرها در علم داده
• 44. ترنسفورمرها در سیستم‌های توصیه‌گر
• 45. ترنسفورمرها در تحلیل سری‌های زمانی
• 46. ترنسفورمرها در پردازش صوت
• 47. ترنسفورمرها در رباتیک
• 48. ترنسفورمرها در بیوانفورماتیک
• 49. ترنسفورمرهای سفارشی‌سازی شده (Custom Transformers)
• 50. تکنیک‌های پیش‌نمونه‌سازی (Pre-training Techniques)
• 51. تنظیم دقیق (Fine-tuning) مدل‌های ترنسفورمر
• 52. آموزش ترنسفورمرها با داده‌های محدود (Few-shot Learning)
• 53. ترنسفورمرها و یادگیری تقویتی (Reinforcement Learning)
• 54. مفاهیم پیشرفته در مکانیزم توجه
• 55. توجه موضعی (Local Attention)
• 56. توجه پراکنده (Sparse Attention)
• 57. توجه خطی (Linear Attention)
• 58. توجه مبتنی بر گراف (Graph Attention)
• 59. ترنسفورمرهای حافظه‌دار (Memory-augmented Transformers)
• 60. ترنسفورمرهای قابل تفسیر (Interpretable Transformers)
• 61. روش‌های ارزیابی تفسیرپذیری
• 62. ترنسفورمرهای کارآمد (Efficient Transformers)
• 63. فشرده‌سازی مدل‌های ترنسفورمر
• 64. تقطیر دانش (Knowledge Distillation) برای ترنسفورمرها
• 65. کوچک‌سازی مدل‌ها (Model Quantization)
• 66. نرم‌افزارها و کتابخانه‌های ترنسفورمر
• 67. TensorFlow و Keras برای ترنسفورمرها
• 68. PyTorch برای ترنسفورمرها
• 69. کتابخانه Hugging Face Transformers
• 70. پیاده‌سازی ترنسفورمر از ابتدا
• 71. مدیریت داده‌ها و پیش‌پردازش
• 72. استفاده از GPU و TPU برای آموزش
• 73. دیباگ کردن مدل‌های ترنسفورمر
• 74. مشکلات رایج در آموزش ترنسفورمرها
• 75. راه‌حل‌های عملی برای مشکلات آموزش
• 76. اخلاق در هوش مصنوعی و ترنسفورمرها
• 77. سوگیری در مدل‌های ترنسفورمر
• 78. عدالت و شفافیت در ترنسفورمرها
• 79. امنیت و حریم خصوصی در ترنسفورمرها
• 80. کاربردهای ترنسفورمر در صنعت
• 81. ترنسفورمرها در حوزه سلامت
• 82. ترنسفورمرها در حوزه آموزش
• 83. ترنسفورمرها در حوزه مالی
• 84. ترنسفورمرها در حوزه حقوق
• 85. ترنسفورمرها در حوزه تولید محتوا
• 86. آینده پژوهی ترنسفورمرها
• 87. ترنسفورمرهای چندوجهی (Multimodal Transformers)
• 88. ترنسفورمرهای خود-نظارتی (Self-supervised Transformers)
• 89. ترنسفورمرهای مبتنی بر دانش (Knowledge-based Transformers)
• 90. ترنسفورمرهای با قابلیت توضیح (Explainable Transformers)
• 91. ترنسفورمرهای با قابلیت یادگیری مداوم (Continual Learning Transformers)
• 92. ترنسفورمرهای مقاوم در برابر حملات (Adversarial Robust Transformers)
• 93. ترنسفورمرهای کوانتومی (Quantum Transformers)
• 94. ملاحظات فنی در پیاده‌سازی ترنسفورمرها
• 95. بهینه‌سازی سخت‌افزاری برای ترنسفورمرها
• 96. ارتباط ترنسفورمرها با شبکه‌های عصبی گراف (GNNs)
• 97. ترنسفورمرهای ترکیبی (Hybrid Transformers)
• 98. چالش‌های مقیاس‌پذیری در ترنسفورمرها
• 99. مباحث پیشرفته در معماری ترنسفورمر