اپلیکیشن اندرویدی فلش‌کارت آموزشی راهنمای جامع شبکه‌های عصبی ترنسفورمر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهنمای جامع شبکه‌های عصبی ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی و یادگیری عمیق
• 2. مفاهیم پایه شبکه‌های عصبی مصنوعی
• 3. توابع فعال‌سازی در شبکه‌های عصبی
• 4. پس‌انتشار خطا و بهینه‌سازی گرادیان
• 5. معرفی معماری‌های پرکاربرد شبکه‌های عصبی
• 6. شبکه‌های عصبی کانولوشنال (CNN)
• 7. شبکه‌های عصبی بازگشتی (RNN)
• 8. آشنایی با مفاهیم اولیه پردازش زبان طبیعی
• 9. مدل‌های زبانی سنتی
• 10. آغاز راه مدل‌های ترنسفورمر
• 11. معماری اصلی ترنسفورمر: رمزگذار و رمزگشا
• 12. مکانیزم توجه (Attention Mechanism)
• 13. توجه خودی (Self-Attention)
• 14. توجه چندسر (Multi-Head Attention)
• 15. تکمیل و نرمال‌سازی لایه‌ها
• 16. اتصالات باقی‌مانده (Residual Connections)
• 17. نرمال‌سازی لایه (Layer Normalization)
• 18. شبکه‌های عصبی ترنسفورمر: جزئیات پیاده‌سازی
• 19. کدگذاری موقعیت (Positional Encoding)
• 20. جاسازی کلمات (Word Embeddings)
• 21. آموزش مدل ترنسفورمر
• 22. تابع هزینه (Loss Function)
• 23. بهینه‌سازها (Optimizers)
• 24. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 25. ارزیابی مدل‌های ترنسفورمر
• 26. معیارهای ارزیابی در پردازش زبان طبیعی
• 27. کاربردهای شبکه‌های عصبی ترنسفورمر
• 28. ترجمه ماشینی با ترنسفورمرها
• 29. خلاصه‌سازی متن با ترنسفورمرها
• 30. تولید متن با ترنسفورمرها
• 31. پاسخ به سوال با ترنسفورمرها
• 32. تحلیل احساسات با ترنسفورمرها
• 33. طبقه‌بندی متن با ترنسفورمرها
• 34. تشخیص موجودیت نام‌گذاری شده (NER)
• 35. مدل‌های پیش‌آموزش‌دیده (Pre-trained Models)
• 36. معرفی مدل‌های ترنسفورمر معروف
• 37. BERT: Bidirectional Encoder Representations from Transformers
• 38. GPT: Generative Pre-trained Transformer
• 39. RoBERTa
• 40. XLNet
• 41. ALBERt
• 42. DistilBERT
• 43. T5: Text-to-Text Transfer Transformer
• 44. تکنیک‌های تنظیم دقیق (Fine-tuning)
• 45. تنظیم دقیق برای وظایف خاص
• 46. انتقال یادگیری (Transfer Learning) در ترنسفورمرها
• 47. استفاده از مدل‌های ترنسفورمر از پیش آموزش‌دیده
• 48. تنظیم دقیق برای ترجمه ماشینی
• 49. تنظیم دقیق برای خلاصه‌سازی متن
• 50. تنظیم دقیق برای پاسخ به سوال
• 51. تنظیم دقیق برای تحلیل احساسات
• 52. تنظیم دقیق برای طبقه‌بندی متن
• 53. تنظیم دقیق برای تشخیص موجودیت نام‌گذاری شده
• 54. بهینه‌سازی و تسریع مدل‌های ترنسفورمر
• 55. کوانتیزاسیون (Quantization)
• 56. تقطیر دانش (Knowledge Distillation)
• 57. هرس کردن (Pruning)
• 58. استفاده از سخت‌افزارهای شتاب‌دهنده
• 59. ملاحظات اخلاقی و مسئولیت‌پذیری در هوش مصنوعی
• 60. سوگیری در داده‌ها و مدل‌ها
• 61. تفسیرپذیری مدل‌های ترنسفورمر
• 62. کاربردهای ترنسفورمر در حوزه‌های غیر زبانی
• 63. ترنسفورمرها در پردازش تصویر
• 64. ترنسفورمرها در پردازش صدا
• 65. ترنسفورمرها در یادگیری تقویتی
• 66. ترنسفورمرها در کشف دارو و علوم زیستی
• 67. ترنسفورمرها در تحلیل داده‌های سری زمانی
• 68. ترنسفورمرها در سیستم‌های توصیه‌گر
• 69. ترنسفورمرها در تحلیل شبکه‌های اجتماعی
• 70. مباحث پیشرفته در معماری ترنسفورمر
• 71. ترنسفورمرهای اسپارس (Sparse Transformers)
• 72. ترنسفورمرهای خطی (Linear Transformers)
• 73. ترنسفورمرهای کارآمد (Efficient Transformers)
• 74. مدل‌های ترنسفورمر چندوجهی (Multimodal Transformers)
• 75. ترنسفورمرهای گراف (Graph Transformers)
• 76. ترنسفورمرهای مبتنی بر فرمول (Formula-based Transformers)
• 77. ترنسفورمرهای مبتنی بر دانش (Knowledge-based Transformers)
• 78. ترنسفورمرهای با حافظه بلندمدت
• 79. ترنسفورمرهای خودرگرسیو (Autoregressive Transformers)
• 80. ترنسفورمرهای خودانطباقی (Self-adaptive Transformers)
• 81. ترنسفورمرهای مبتنی بر یادگیری فعال (Active Learning Transformers)
• 82. ترنسفورمرهای مبتنی بر یادگیری نیمه‌نظارت شده (Semi-supervised Transformers)
• 83. ترنسفورمرهای مبتنی بر یادگیری بدون نظارت (Unsupervised Transformers)
• 84. کاربرد ترنسفورمرها در پژوهش‌های علمی
• 85. ترنسفورمرها در علوم کامپیوتر
• 86. ترنسفورمرها در مهندسی نرم‌افزار
• 87. ترنسفورمرها در تحلیل داده‌های بزرگ
• 88. ترنسفورمرها در سیستم‌های توزیع شده
• 89. ترنسفورمرها در امنیت سایبری
• 90. ترنسفورمرها در پیش‌بینی و شبیه‌سازی
• 91. ترنسفورمرها در بهینه‌سازی فرآیندها
• 92. ترنسفورمرها در طراحی سیستم‌های هوشمند
• 93. ترنسفورمرها در توسعه رباتیک
• 94. ترنسفورمرها در آموزش و یادگیری ماشینی
• 95. ترنسفورمرها در سیستم‌های تشخیص پزشکی
• 96. ترنسفورمرها در تحلیل متون تاریخی
• 97. ترنسفورمرها در حقوق و قوانین
• 98. ترنسفورمرها در اقتصاد و بازارهای مالی
• 99. ترنسفورمرها در مطالعات اجتماعی
• 100. ترنسفورمرها در توسعه شهری