اپلیکیشن اندرویدی فلش‌کارت آموزشی راهنمای جامع معماری ترنسفورمر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهنمای جامع معماری ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی و یادگیری عمیق
• 2. مبانی یادگیری ماشین
• 3. معماری‌های پایه شبکه‌های عصبی
• 4. پس‌انتشار خطا (Backpropagation)
• 5. بهینه‌سازی در شبکه‌های عصبی
• 6. شبکه‌های عصبی کانولوشنی (CNN)
• 7. کاربرد CNN در پردازش تصویر
• 8. شبکه‌های عصبی بازگشتی (RNN)
• 9. کاربرد RNN در پردازش زبان طبیعی
• 10. مقدمه‌ای بر پردازش زبان طبیعی (NLP)
• 11. توکن‌سازی و پیش‌پردازش متن
• 12. مدل‌های زبانی آماری
• 13. بازنمایی کلمات: Word Embeddings
• 14. شبکه عصبی ترنسفورمر: معرفی و انگیزه
• 15. معماری ترنسفورمر: بخش رمزگذار (Encoder)
• 16. معماری ترنسفورمر: بخش رمزگشا (Decoder)
• 17. مکانیزم توجه (Attention Mechanism)
• 18. خود-توجهی (Self-Attention)
• 19. توجه چند-سر (Multi-Head Attention)
• 20. مسیرهای باقی‌مانده (Residual Connections)
• 21. نرمال‌سازی لایه (Layer Normalization)
• 22. توابع فعال‌سازی در ترنسفورمر
• 23. ورودی‌های موقعیتی (Positional Encodings)
• 24. کاربرد ترنسفورمر در ترجمه ماشینی
• 25. مدل‌های زبانی بزرگ (LLMs)
• 26. معرفی مدل BERT
• 27. آموزش پیش‌زمینه‌ای BERT
• 28. تنظیم دقیق (Fine-tuning) مدل BERT
• 29. کاربرد BERT در طبقه‌بندی متن
• 30. کاربرد BERT در تشخیص موجودیت نام‌دار (NER)
• 31. مدل GPT: معرفی و معماری
• 32. آموزش پیش‌زمینه‌ای GPT
• 33. کاربرد GPT در تولید متن
• 34. مدل‌های ترنسفورمر مبتنی بر رمزگشا (Decoder-only)
• 35. مدل‌های ترنسفورمر مبتنی بر رمزگذار-رمزگشا (Encoder-Decoder)
• 36. معماری‌های ترنسفورمر پیشرفته
• 37. ترنسفورمرهای کارآمد (Efficient Transformers)
• 38. مدل‌های ترنسفورمر برای وظایف خاص
• 39. ترنسفورمرها در بینایی ماشین
• 40. شبکه‌های Vision Transformer (ViT)
• 41. کاربرد ViT در طبقه‌بندی تصویر
• 42. ترنسفورمرها در سیستم‌های توصیه‌گر
• 43. کاربرد ترنسفورمر در تولید موسیقی
• 44. ترنسفورمرها در رباتیک
• 45. ترنسفورمرها در مدل‌سازی سری‌های زمانی
• 46. مدل‌های ترنسفورمر در اکتشافات علمی
• 47. تکنیک‌های پیشرفته در آموزش ترنسفورمرها
• 48. تنظیم پارامترهای فرا-یادگیری (Hyperparameter Tuning)
• 49. روش‌های منظم‌سازی (Regularization)
• 50. مدیریت داده‌ها برای ترنسفورمرها
• 51. ارزیابی مدل‌های ترنسفورمر
• 52. معیارهای ارزیابی در NLP
• 53. معیارهای ارزیابی در بینایی ماشین
• 54. اخلاق در هوش مصنوعی و مدل‌های ترنسفورمر
• 55. سوگیری در داده‌ها و مدل‌ها
• 56. شفافیت و تفسیرپذیری مدل‌های ترنسفورمر
• 57. حریم خصوصی در مدل‌های ترنسفورمر
• 58. کاربرد ترنسفورمر در سلامت و پزشکی
• 59. کاربرد ترنسفورمر در صنعت مالی
• 60. کاربرد ترنسفورمر در آموزش
• 61. ترنسفورمرها و مدل‌سازی گراف
• 62. شبکه‌های عصبی گرافی (GNN)
• 63. کاربرد GNN در کنار ترنسفورمرها
• 64. ترنسفورمرهای پراکنده (Sparse Transformers)
• 65. محدودیت‌های ترنسفورمرهای سنتی
• 66. راه‌حل‌های بهینه‌سازی حافظه
• 67. مدل‌های ترنسفورمر با طول ورودی متغیر
• 68. ترنسفورمرهای مبتنی بر یادگیری تقویتی
• 69. ترنسفورمرها در تعامل انسان و کامپیوتر
• 70. تولید خودکار کد با ترنسفورمرها
• 71. ترنسفورمرها در بازی‌سازی
• 72. کاربرد ترنسفورمر در تحلیل داده‌های بزرگ
• 73. مقیاس‌پذیری مدل‌های ترنسفورمر
• 74. موازی‌سازی در آموزش ترنسفورمرها
• 75. فشرده‌سازی مدل‌های ترنسفورمر
• 76. کوانتیزاسیون (Quantization) مدل‌ها
• 77. هرس کردن (Pruning) مدل‌ها
• 78. یادگیری انتقالی (Transfer Learning) در ترنسفورمرها
• 79. یادگیری چندوظیفه‌ای (Multi-task Learning)
• 80. یادگیری خودنظارتی (Self-supervised Learning)
• 81. یادگیری نیمه‌نظارتی (Semi-supervised Learning)
• 82. مدل‌های هیبریدی با ترنسفورمرها
• 83. ترنسفورمرها و پردازش سیگنال
• 84. کاربرد ترنسفورمر در تشخیص گفتار
• 85. ترنسفورمرها در سیستم‌های پرسش و پاسخ
• 86. ترنسفورمرها در خلاصه‌سازی متن
• 87. مدل‌های ترنسفورمر برای وظایف تولیدی
• 88. ملاحظات امنیتی در مدل‌های ترنسفورمر
• 89. حملات متخاصم (Adversarial Attacks)
• 90. دفاع در برابر حملات متخاصم
• 91. تحولات آینده در معماری ترنسفورمر
• 92. ترنسفورمرهای کوانتومی
• 93. نکات تکمیلی و بهترین شیوه‌ها
• 94. مطالعه موردی: پیاده‌سازی یک ترنسفورمر ساده
• 95. جمع‌بندی و چشم‌انداز
• 96. نکات پایانی برای توسعه‌دهندگان
• 97. منابع و مراجع تکمیلی