فلش‌کارت‌های آموزشی معماری ترنسفورمر در هوش مصنوعی: مبانی و کاربردها

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره معماری ترنسفورمر در هوش مصنوعی: مبانی و کاربردها

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: معماری‌های یادگیری عمیق

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و یادگیری ماشین
• 2. مقدمه‌ای بر یادگیری عمیق
• 3. شبکه‌های عصبی پرسپترون چندلایه
• 4. توابع فعال‌سازی در شبکه‌های عصبی
• 5. بهینه‌سازی در شبکه‌های عصبی: گرادیان کاهشی
• 6. پس‌انتشار خطا (Backpropagation)
• 7. تنظیم‌کننده‌ها (Regularization) در شبکه‌های عصبی
• 8. شبکه‌های عصبی کانولوشنی (CNN): اصول پایه
• 9. کاربرد CNN در پردازش تصویر
• 10. شبکه‌های عصبی بازگشتی (RNN): اصول پایه
• 11. کاربرد RNN در پردازش دنباله‌ها
• 12. مقدمه‌ای بر معماری ترنسفورمر
• 13. تفاوت ترنسفورمر با CNN و RNN
• 14. مفهوم توجه (Attention) در یادگیری ماشین
• 15. مکانیزم توجه خودی (Self-Attention)
• 16. کدک‌های ترنسفورمر: انکودر و دیکودر
• 17. موقعیت‌یابی در ترنسفورمر (Positional Encoding)
• 18. لایه‌های ترنسفورمر: لایه‌های چند-سری توجه
• 19. لایه‌های ترنسفورمر: لایه‌های پیشخور
• 20. ساختار کلی معماری ترنسفورمر
• 21. آموزش مدل ترنسفورمر
• 22. ارزیابی مدل ترنسفورمر
• 23. کاربرد ترنسفورمر در پردازش زبان طبیعی (NLP)
• 24. ترنسفورمر برای ترجمه ماشینی
• 25. ترنسفورمر برای تولید متن
• 26. ترنسفورمر برای خلاصه‌سازی متن
• 27. ترنسفورمر برای پاسخگویی به سوالات
• 28. مدل‌های زبانی مبتنی بر ترنسفورمر
• 29. BERT: مفاهیم و معماری
• 30. GPT: مفاهیم و معماری
• 31. کاربردهای پیشرفته ترنسفورمر در NLP
• 32. ترنسفورمر برای پردازش صدا
• 33. ترنسفورمر برای بینایی ماشین
• 34. ترنسفورمر برای یادگیری تقویتی
• 35. معماری‌های ترنسفورمر تعمیم‌یافته
• 36. ترنسفورمرهای کارآمد (Efficient Transformers)
• 37. کاربرد ترنسفورمر در داده‌های جدولی
• 38. ترنسفورمر در سیستم‌های توصیه‌گر
• 39. ترنسفورمر در تحلیل احساسات
• 40. ترنسفورمر در کشف الگوهای بیولوژیکی
• 41. ترنسفورمر در مدل‌سازی مالی
• 42. اخلاق و مسئولیت در هوش مصنوعی
• 43. سوگیری (Bias) در مدل‌های ترنسفورمر
• 44. تفسیرپذیری (Interpretability) مدل‌های ترنسفورمر
• 45. امنیت مدل‌های ترنسفورمر
• 46. مقایسه ترنسفورمر با سایر معماری‌های یادگیری عمیق
• 47. مبانی ریاضی ترنسفورمر
• 48. جبر خطی برای ترنسفورمر
• 49. حساب دیفرانسیل و انتگرال برای ترنسفورمر
• 50. احتمال و آمار برای ترنسفورمر
• 51. پیاده‌سازی ترنسفورمر با PyTorch
• 52. پیاده‌سازی ترنسفورمر با TensorFlow
• 53. آماده‌سازی داده‌ها برای ترنسفورمر
• 54. پیش‌پردازش متن برای ترنسفورمر
• 55. توکنایزیشن (Tokenization) در ترنسفورمر
• 56. مدیریت داده‌های بزرگ برای ترنسفورمر
• 57. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 58. تکنیک‌های افزایش داده (Data Augmentation)
• 59. یادگیری انتقالی (Transfer Learning) با ترنسفورمر
• 60. تنظیم دقیق (Fine-tuning) مدل‌های ترنسفورمر
• 61. معیارهای ارزیابی در NLP
• 62. معیارهای ارزیابی در بینایی ماشین
• 63. کاربرد ترنسفورمر در رباتیک
• 64. ترنسفورمر در سیستم‌های خودران
• 65. ترنسفورمر در تشخیص پزشکی
• 66. ترنسفورمر در کشف دارو
• 67. ترنسفورمر در علوم زمین
• 68. ترنسفورمر در اقتصاد سنجی
• 69. ترنسفورمر در تحلیل شبکه‌های اجتماعی
• 70. ترنسفورمر در پردازش داده‌های چندوجهی
• 71. ترنسفورمرهای آینده‌نگر
• 72. چالش‌های مقیاس‌پذیری ترنسفورمر
• 73. محدودیت‌های ترنسفورمر
• 74. روش‌های کاهش پیچیدگی محاسباتی
• 75. مفاهیم پیشرفته توجه
• 76. توجه متقابل (Cross-Attention)
• 77. توجه فاصله‌دار (Sparse Attention)
• 78. توجه خطی (Linear Attention)
• 79. معماری‌های مبتنی بر ترنسفورمر برای وظایف خاص
• 80. ترنسفورمرهای تصویری (Vision Transformers)
• 81. ترنسفورمرهای صوتی (Audio Transformers)
• 82. ترنسفورمرهای مولتی‌مدال (Multimodal Transformers)
• 83. مدل‌های زبانی بزرگ (LLMs) و ترنسفورمر
• 84. قابلیت‌های مدل‌های زبانی بزرگ
• 85. محدودیت‌های مدل‌های زبانی بزرگ
• 86. کاربرد LLMs در آموزش
• 87. کاربرد LLMs در پژوهش
• 88. کاربرد LLMs در تولید محتوا
• 89. کاربرد LLMs در برنامه‌نویسی
• 90. کاربرد LLMs در تحلیل داده
• 91. کاربرد LLMs در خدمات مشتری
• 92. کاربرد LLMs در سلامت
• 93. کاربرد LLMs در حقوق
• 94. کاربرد LLMs در کسب‌وکار
• 95. آینده پژوهش در معماری ترنسفورمر
• 96. ترنسفورمرهای خود-نظارتی (Self-Supervised Transformers)
• 97. ترنسفورمرهای با نظارت ضعیف (Weakly-Supervised Transformers)
• 98. ترنسفورمرهای با نظارت صفر (Zero-Shot Transformers)
• 99. ترنسفورمرهای چندوظیفه‌ای (Multi-Task Transformers)
• 100. ترنسفورمرهای قابل توضیح (Explainable Transformers)