کتاب صوتی TensorFlow & PyTorch: Building Next-Generation Language Models

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره TensorFlow & PyTorch: Building Next-Generation Language Models

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: چارچوب‌های یادگیری عمیق (TensorFlow, PyTorch)

📋 سرفصل‌های دوره

• 1. مبانی یادگیری عمیق و شبکه‌های عصبی
• 2. مقدمه‌ای بر پردازش زبان طبیعی
• 3. مفاهیم اساسی TensorFlow
• 4. آشنایی با PyTorch
• 5. نصب و پیکربندی محیط توسعه
• 6. ساخت اولین مدل زبان ساده
• 7. اصول مدل‌های ترنسفورمر
• 8. معماری ترنسفورمر: مکانیسم توجه
• 9. پیاده‌سازی مکانیسم توجه در TensorFlow
• 10. پیاده‌سازی مکانیسم توجه در PyTorch
• 11. مدل‌های مبتنی بر ترنسفورمر: BERT
• 12. تنظیم دقیق (Fine-tuning) مدل BERT
• 13. کاربرد BERT در طبقه‌بندی متن
• 14. کاربرد BERT در تشخیص موجودیت نام‌دار
• 15. مدل‌های مبتنی بر ترنسفورمر: GPT
• 16. آموزش مدل GPT از ابتدا (مفاهیم)
• 17. تنظیم دقیق مدل GPT
• 18. تولید متن با مدل GPT
• 19. معماری‌های پیشرفته‌تر ترنسفورمر
• 20. مدل‌های Encoder-Decoder
• 21. مدل‌های Sequence-to-Sequence
• 22. کاربرد مدل‌های Seq2Seq در ترجمه ماشینی
• 23. کاربرد مدل‌های Seq2Seq در خلاصه‌سازی متن
• 24. بهینه‌سازی مدل‌های زبان
• 25. روش‌های بهینه‌سازی در TensorFlow
• 26. روش‌های بهینه‌سازی در PyTorch
• 27. تنظیم ابرپارامترها (Hyperparameter Tuning)
• 28. اعتبارسنجی مدل و جلوگیری از بیش‌برازش (Overfitting)
• 29. تکنیک‌های منظم‌سازی (Regularization)
• 30. مقدمه‌ای بر داده‌های زبانی
• 31. پیش‌پردازش داده‌های متنی
• 32. توکن‌سازی (Tokenization) و نرمال‌سازی
• 33. تعبیه‌سازی کلمات (Word Embeddings)
• 34. Word2Vec و GloVe
• 35. تعبیه‌سازی‌های مبتنی بر زمینه (Contextual Embeddings)
• 36. یادگیری تعبیه‌سازی‌ها در TensorFlow
• 37. یادگیری تعبیه‌سازی‌ها در PyTorch
• 38. استفاده از تعبیه‌سازی‌های از پیش آموزش‌دیده
• 39. مدل‌های زبانی آماری (Statistical Language Models)
• 40. مدل‌های N-gram
• 41. محدودیت‌های مدل‌های N-gram
• 42. یادگیری ماشینی کلاسیک برای NLP
• 43. طبقه‌بندی متن با ماشین‌های بردار پشتیبان (SVM)
• 44. طبقه‌بندی متن با رگرسیون لجستیک
• 45. پردازش زبان طبیعی با استفاده از کتابخانه‌های پایتون
• 46. NLTK و SpaCy
• 47. کاربرد کتابخانه‌های استاندارد در پیش‌پردازش
• 48. مفاهیم اساسی یادگیری تقویتی (Reinforcement Learning)
• 49. کاربرد یادگیری تقویتی در NLP
• 50. تولید متن با یادگیری تقویتی
• 51. مدیریت مکالمه با یادگیری تقویتی
• 52. مقدمه‌ای بر شبکه‌های عصبی بازگشتی (RNN)
• 53. شبکه‌های حافظه کوتاه‌مدت و بلندمدت (LSTM)
• 54. شبکه‌های حافظه کوتاه‌مدت (GRU)
• 55. پیاده‌سازی RNN/LSTM/GRU در TensorFlow
• 56. پیاده‌سازی RNN/LSTM/GRU در PyTorch
• 57. کاربرد RNN در مدل‌سازی زبان
• 58. کاربرد RNN در تحلیل احساسات
• 59. مقدمه‌ای بر گراف‌های دانش (Knowledge Graphs)
• 60. کاربرد گراف‌های دانش در NLP
• 61. مدل‌سازی زبان با گراف‌های دانش
• 62. استخراج اطلاعات از متن
• 63. تشخیص ارتباط بین موجودیت‌ها
• 64. مدل‌سازی رویدادها در متن
• 65. مقدمه‌ای بر مدل‌های مولد (Generative Models)
• 66. شبکه‌های مولد تخاصمی (GANs) برای متن
• 67. کاربرد GANs در تولید متن
• 68. مدل‌های انتشار (Diffusion Models) برای متن
• 69. مقدمه‌ای بر یادگیری انتقالی (Transfer Learning)
• 70. استراتژی‌های یادگیری انتقالی در NLP
• 71. کاربرد مدل‌های از پیش آموزش‌دیده در وظایف خاص
• 72. تفسیرپذیری (Interpretability) در مدل‌های زبان
• 73. روش‌های تفسیرپذیری مدل‌های ترنسفورمر
• 74. تصویرسازی مکانیزم توجه (Attention Visualization)
• 75. ارزیابی مدل‌های زبان
• 76. معیارهای ارزیابی برای تولید متن (Perplexity, BLEU)
• 77. معیارهای ارزیابی برای طبقه‌بندی متن (Accuracy, F1-Score)
• 78. ارزیابی مدل‌های زبانی بزرگ (LLMs)
• 79. ملاحظات اخلاقی در مدل‌های زبان
• 80. سوگیری (Bias) در داده‌ها و مدل‌ها
• 81. کاهش سوگیری در مدل‌های زبان
• 82. امنیت و حریم خصوصی در مدل‌های زبان
• 83. کاربرد مدل‌های زبان در صنعت
• 84. تولید محتوای متنی خودکار
• 85. سیستم‌های پرسش و پاسخ
• 86. چت‌بات‌ها و دستیارهای مجازی
• 87. تجزیه و تحلیل متن در مقیاس بزرگ
• 88. مقدمه‌ای بر مدل‌های زبان چندوجهی (Multimodal Language Models)
• 89. پردازش تصویر و متن همزمان
• 90. پردازش صدا و متن همزمان
• 91. کاربرد مدل‌های زبان در تحقیقات علمی
• 92. توسعه ابزارهای پژوهشی با NLP
• 93. تحلیل مقالات علمی
• 94. آینده مدل‌های زبان و تحقیقات پیش رو
• 95. مدل‌های زبان بزرگ (LLMs) و قابلیت‌های آن‌ها
• 96. یادگیری چندوظیفه‌ای (Multi-task Learning)
• 97. یادگیری با نمونه‌های کم (Few-shot Learning)
• 98. مدل‌های زبانی برای زبان فارسی
• 99. چالش‌های پردازش زبان فارسی
• 100. استفاده از مدل‌های ترنسفورمر برای زبان فارسی