فلش‌کارت‌های آموزشی کاربرد PyTorch در ساخت مدل‌های زبانی مولد

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب کاربرد PyTorch در ساخت مدل‌های زبانی مولد

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: چارچوب‌های یادگیری عمیق (TensorFlow, PyTorch)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه به PyTorch
• 2. نصب PyTorch
• 3. مفاهیم پایه PyTorch: تنسورها
• 4. عملیات تنسوری در PyTorch
• 5. توابع فعال‌سازی در PyTorch
• 6. بهینه‌سازها (Optimizers) در PyTorch
• 7. توابع زیان (Loss Functions) در PyTorch
• 8. مقدمه به شبکه‌های عصبی
• 9. لایه‌های عصبی در PyTorch (Dense, Conv, RNN, etc.)
• 10. ساخت مدل‌های سفارشی در PyTorch
• 11. مقدمه به پردازش زبان طبیعی (NLP)
• 12. نمایش متن برای مدل‌های زبانی
• 13. فرهنگ لغات (Vocabulary) و توکن‌سازی (Tokenization)
• 14. تعبیه‌های کلمه (Word Embeddings)
• 15. Word2Vec و GloVe
• 16. تعبیه‌های سفارشی با PyTorch
• 17. مقدمه به مدل‌های زبانی مولد
• 18. انواع مدل‌های زبانی مولد
• 19. مدل‌های زبانی مبتنی بر N-gram
• 20. شبکه‌های عصبی بازگشتی (RNN) برای مدل‌های زبانی
• 21. حافظه کوتاه‌مدت طولانی (LSTM)
• 22. واحد بازگشتی دروازه‌ای (GRU)
• 23. ساخت RNN/LSTM/GRU با PyTorch
• 24. آموزش RNN/LSTM/GRU برای تولید متن
• 25. مقدمه به شبکه‌های عصبی ترنسفورمر (Transformer)
• 26. مکانیسم توجه (Attention Mechanism)
• 27. توجه خود (Self-Attention)
• 28. رمزگذار-رمزگشا (Encoder-Decoder) در ترنسفورمر
• 29. معماری ترنسفورمر با PyTorch
• 30. مدل‌های زبانی مبتنی بر ترنسفورمر
• 31. GPT (Generative Pre-trained Transformer)
• 32. BERT (Bidirectional Encoder Representations from Transformers)
• 33. تفاوت GPT و BERT
• 34. مقدمه به GPT-2
• 35. معماری GPT-2
• 36. آموزش GPT-2 از ابتدا (Pre-training)
• 37. تنظیم دقیق (Fine-tuning) GPT-2 برای وظایف خاص
• 38. تولید متن با GPT-2
• 39. مقدمه به GPT-3
• 40. مقیاس GPT-3
• 41. توانایی‌های GPT-3
• 42. محدودیت‌های GPT-3
• 43. مدل‌های زبانی بزرگ (LLMs)
• 44. تکنیک‌های تولید متن پیشرفته
• 45. نمونه‌برداری از نمونه (Sampling)
• 46. نمونه‌برداری Top-K
• 47. نمونه‌برداری Nucleus (Top-P)
• 48. جستجوی پرتوشعاع (Beam Search)
• 49. مقایسه روش‌های نمونه‌برداری
• 50. استفاده از PyTorch برای پیاده‌سازی نمونه‌برداری
• 51. ارزیابی مدل‌های زبانی مولد
• 52. معیارهای ارزیابی (Perplexity, BLEU, ROUGE)
• 53. پیاده‌سازی معیارهای ارزیابی با PyTorch
• 54. مجموعه داده‌های رایج برای مدل‌های زبانی مولد
• 55. آماده‌سازی داده‌ها برای آموزش
• 56. تقسیم داده‌ها به مجموعه‌های آموزشی، اعتبارسنجی و آزمون
• 57. مدیریت حافظه در PyTorch برای مدل‌های بزرگ
• 58. استفاده از GPU برای سرعت بخشیدن به آموزش
• 59. موازی‌سازی داده‌ها (Data Parallelism)
• 60. موازی‌سازی مدل (Model Parallelism)
• 61. توزیع آموزش (Distributed Training)
• 62. استفاده از ابزارهای PyTorch برای آموزش توزیع شده
• 63. تنظیم فراپارامترها (Hyperparameter Tuning)
• 64. جستجوی شبکه‌ای (Grid Search)
• 65. جستجوی تصادفی (Random Search)
• 66. بهینه‌سازی بیزی (Bayesian Optimization)
• 67. ابزارهای تنظیم فراپارامترها (Optuna, Ray Tune)
• 68. مدل‌های زبانی مولد برای خلاقیت
• 69. تولید شعر با PyTorch
• 70. تولید داستان با PyTorch
• 71. تولید کد با PyTorch
• 72. تولید موسیقی با PyTorch
• 73. مدل‌های زبانی مولد برای مکالمه
• 74. ساخت چت‌بات با PyTorch
• 75. مدل‌های زبانی مولد برای خلاصه‌سازی متن
• 76. مدل‌های زبانی مولد برای ترجمه ماشینی
• 77. مدل‌های زبانی مولد برای پاسخگویی به سوالات
• 78. مدل‌های زبانی مولد برای تکمیل خودکار متن
• 79. مدل‌های زبانی مولد برای تحلیل احساسات
• 80. مدل‌های زبانی مولد برای تشخیص اسپم
• 81. مدل‌های زبانی مولد برای تولید محتوای وب
• 82. مدل‌های زبانی مولد برای بازی‌سازی
• 83. مدل‌های زبانی مولد برای آموزش
• 84. مدل‌های زبانی مولد برای سلامت روان
• 85. مدل‌های زبانی مولد و اخلاق
• 86. سوگیری در مدل‌های زبانی مولد
• 87. تولید محتوای مضر
• 88. حریم خصوصی و امنیت
• 89. مسئولیت‌پذیری در توسعه مدل‌های زبانی مولد
• 90. آینده مدل‌های زبانی مولد
• 91. مدل‌های زبانی مولد چندوجهی (Multimodal)
• 92. مدل‌های زبانی مولد قابل تفسیر
• 93. مدل‌های زبانی مولد سبک‌تر و کارآمدتر
• 94. مدل‌های زبانی مولد برای زبان‌های کم‌منابع
• 95. مدل‌های زبانی مولد شخصی‌سازی شده
• 96. پیاده‌سازی یک مدل زبانی مولد ساده با PyTorch (مثال عملی)
• 97. آماده‌سازی یک مجموعه داده کوچک
• 98. تعریف معماری مدل
• 99. آموزش مدل
• 100. تولید متن با مدل آموزش دیده