فلش‌کارت‌های آموزشی مدل‌های زبانی آماری: درک آماری زبان طبیعی

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب مدل‌های زبانی آماری: درک آماری زبان طبیعی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: مدل‌های زبانی آماری

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مقدمه ای بر مدل های زبانی آماری
• 2. تعریف زبان طبیعی
• 3. اهمیت مدل های زبانی آماری
• 4. کاربردها و دامنه ها
• 5. مروری بر تاریخچه مدل های زبانی
• 6. مفاهیم پایه آماری برای مدل های زبانی
• 7. احتمال و نظریه احتمالات
• 8. متغیرهای تصادفی و توزیع ها
• 9. میانگین، واریانس و انحراف معیار
• 10. قضیه بیز و احتمال شرطی
• 11. فراوانی و احتمال فراوانی
• 12. مفاهیم پایه زبان شناسی برای مدل های زبانی
• 13. واژگان و توکن ها
• 14. کلمات، عبارات و جملات
• 15. نحو و دستور زبان
• 16. معناشناسی و کاربردشناسی
• 17. مفاهیم پایگاه داده و ذخیره سازی متن
• 18. ذخیره سازی متن و پیش پردازش
• 19. پاکسازی متن
• 20. نرمال سازی متن
• 21. حذف کلمات توقف (Stop Words)
• 22. ریشه یابی (Stemming) و لماتیزاسیون (Lemmatization)
• 23. مدل های زبانی مبتنی بر N-gram
• 24. مفهوم N-gram
• 25. Unigrams، Bigrams، Trigrams و N-grams بالاتر
• 26. تخمین احتمال N-gram
• 27. روش حداکثر احتمال (Maximum Likelihood Estimation - MLE)
• 28. هموارسازی (Smoothing)
• 29. انواع هموارسازی: Add-one, Add-k, Good-Turing
• 30. چالش های مدل های N-gram
• 31. مشکل واژگان بزرگ (Sparsity)
• 32. هزینه محاسباتی
• 33. کاربرد مدل های N-gram
• 34. تشخیص گفتار
• 35. ترجمه ماشینی
• 36. مدل های زبانی مبتنی بر شبکه عصبی
• 37. مقدمه ای بر شبکه های عصبی
• 38. نورون های مصنوعی و لایه ها
• 39. توابع فعال سازی
• 40. پس انتشار خطا (Backpropagation)
• 41. مدل های زبانی مبتنی بر بازگشت (Recurrent Neural Networks - RNNs)
• 42. ساختار RNN
• 43. حالت پنهان (Hidden State)
• 44. مشکل محو شدن گرادیان (Vanishing Gradient)
• 45. شبکه های حافظه طولانی کوتاه مدت (Long Short-Term Memory - LSTM)
• 46. ساختار سلول LSTM
• 47. دروازه های فراموشی، ورودی و خروجی
• 48. شبکه های واحد بازگشتی (Gated Recurrent Units - GRUs)
• 49. مقایسه LSTM و GRU
• 50. مدل های زبانی مبتنی بر ترنسفورمر (Transformer Models)
• 51. مفهوم Attention Mechanism
• 52. خود-توجهی (Self-Attention)
• 53. کدگذار-رمزگشا (Encoder-Decoder)
• 54. معماری ترنسفورمر
• 55. لایه های Position-wise Feed-Forward
• 56. Embedding های موقعیتی (Positional Embeddings)
• 57. مدل های از پیش آموزش دیده (Pre-trained Models)
• 58. Word Embeddings
• 59. Word2Vec (Skip-gram, CBOW)
• 60. GloVe
• 61. FastText
• 62. مقدمه ای بر مدل های زبانی بزرگ (Large Language Models - LLMs)
• 63. GPT (Generative Pre-trained Transformer)
• 64. BERT (Bidirectional Encoder Representations from Transformers)
• 65. XLNet
• 66. RoBERTa
• 67. کاربردها و وظایف مرتبط با مدل های زبانی
• 68. تولید متن
• 69. خلاصه سازی متن
• 70. ترجمه ماشینی
• 71. پاسخ به سوالات
• 72. تحلیل احساسات
• 73. شناسایی موجودیت های نام گذاری شده (Named Entity Recognition - NER)
• 74. برچسب گذاری اجزای کلام (Part-of-Speech Tagging - POS)
• 75. تشخیص و اصلاح غلط های املایی و دستوری
• 76. سیستم های پرس و جو و بازیابی اطلاعات
• 77. مدیریت و ارزیابی مدل های زبانی
• 78. مجموعه داده ها و بنچمارک ها
• 79. معیارهای ارزیابی: Perplexity
• 80. معیارهای ارزیابی: BLEU, ROUGE, METEOR
• 81. روش های تنظیم دقیق (Fine-tuning) مدل های زبانی
• 82. انتقال یادگیری (Transfer Learning)
• 83. آموزش تقویتی برای مدل های زبانی
• 84. چالش ها و محدودیت های مدل های زبانی
• 85. سوگیری (Bias) در مدل های زبانی
• 86. مسائل امنیتی و اخلاقی
• 87. قابلیت تفسیر (Interpretability)
• 88. نیاز به داده های زیاد
• 89. هزینه محاسباتی و انرژی
• 90. آینده مدل های زبانی آماری
• 91. مدل های زبانی چند وجهی (Multimodal Language Models)
• 92. مدل های زبانی با قابلیت استدلال
• 93. شخصی سازی مدل های زبانی
• 94. مدل های زبانی کوچک و کارآمد
• 95. نتیجه گیری و جمع بندی