فلش‌کارت‌های آموزشی جبر خطی و بهینه‌سازی برای یادگیری ماشین

📚 کتاب آموزشی جامع

📚 اطلاعات کتاب

عنوان کتاب: کتاب جبر خطی و بهینه‌سازی برای یادگیری ماشین

موضوع کلی: برنامه نویسی

موضوع میانی: علم داده (Data Science)

📋 سرفصل‌های کتاب (100 موضوع)

• 1. مبانی جبر خطی:
• 2. مقدمه ای بر جبر خطی و علم داده
• 3. مرور مفاهیم ریاضی (اعداد، توابع، مشتق)
• 4. آشنایی با بردارها و فضاهای برداری
• 5. عملیات برداری: جمع، تفریق، ضرب اسکالر
• 6. نرم بردار و فاصله
• 7. ضرب داخلی (Dot Product) و مفاهیم هندسی
• 8. ضرب خارجی و کاربردهای آن
• 9. ماتریس‌ها: تعریف، انواع، و نمادگذاری
• 10. عملیات ماتریسی: جمع، تفریق، ضرب
• 11. ترانهاده ماتریس
• 12. ماتریس‌های خاص (مربع، قطری، واحد، صفر)
• 13. دترمینان ماتریس و خواص آن
• 14. معکوس ماتریس
• 15. حل دستگاه معادلات خطی با روش حذفی گاوس
• 16. فضای ستونی، فضای سطری، و فضای پوچ یک ماتریس
• 17. رتبه ماتریس و اهمیت آن
• 18. استقلال خطی و وابستگی خطی
• 19. تبدیلات خطی و ماتریس‌های تبدیل
• 20. مقادیر ویژه و بردارهای ویژه
• 21. قطری‌سازی ماتریس
• 22. تجزیه مقادیر منفرد (SVD) - بخش اول
• 23. تجزیه مقادیر منفرد (SVD) - بخش دوم
• 24. کاربردهای SVD در کاهش ابعاد داده
• 25. آشنایی با تنسورها و عملیات تنسوری
• 26. ماتریس‌های مثبت معین و نیمه معین
• 27. مبانی بهینه‌سازی:
• 28. مقدمه‌ای بر بهینه‌سازی و نقش آن در یادگیری ماشین
• 29. مروری بر مفاهیم توابع و مشتق
• 30. گرادیان و مشتقات جهت‌دار
• 31. مفاهیم اساسی بهینه‌سازی: تابع هدف، متغیرهای تصمیم
• 32. بهینه‌سازی بدون قید: روش‌های جستجوی خط
• 33. بهینه‌سازی بدون قید: روش‌های گرادیان کاهشی (Gradient Descent)
• 34. گرادیان کاهشی: انواع واریانس‌ها (Batch, Stochastic, Mini-batch)
• 35. سرعت یادگیری (Learning Rate) و تنظیمات آن
• 36. مومنتوم (Momentum) و شتاب‌دهی به گرادیان کاهشی
• 37. آدام (Adam) و سایر روش‌های تطبیقی سرعت یادگیری
• 38. بهینه‌سازی محدب و غیرمحدب
• 39. توابع محدب و ویژگی‌های آن‌ها
• 40. مفاهیم قید و تابع لاگرانژ
• 41. ضرب‌کننده‌های لاگرانژ
• 42. بهینه‌سازی با قید تساوی
• 43. بهینه‌سازی با قید نامساوی
• 44. روش‌های بهینه‌سازی با قید (مانند KKT)
• 45. مقدمه ای بر برنامه‌ریزی خطی
• 46. کاربردهای جبر خطی و بهینه‌سازی در یادگیری ماشین:
• 47. رگرسیون خطی و جبر خطی
• 48. حل رگرسیون خطی با استفاده از نرمال اکویشن
• 49. رگرسیون خطی و گرادیان کاهشی
• 50. رگرسیون لجستیک و بهینه‌سازی
• 51. ماشین‌های بردار پشتیبان (SVM) و بهینه‌سازی
• 52. روش‌های کاهش ابعاد: PCA
• 53. روش‌های کاهش ابعاد: t-SNE
• 54. بهینه‌سازی در شبکه‌های عصبی: backpropagation
• 55. جبر خطی در شبکه‌های عصبی: Forward Propagation
• 56. جبر خطی در شبکه‌های عصبی: محاسبه گرادیان (backpropagation)
• 57. بهینه‌سازی برای شبکه‌های عصبی عمیق
• 58. Regularization و جلوگیری از Overfitting
• 59. شبکه‌های عصبی کانولوشنی (CNN) و جبر خطی
• 60. شبکه‌های عصبی بازگشتی (RNN) و جبر خطی
• 61. تخمین پارامترها و تابع هزینه
• 62. معرفی کتابخانه‌های پرکاربرد: NumPy, SciPy, scikit-learn
• 63. عملیات برداری و ماتریسی در NumPy
• 64. حل معادلات خطی با SciPy
• 65. پیاده‌سازی گرادیان کاهشی در NumPy
• 66. پیاده‌سازی PCA با NumPy
• 67. کاربرد sklearn در پیاده‌سازی مدل‌های یادگیری ماشین
• 68. اعتبارسنجی مدل (validation)
• 69. انتخاب مدل و hyperparameter tuning
• 70. ارزیابی مدل و معیارهای ارزیابی
• 71. ماتریس‌های پراکنده و روش‌های ذخیره‌سازی آن‌ها
• 72. کاربردهای جبر خطی در پردازش سیگنال
• 73. کاربردهای جبر خطی در پردازش تصویر
• 74. کاربردهای بهینه‌سازی در بهینه‌سازی hyperparameter
• 75. آموزش transfer learning و fine-tuning مدل‌ها
• 76. بهینه‌سازی در یادگیری تقویتی
• 77. معرفی deep learning frameworks (TensorFlow, PyTorch)
• 78. عملیات جبری خطی در TensorFlow
• 79. عملیات جبری خطی در PyTorch
• 80. مقدمه‌ای بر مدل‌های Generative
• 81. جبر خطی و GAN ها (Generative Adversarial Networks)
• 82. بهینه‌سازی و GAN ها
• 83. آشنایی با tensorboard
• 84. آشنایی با PyTorch Lightning
• 85. خلاصه سازی و جمع‌بندی مفاهیم کلیدی
• 86. مسائل و چالش‌های پیش‌رو
• 87. مطالعه موردی: تشخیص دست‌نویس با استفاده از MNIST
• 88. مطالعه موردی: تشخیص تصویر با استفاده از CNN
• 89. مطالعه موردی: پیش‌بینی قیمت سهام
• 90. مطالعه موردی: تجزیه و تحلیل داده‌های پزشکی
• 91. مفاهیم پیشرفته: روش‌های بهینه‌سازی مرتبه دوم
• 92. مفاهیم پیشرفته: بهینه‌سازی موازی
• 93. مفاهیم پیشرفته: بهینه‌سازی مقعر
• 94. مفاهیم پیشرفته: بهینه‌سازی ترکیباتی
• 95. اخلاقیات در علم داده و هوش مصنوعی
• 96. منابع و مراجع برای مطالعات بیشتر
• 97. نقش جبر خطی و بهینه‌سازی در آینده یادگیری ماشین
• 98. **دترمینان، ماتریس معکوس و حل دستگاه معادلات خطی**
• 99. **مقادیر ویژه، بردارهای ویژه و تجزیه ویژه (Eigendecomposition)**
• 100. **مشتق‌گیری برداری و ماتریسی، گرادیان و کاربرد آن در بهینه‌سازی**