动手学机器学习

动手学机器学习！一个全面的机器学习学习资源库，包含理论讲解、代码实现和实战案例。

1. 项目概述

本项目整合了多个优质的机器学习学习资源：

• NJU软件学院课程：系统的机器学习理论与实践
• 上海交大课程：《动手学机器学习》配套资源
• 特征工程专题：《精通特征工程》实战案例
• 零基础实战：极客时间机器学习课程

2. 学习路径

2.1 基础概念与数学准备

• 通俗理解机器学习核心概念
• 梯度下降算法：从直觉到实践
• 混淆矩阵评价指标
• 数学中希腊字母表
• 误差 vs. 残差

2.2 监督学习算法

2.2.1 基础监督学习算法

理论学习：

• 动手学机器学习 KNN 算法 | 配套代码
• 动手学机器学习线性回归算法 | 配套代码
• 动手学机器学习逻辑回归算法 | 配套代码
• 动手学机器学习决策树算法 | 配套代码
• 动手学机器学习支持向量机算法 | 配套代码
• 动手学机器学习朴素贝叶斯算法 | 配套代码

实战案例：

• 使用决策树对泰坦尼克号幸存者数据进行分类 | 配套代码
• 朴素贝叶斯计算：建筑工人打喷嚏后患感冒的概率

上海交大配套资源：

• 第3章 k近邻算法 | 习题解答
• 第4章 线性回归 | 习题解答
• 第6章 逻辑斯谛回归 | 习题解答
• 第11章 支持向量机 | 习题解答
• 第12章 决策树 | 习题解答

2.2.2 集成学习

理论学习：

• 一文深入了解机器学习之集成学习
• 动手学机器学习随机森林算法 | 配套代码
• Adaboost 计算示例 | 配套代码
• 一文读懂GBDT

实战案例：

• Stacking 示例一（心脏病预测）
• Stacking 示例二（鸢尾花分类）
• Kaggle 房价预测中的集成技巧：实战与指南

上海交大配套资源：

• 第13章 集成学习与梯度提升决策树 | 习题解答

2.3 无监督学习

2.3.1 聚类算法

理论学习：

• 动手学机器学习 Kmeans 聚类算法 | 配套代码
• 动手学机器学习层次聚类算法
• 动手学机器学习：DBSCAN 密度聚类算法

上海交大配套资源：

• 第14章 k均值聚类 | 习题解答

2.3.2 EM算法与高斯混合模型

理论学习：

• 最大似然估计（MLE）简介
• 一文了解 EM 算法
• 一文了解 GMM 算法

上海交大配套资源：

• 第17章 EM算法 | 习题解答

2.4 特征工程与模型优化

2.4.1 特征工程

理论学习：

• 精通特征工程: 让数据真正为模型赋能
• 词袋模型（Bag of Words）介绍
• 时间序列数据及特征提取
• GBDT特征提取 | 配套代码

实战案例：

• 数据探索-根据历史订单信息求RFM值 | 配套代码
• 聚类-根据RFM值为用户分组画像

2.4.2 模型评估

• 图解机器学习-模型评估方法与准则
• ROC & AUC 计算示例

2.4.3 模型调优

• 机器学习模型调优之 L1 与 L2 正则化解析
• 使用 GridSearchCV 优化 KNN 模型：超参数调优的实践指南 | 示例代码
• SMOTE 介绍
• 聚类下采样介绍

2.4.4 特征选择

• 特征选择方法概述 | 示例代码

2.4.5 降维算法

理论学习：

• PCA降维算法详解 | 示例代码
• LDA降维算法详解 | 示例代码
• PCA vs. LDA 降维方法比较

上海交大配套资源：

• 第15章 主成分分析 | 习题解答

2.5 推荐系统与概率图模型

2.5.1 推荐系统

理论学习：

• 推荐系统入门
• 协同过滤推荐算法：原理、实现与分析 | 配套代码
• 基于内容的推荐算法：原理与实践
• 一文读懂 SVD 推荐算法：矩阵分解的直观解释与示例
• 基于矩阵分解的推荐算法：原理与实践 | 配套代码
• 理解推荐系统中的 Embedding 表示
• 常见推荐算法对比分析
• 使用 Apriori 算法进行关联分析：原理与示例

2.5.2 概率图模型

贝叶斯网络：

• 贝叶斯垃圾邮件过滤器
• 贝叶斯网络经典例子
• 一文读懂贝叶斯网络

隐马尔可夫模型：

• 马尔可夫模型简介
• 你看不见天气，但能看到穿衣：隐马尔可夫模型的典型例子
• 一文读懂隐马尔可夫模型（HMM）

上海交大配套资源：

• 第16章 概率图模型 | 习题解答

2.6 深度学习

2.6.1 神经网络与深度学习

基础理论：

• 什么是深度学习？
• 深度学习概述
• 神经网络示例 | 配套代码

上海交大配套资源：

• 第7章 双线性模型 | 习题解答
• 第8章 神经网络与多层感知机 | 习题解答
• 第9章 卷积神经网络 | 习题解答
• 第10章 循环神经网络 | 习题解答
• 第18章 自动编码器 | 习题解答

3. 实战项目

3.1 Kaggle竞赛实战

• Kaggle Titanic 泰坦尼克之灾 - 逻辑回归应用实战

• 房价预测项目 - 回归算法综合应用

3.2 业务场景实战

• 用户画像与RFM分析 - 电商用户价值分析

• 推荐系统实战 - 电影推荐系统构建

4. 参考资料

4.1 上海交大《动手学机器学习》

课程大纲：

• 第2章 机器学习的数学基础 | 习题解答
• 第3章 k近邻算法
• 第4章 线性回归
• 第5章 机器学习的基本思想 | 习题解答
• 第6章 逻辑斯谛回归
• 第7章 双线性模型
• 第8章 神经网络与多层感知机
• 第9章 卷积神经网络
• 第10章 循环神经网络
• 第11章 支持向量机
• 第12章 决策树
• 第13章 集成学习与梯度提升决策树
• 第14章 k均值聚类
• 第15章 主成分分析
• 第16章 概率图模型
• 第17章 EM算法
• 第18章 自动编码器

资源链接：

• 课件和习题
• 教学视频：上海交大张伟楠机器学习课程

4.2 NJU 软件学院机器学习课程

课程特色：

• 课程讲义 - 完整的PDF课件
  • 理论与实践并重的教学方式
  • 丰富的实战案例和代码示例

4.3 《精通特征工程》

• 配套代码
  • 实用的特征工程技巧和方法

4.4 极客时间《零基础实战机器学习》

• 课程链接
  • 配套代码
  • 从零开始的实战导向学习

5. 如何使用本项目

5.1 学习建议

1. 基础准备：先学习基础概念和数学准备部分
2. 循序渐进：按照章节顺序学习，理论结合实践
3. 动手实践：每个算法都要运行配套代码
4. 项目实战：完成Kaggle项目和业务场景实战
5. 深入理解：对比不同资源的讲解方式，加深理解

5.2 使用技巧

• 理论学习：先读NJU的理论文档，再看上海交大的Jupyter Notebook
• 代码实践：运行所有配套代码，修改参数观察结果
• 项目实战：从简单的Titanic项目开始，逐步挑战复杂项目
• 笔记整理：建议做学习笔记，记录重点和心得

5.3 环境配置

推荐使用以下环境：

• Python 3.7+
• Jupyter Notebook
• 主要库：numpy, pandas, scikit-learn, matplotlib, seaborn

---