机器学习笔记——特征工程、正则化、强化学习 大家好，这里是Goodnote（好评笔记）。本笔记介绍机器学习中常见的特征工程方法、正则化方法和简要介绍强化学习。 文章目录 * 特征工程（Fzeature Engineering） * 1. 特征提取（Feature Extraction） * 手工特征提取（Manual Feature Extraction）： * 自动特征提取（Automated Feature Extraction）： * 2. 特征选择（Feature Selection） * 1. 过滤法（Filter Methods） * 2. 包裹法（Wrapper Methods） * 3. 嵌入法（Embedded Methods） * 4. 其他方法 * 5. 选择方法的应用场景 * 总结 * 3. 特征构造（Feature Construction）

机器学习笔记——损失函数、代价函数和KL散度 大家好，这里是Goodnote（好评笔记）。本笔记介绍机器学习中常见的损失函数和代价函数，各函数的使用场景。 文章目录 * 损失函数 * 一、回归问题中的损失函数 * 1. 均方误差（Mean Squared Error, MSE） * 2. 平均绝对误差（Mean Absolute Error, MAE） * 3. 对数余弦损失（Log-Cosh Loss） * 4. Huber 损失（Huber Loss） * 5. 平均平方对数误差（Mean Squared Logarithmic Error, MSLE） * 总结 * 二、分类问题中的损失函数 * 1. 0-1 损失（0-1 Loss） * 2. 对数损失（