机器学习概述

机器学习的基本概念

• 机器学习

  • 本质：构建一个映射函数
  • $x\rightarrow f (x,\theta^*)\rightarrow y/p (y|x)$

• 机器学习三要素

  • 模型
    • 线性：$f (x,\theta)=w^Tx+b$
    • 广义线性：$f (x,\theta)=w^T\Phi (x)+b$，当 $\Phi (x)$ 为可学习的非线性基函数，则 $f (x,\theta)$ 即为神经网络
  • 学习准则
    • 期望风险：$\mathcal {R}(f)=\mathbb {E}_{(\mathbf {x},y)\sim p (\mathbf {x},y)}[\mathcal {L}(f (\mathbf {x}),y)]$
    • 经验风险：$R (\theta)=\frac {1}{\mathrm {N}}\sum_{i=1}^{\mathrm {N}} L (y^{(i)},f (\mathrm {x}^{(i)}))$
    • 结构风险：$R (\theta)+\lambda\|\theta\|^2$
  • 优化：梯度下降

• 机器学习的类型

  类别	监督学习	无监督学习	强化学习
  训练样本	训练集 $\{(x^{(n)}, y^{(n)})\}_{n=1}^N$	训练集 $\{x^{(n)}\}_{n=1}^N$	智能体和环境交互的轨迹 $\tau$ 和累计奖励 $G_T$
  优化目标	$y = f (x)$ 或 $p (y\mid x)$	$p (x)$ 或带隐变量 $z$ 的 $p (x\mid z)$	期望总回报 $\mathbb {E}[G_T]$
  学习准则	期望风险最小化、最大似然估计	最大似然估计、最小重构误差	策略评估、策略改进

• 参数学习

  • 由于期望风险未知，利用经验风险近似

  • 在选择合适的风险函数后，寻找参数 $\theta^*$，使得经验风险函数最小化

    $$\theta^*=\underset {\theta}{\operatorname*{\arg\min}}\mathcal {R}_{\mathcal {D}}^{emp}(\theta)$$

  • 机器学习问题转化为最优化问题

• 如何优化参数：梯度下降法

  • 批量梯度下降法
  • 随机梯度下降法
  • 小批量梯度下降法

• 如何减少泛化错误

  • 优化：经验风险最小
  • 正则化（Regularization）：降低模型复杂度，得到更稳定、泛化性更好的解
  • 所有损害优化的方法都是正则化
    • 增加优化约束（L1 / L2 约束，数据增强）
    • 干扰优化过程（权重衰减、随机梯度下降、早停）

• 模型的选择

  • 拟合能力强的模型一般复杂度会比较高，容易过拟合

  • 如果限制模型复杂度，降低拟合能力，可能会欠拟合

  • 期望错误的分解（偏差与方差分解）

    $$\mathcal {R}(f) = (\text{bias})^2 + \text{variance} + \epsilon$$

    1. 偏差（Bias）：

       $$\mathbb {E}_x \left [\left ( \mathbb {E}_D [f_D (x)] - f^*(x) \right)^2 \right]$$

    2. 方差（Variance）：

       $$\mathbb {E}_x \left [\mathbb {E}_D \left [\left ( f_D (x) - \mathbb {E}_D [f_D (x)] \right)^2 \right] \right]$$

    3. 噪声项（Irreducible Error）：

    $$\mathbb {E}_{(x,y) \sim p_r (x,y)} \left [\left ( y - f^*(x) \right)^2 \right]$$

  • 低方差、低偏差时模型最优

  • 有效降低方差：集成模型

    • 通过多个高方差模型的平均来降低方差
    • 集成模型的期望错误大于等于所有模型的平均期望错误的 $\frac {1}{M}$，小于等于所有模型的平均期望错误

线性模型

• Logistic 回归

  • 在线性模型基础上加入 Sigmoid 函数，使输出值限定在 $(0,1)$ 之间，即 $P (y=1|x)=\sigma (w^Tx+b)=\frac {1}{1+e^{-(w^Tx+b)}}$

  • 用于二分类任务，输出类别的概率值

• Softmax 回归

  • 对 Logistic 回归的扩展，适用于多分类任务
  • 对于 $K$ 分类任务，$P (y=k|x)=\frac {e^{w_k^Tx}}{\sum_{j=1}^{K} e^{w_j^Tx}}$
  • 分类规则：选择概率最大的类别 $\arg\max_kP (y=k|x)$

• 感知机

  • $f (x)=\text{sign}(w^Tx+b)$

  • 学习规则：通过误分类点的更新规则调整权重

    $$\begin {align*} w &\gets w + \eta y_i x_i \\ b &\gets b + \eta y_i \end {align*}$$

  • 用于线性可分的二分类任务

• 支持向量机

  • 寻找最优决策边界（最大化分类间隔）的分类模型，适用于二分类问题

  • 找到一个超平面，使两类之间的间隔（Margin）最大化：$\max \frac {2}{\|w\|}$，同时满足：$y_i (w^T x_i + b) \geq 1, \quad \forall i$

  • 损失函数 —— 引入松弛变量（对于线性不可分问题）后，优化目标为：

    $$\min \frac {1}{2} \|w\|^2 + C \sum_{i=1}^N \xi_i$$

    其中 $C$ 控制间隔和误分类的权衡，$\xi_i$ 是松弛变量