医疗AI中的机器学习数学基础
本文深入探讨医疗AI中核心机器学习算法的数学原理，帮助读者理解算法背后的机制。
线性回归
线性回归是医疗AI中最基础也最实用的算法之一。
模型定义
给定一组特征 x=(x1,x2,...,xn)，线性回归预测：
y^=wTx+b=i=1∑nwixi+b
其中 w=(w1,w2,...,wn) 是权重向量，b 是偏置项。
损失函数
使用均方误差（MSE）作为损失函数：
L(w,b)=m1i=1∑m(y^(i)−y(i))2=m1i=1∑m(wTx(i)+b−y(i))2
梯度下降
参数更新公式：
wi:=wi−α∂wi∂L
展开后：
∂wi∂L=m2i=1∑m(wTx(i)+b−y(i))xi(i)
逻辑回归
逻辑回归用于二分类问题，在医疗诊断中广泛应用。
Sigmoid 函数
σ(z)=1+e−z1=ez+1ez
预测函数
y^=σ(wTx+b)=1+e−(wTx+b)1
交叉熵损失
L(w,b)=−m1i=1∑m[y(i)log(y^(i))+(1−y(i))log(1−y^(i))]
神经网络
激活函数
ReLU（线性整流单元）：
f(x)=max(0,x)={0xif x<0if x≥0
Softmax 函数（多分类）：
Softmax(zi)=∑j=1Kezjezi
反向传播
链式法则：
∂w(l)∂L=∂a(L)∂L⋅∂z(L)∂a(L)⋅∂a(L−1)∂z(L)⋯∂w(1)∂a(1)
简写为：
δ(l)=∂z(l)∂L=W(l+1)Tδ(l+1)⊙σ′(z(l))
评估指标
混淆矩阵
| 指标 | 定义 |
|---|
| 准确率 (Accuracy) | TP+TN+FP+FNTP+TN |
| 精确率 (Precision) | TP+FPTP |
| 召回率 (Recall) | TP+FNTP |
| F1分数 | 2⋅Precision+RecallPrecision×Recall |
AUC-ROC
AUC（曲线下面积）定义为：
AUC=∫01TPR(FPR−1(t))dt=∫−∞∞TPR(t)⋅FPR′(t)dt
正则化
L1 正则化（Lasso）
LL1(w)=L(w)+λi=1∑n∣wi∣
L2 正则化（Ridge）
LL2(w)=L(w)+λi=1∑nwi2
Dropout
在训练时以概率 p 随机丢弃神经元：
y^=p1⋅y⋅Bernoulli(p)
优化算法
Adam 优化器
动量更新：
mt=β1mt−1+(1−β1)gt
RMSProp 更新：
vt=β2vt−1+(1−β2)gt2
偏差校正：
m^t=1−β1tmt,v^t=1−β2tvt
参数更新：
θt=θt−1−αv^t+ϵm^t
总结
| 算法 | 适用场景 | 核心公式 |
|---|
| 线性回归 | 连续值预测 | y^=wTx+b |
| 逻辑回归 | 二分类 | y^=σ(wTx+b) |
| 神经网络 | 复杂模式 | 链式法则反向传播 |
| SVM | 高维分类 | 最大化间隔 |
注意：以上公式中的符号含义：m 为样本数，n 为特征数，α 为学习率，λ 为正则化系数。