一、决策边界的含义
决策边界是机器学习分类模型中用于区分不同类别的分界线(或分界面),由模型根据训练数据学习得到。在二维空间中可能是一条直线或曲线,在高维空间中是超平面或复杂曲面。
通俗理解:
想象用一根绳子在沙滩上划出两个区域,一边放贝壳,一边放海螺——这根绳子就是“决策边界”。机器学习模型的工作,就是自动找到最优的“绳子摆放位置”,尽可能把不同类别的东西分开。
这幅图展示了逻辑回归模型中的决策边界生成过程,核心内容如下:
模型输出公式:
fw,b(x⃗)=g(w⃗⋅x⃗+b) 是逻辑回归的预测函数,其中 g(z)=1 /(1+e−z)为Sigmoid函数,将线性组合 w⃗⋅x⃗+b 映射到概率值 P(y=1 ∣ x;w⃗,b)。阈值判定:
当 fw,b(x⃗) ≥ 0.5(即 w⃗⋅x⃗+b≥0)时,模型预测 y^=1;否则预测 y^=0。
二、线性决策边界
线性决策边界由方程 w⃗⋅x⃗+b=0 定义,是一个超平面(如二维中是直线),将特征空间划分为两类区域。