局部加权线性回归LWLR

线性回归的一个问题是有可能出现欠拟合现象

局部加权线性回归求回归系数 w 得公式如下:

其中 w 是一个矩阵，用来给每个数据点赋予权重。

最常用的w是高斯核
高斯核对应的权重如下


测试数据可以看到参数 k 与权重的关系

k = 1.0时(效果与最小二乘法差不多)


k = 0.01时(表现了数据的潜在规律)


k =  0.003时(过拟合)