发布时间:2024-03-09 04:37:58 来源:文档文库
小
中
大
字号:
费希尔判别
费希尔判别(或称典型判别)的基本思想是投影(或降维):用p维向量
x(x1,x2,xp的少数几个线性组合(称为费希尔判别函数或典型变量)
y1a1x,y2a2x,yrarx(一般r明显小于p)来代替原始的p个变量x1,x2,xp,以达到降维的目的,并根据这r个判别函数y1,y2,yr对样品的归属
做出判别或将各组分离。成功的降维将使样品的归类或组的分离更为方便和有效,并且可以对前三个判别函数作图,从直观的几何图像上区别各组。
在降维的过程中难免会有部分有用信息的损失,但只要使用的方法得当,我
们可以最大限度地减少这种损失,从而保留尽可能多的有用信息,即关于能够反应组之间差异的信息。为便于理解,我们以下用一个简单的二维例子来加以说明。>>>>
图投影到某个方向再判别
如图所示,两个组的所有样品都测量了两个变量x1和x2,将所有(x1,x2)
点画于直角坐标系上,一组的样品点用“×”表示,另一组的样品点用“○”表示。假定我们希望将二维空间的点投影到某个一维空间,即一条直线上,然后再对两组进行判别,则投影到不同的直线上,判别的效果一般是不同的。从图中可见,如果两组的点都投影到直线z上则这两组的投影点在该直线上的分布几乎无任
何差异,他们完全混合在一起,我们无法将这两组的点区别开来,这样的降维把反应两组间差异的信息都给损失了,显然是不可取的。事实上,最好的投影是投影到直线y上,因为它把两组的投影点很清楚地区分了开来,这种降维把有关两组差异的信息很好地保留了下来,几乎没有任何损失,如此就完全可以在一维的直线上作判别分析。
我们现考虑在Rp中将k组的p维数据向量投影到某个具有最佳方向的a上,
即投影到a上的点能最大限度地显现出各组之间的差异。
设来自组i的p维观测值为xij,j=1,2,,ni,i=1,2,,k,将它们共同投影
到某一p维常数向量a上,得到的投影点可分别对应线性组合yij=axij,
j=1,2,,ni,i=1,2,,k。这样,所有的p维观测值就简化为一维观测值。下面>>>>我们用yi表示组