https://blog.csdn.net/wys7541/article/details/82153844
K-means聚类算法的一般步骤:
- 初始化。输入基因表达矩阵作为对象集X,输入指定聚类类数N,并在X中随机选取N个对象作为初始聚类中心。设定迭代中止条件,比如最大循环次数或者聚类中心收敛误差容限。
- 进行迭代。根据相似度准则将数据对象分配到最接近的聚类中心,从而形成一类。初始化隶属度矩阵。
- 更新聚类中心。然后以每一类的平均向量作为新的聚类中心,重新分配数据对象。
- 反复执行第二步和第三步直至满足中止条件。
下面来看看K-means是如何工作的:
图中圆形为聚类中心,方块为待聚类数据,步骤如下:
(a)选取聚类中心,可以任意选取,也可以通过直方图进行选取。我们选择三个聚类中心,并将数据样本聚到离它最近的中心;
(b)数据中心移动到它所在类别的中心;
(c)数据点根据最邻近规则重新聚到聚类中心;
(d)再次更新聚类中心;不断重复上述过程直到评价标准不再变化
评价标准:
K-means面临的问题以及解决办法:
1.它不能保证找到定位聚类中心的最佳方案,但是它能保证能收敛到某个解决方案(不会无限迭代)。
解决方法:多运行几次K-means,每次初始聚类中心点不同,最后选择方差最小的结果。
2.它无法指出使用多少个类别。在同一个数据集中,例如上图例,选择不同初始类别数获得的最终结果是不同的。
解决方法:首先设类别数为1,然后逐步提高类别数,在每一个类别数都用上述方法,一般情况下,总方差会很快下降,直到到达一个拐点;这意味着再增加一个聚类中心不会显著减少方差,保存此时的聚类数。
MATLAB函数Kmeans
使用方法:
Idx=kmeans(X,K)
[Idx,C]=kmeans(X,K)
[Idx,C,sumD]=kmeans(X,K)
[Idx,C,sumD,D]=kmeans(X,K)
[…]=kmeans(…,’Param1’,Val1,’Param2’,Val2,…)
各输入输出参数介绍:
X: N*P的数据矩阵,N为数据个数,P为单个数据维度
K: 表示将X划分为几类,为整数
Idx: N*1的向量,存储的是每个点的聚类标号
C: K*P的矩阵,存储的是K个聚类质心位置
sumD: 1*K的和向量,存储的是类间所有点与该类质心点距离之和
D: N*K的矩阵,存储的是每个点与所有质心的距离
[…]=Kmeans(…,\'Param1\',Val1,\'Param2\',Val2,…)
这其中的参数Param1、Param2等,主要可以设置为如下:
1. ‘Distance’(距离测度)
‘sqEuclidean’ 欧式距离(默认时,采用此距离方式)
‘cityblock’ 绝度误差和,又称:L1
‘cosine’ 针对向量
‘correlation’ 针对有时序关系的值
‘Hamming’ 只针对二进制数据
2. ‘Start’(初始质心位置选择方法)
‘sample’ 从X中随机选取K个质心点
‘uniform’ 根据X的分布范围均匀的随机生成K个质心
‘cluster’ 初始聚类阶段随机选择10%的X的子样本(此方法初始使用’sample’方法)
matrix 提供一K*P的矩阵,作为初始质心位置集合
3. ‘Replicates’(聚类重复次数) 整数
案例一:
%随机获取150个点 X = [randn(50,2)+ones(50,2);randn(50,2)-ones(50,2);randn(50,2)+[ones(50,1),-ones(50,1)]]; opts = statset(\'Display\',\'final\'); %调用Kmeans函数 %X N*P的数据矩阵 %Idx N*1的向量,存储的是每个点的聚类标号 %Ctrs K*P的矩阵,存储的是K个聚类质心位置 %SumD 1*K的和向量,存储的是类间所有点与该类质心点距离之和 %D N*K的矩阵,存储的是每个点与所有质心的距离; [Idx,Ctrs,SumD,D] = kmeans(X,3,\'Replicates\',3,\'Options\',opts); %画出聚类为1的点。X(Idx==1,1),为第一类的样本的第一个坐标;X(Idx==1,2)为第二类的样本的第二个坐标 plot(X(Idx==1,1),X(Idx==1,2),\'r.\',\'MarkerSize\',14) hold on plot(X(Idx==2,1),X(Idx==2,2),\'b.\',\'MarkerSize\',14) hold on plot(X(Idx==3,1),X(Idx==3,2),\'g.\',\'MarkerSize\',14) %绘出聚类中心点,kx表示是圆形 plot(Ctrs(:,1),Ctrs(:,2),\'kx\',\'MarkerSize\',14,\'LineWidth\',4) plot(Ctrs(:,1),Ctrs(:,2),\'kx\',\'MarkerSize\',14,\'LineWidth\',4) plot(Ctrs(:,1),Ctrs(:,2),\'kx\',\'MarkerSize\',14,\'LineWidth\',4) legend(\'Cluster 1\',\'Cluster 2\',\'Cluster 3\',\'Centroids\',\'Location\',\'NW\') Ctrs SumD
结果图片:
%K-means聚类 clc,clear; load tyVector; X=tyVector\'; %列向量变成行向量,209*180矩阵 [x,y]=size(X); opts = statset(\'Display\',\'final\'); K=11; %将X划分为K类 repN=50; %迭代次数 %K-mean聚类 [Idx,Ctrs,SumD,D] = kmeans(X,K,\'Replicates\',repN,\'Options\',opts); %Idx N*1的向量,存储的是每个点的聚类标号 %打印结果 fprintf(\'划分成%d类的结果如下:\n\',K) for i=1:K tm=find(Idx==i); %求第i类的对象 tm=reshape(tm,1,length(tm)); %变成行向量 fprintf(\'第%d类共%d个分别是%s\n\',i,length(tm),int2str(tm)); %显示分类结果 end
请发表评论