原文链接:http://tecdat.cn/?p=24198
原文出处:拓端数据部落公众号
简介
《世界幸福报告》是可持续发展解决方案网络的年度报告,该报告使用盖洛普世界民意调查的调查结果研究了150多个国家/地区的生活质量。报告的重点是幸福的社交环境。在本项目中,我将使用世界幸福报告中的数据来探索亚洲22个国家或地区,并通过查看每个国家的阶梯得分,社会支持,健康的期望寿命,自由选择生活,慷慨,对腐败的看法以及人均GDP,来探索亚洲22个国家的相似和不同之处。我将使用两种聚类方法,即k均值和层次聚类,以及轮廓分析来验证每种聚类方法。
将要分析的国家和地区是:
asia <- w filer(gepl(\'Asia\', Rgion)
探索性数据分析
相关矩阵
pair(aia[,-c(1,2)], sal=TUE,col,hst.ol)
- 阶梯得分,社会支持,生活选择的自由以及对腐败的看法的分布是左偏的。
- 慷慨和人均GDP的分布是右偏的。
- 健康期望寿命的偏差大约是对称的。
- 两者之间存在很强的正相关关系:
- 阶梯分数和社会支持
- 健康期望寿命和人均GDP
- 之间存在强烈的负相关关系:
- 对腐败的看法和人均GDP
- 之间存在中等正相关:
- 阶梯得分和健康期望寿命
- 社会支持与健康期望寿命
- 人均GDP较高的国家往往对腐败的看法较低,对健康的期望寿命,社会支持和阶梯得分较高。
国家和地区比较
-
grd.rrnge(
-
ggplt(sia, es(rerder(x=fctor(国家名称), 阶梯得分, FN=min),
-
y=阶梯得分, fill=区域指标)))
- 东亚国家的阶梯得分较高,期望寿命健康,人均GDP较高且慷慨度较低。
- 南亚国家的阶梯得分,社会支持,健康的期望寿命和人均GDP往往较低。
- 东南亚国家往往有很高的自由度,可以选择生活和慷慨解囊。
-
scterhst(
-
aia, x = "社会支持", y = "阶梯得分",
-
clor = "区域指标"
-
titl = "阶梯得分与社会支持"
-
)
- 南亚的社会支持中位数,阶梯得分和人均GDP最低。
- 东亚的社会支持中位数,阶梯得分,人均GDP和健康的期望寿命最高。
- 东南亚的平均健康寿命中位数最低,对腐败的中位数最高。
- 东南亚的人均GDP很高,期望寿命健康,对腐败的看法也很低(新加坡)。
- 东亚有离群点样本对政府的了解低(香港)。
聚类分析
这些国家会属于不同的群体吗?在本节中,我们将使用聚类(一种无监督的学习方法,该方法基于相似性对对象进行分组)来找到国家组,其中组内的国家相似。我将使用两种方法进行聚类:分层聚类和K-Means聚类。首先,我们如何识别这些群体?衡量对象之间相似性的一种方法是测量对象之间的数学距离。一种常见的距离度量是欧几里得距离。
欧氏距离
我们将使用欧几里得距离找到彼此最相似的国家,并将它们分组在一起。
-
aply(z,2,mean) # 计算列的平均值
-
aply(z,2,sd) # 计算列的标准差
-
scale(z,ceter=means,scae=sds) # 标准化
-
-
# 计算距离矩阵
-
dsae = dit(nor) # 计算欧几里得的距离
欧几里得距离矩阵为:
- 似乎国家2(新加坡)和国家22(阿富汗)彼此最不相似。
- 15国(中国)和11国(越南)彼此最相似。
我们如何选择最佳聚类数?
肘法
for (i in 2:20) ws<- sum(kmens(nr, cetrs=i)$wthns)
我们的目标是减少聚类内部的变异性,以便将相似的对象分组在一起,并增加聚类之间的变异性,以使相异的对象相距甚远。WSS(在组平方和内),它在聚类变化内进行度量,
在WSS图中,聚类数位于x轴上,而WSS位于y轴上。高的WSS值意味着聚类中的变化很大,反之亦然。我们看到,在1、2和3个聚类之后,WSS的下降很大。但是,在4个聚类之后,WSS的下降很小。因此,聚类的最佳数目为k = 4(曲线的弯头)。
K均值聚类
k均值算法如下所示:
- 为每个观测值随机分配一个从1到K的数字,这些数字用作观测值的初始聚类分配。
- 迭代直到聚类分配停止更改:
(a)对于K个聚类中的每一个,计算聚类质心。
(b)将每个观测值分配给质心最接近的聚类(使用欧几里得距离定义)。
聚类成员和结果
k均值聚类的结果是:
-
#聚类成员
-
asa$Cuter <- c$luser
聚类图在散点图中绘制k均值聚类和前两个主成分(维度1和2)。
-
clstr(lstdaa = nr, cluter = cluser,col=ola), theme = hme_lsic()) +
-
title("K-Means聚类图")
- 聚类之间没有重叠。
- 聚类2与其他聚类之间存在很多分隔。
- 聚类1、3和4之间的间隔较小。
- 前两个组成部分解释了点变异的70%。
- 聚类1有2个国家,其聚类平方和之内很小(在聚类变异性内)。
- 聚类2有1个国家。
- 具有14个国家/地区的第3组在类内变异性中最高。
- 聚类4有5个国家,在聚类变异性中排名第二。
- 聚类平方和与平方和之比为61.6%,非常合适。
这四个聚类的标准平均值是:
-
long <- melt(t(agreate(nor, )
-
plot(long,roup = cluster)+point(se=3)
自由选择生活,社会支持和阶梯得分之间的差异很大。这些变量似乎对聚类形成贡献最大。
回想一下,聚类成员资格为:
类别1:印度尼西亚,缅甸
第二类:阿富汗
类别3:菲律宾,泰国,巴基斯坦,蒙古,马来西亚,越南,马尔代夫,尼泊尔,中国,老挝,柬埔寨,孟加拉国,斯里兰卡,印度
第4组:中国 台@@湾 地区,新加坡,韩国,日本,中国香港特别行政区
相对于其他聚类:
聚类1的特点是
- 很高:慷慨
- 高:自由选择生活
- 一般:人均GDP,对腐败的看法,慷慨,健康的期望寿命,社会支持,阶梯得分
聚类2的特点是
- 高:对腐败的看法
- 低:人均国内生产总值,慷慨
- 非常低:自由选择生活,健康的期望寿命,社会支持,阶梯得分
聚类3的特点是
- 高:自由选择生活
- 一般:人均GDP,对腐败的看法,慷慨,健康的期望寿命,社会支持,阶梯得分
聚类4的特点是
- 很高:人均GDP,期望寿命健康
- 高:社会支持,阶梯得分
- 一般:自由选择生活
- 低:慷慨
- 极低:对腐败的看法
轮廓图
我们使用轮廓图来查看每个国家在其聚类中的状况。轮廓宽度衡量一个聚类中每个观测值相对于其他聚类的接近程度。较高的轮廓宽度表示该观测值很好地聚类,而接近0的值表示该观测值在两个聚类之间匹配,而负值表示该观测值在错误的聚类中。
-
plt(soette((cluser), diace),
-
mn = "轮廓系数图")
- 大多数国家似乎都非常好。
- 第3组中的国家4(泰国)和第4组中的国家5(韩国)的轮廓宽度非常低。
层次聚类
分层聚类将组映射到称为树状图的层次结构中。分层聚类算法如下所示:
- 从n个观察值和所有成对不相似性的度量(例如欧几里得距离)开始。将每个观察值视为自己的聚类。
(a)检查i个聚类之间所有成对的聚类间差异,并找出最相似的一对聚类。加入这两个聚类。这两个簇之间的差异表明它们在树状图中的高度。
(b)计算其余聚类之间的新的成对聚类间差异。对于分层聚类,我们在聚类之间使用距离函数,称为链接函数。不同类型的链接:
- 完全(最大聚类间差异):计算聚类1中的观测值与聚类2中的观测值之间的所有成对差异,并记录这些差异中最大的一个。
-
plt(aslus.c,laes=国家名称,min=\'全链接 k=4\', hang=-1)
-
rct.clut(whasi.hclusc, k=4)
- 平均值(均值聚类间差异):计算聚类1中的观测值与聚类2中的观测值之间的所有成对差异,并记录这些差异的平均值。
全链接
下面的树状图显示了使用全链接的聚类层次结构。
-
custr(ist(dta = or, cuse = mer.a), ghe = teelsic)) +
-
title("全链接 lusterPlot")
-
- 聚类1有16个国家。
- 聚类2有2个国家。
- 聚类3有3个国家。
- 聚类4有1个国家。
- 聚类4和其他聚类之间有很多间隔。
- 聚类1、2和3之间的间隔较小。
- 聚类1中的变异性似乎很大。
轮廓图
-
plot(sloett(curee(asiahluc, 4), di),
-
col
-
min = "全链接 轮廓系数图")
大多数国家似乎都非常好。
- 16国(老挝)似乎是第1组的异常值。
- 21国(印度)似乎是第3组的异常值。
平均链接
下面的树状图显示了使用平均链接的聚类层次。
-
plt(s.hut.,abls=国家名称,min=\'平均链接 k=4\', hag=-1)
-
rec(hsth_asa.lus.a, k= boder)
- 聚类1有4个国家。
- 聚类2有1个国家。
- 聚类3有16个国家。
- 聚类4有1个国家。
- 使用平均链接的聚类之间的变异性似乎大于全链接的变异性。
-
-
custr(ist(dta = or, cuse = mer.a), ghe = teelsic)) +
-
title("平均链接 lusterPlot")
-
-
轮廓图
-
plt(sltte(ctee(sia.lust, 4), istce),
-
cl=cl[:5],
-
min = "平均链接 轮廓系数图")
- 大多数国家似乎都非常好。
- 第1组中的8地区(香港)的轮廓宽度非常小。
讨论
k均值,全链接和平均链接的平均轮廓宽度分别为0.26、0.23和0.27。在全链接中,聚类之间的距离小于k均值和平均链接之间的距离,并且两个国家不太适合它们的聚类。因此,k均值和平均链接方法似乎比全链接具有更好的拟合度。比较k均值,全链接和平均链接,所有方法都与阿富汗匹配,成为其自己的聚类。但是,每种方法的聚类成员资格有所不同。例如,在k均值和全链接中,印度尼西亚和缅甸与大多数南亚和东南亚国家不在同一聚类中,而印度尼西亚和缅甸与在平均链接中的国家在同一聚类中。
K-means和分层聚类都产生了相当好的聚类结果。在使用大型数据集和解释聚类结果时,K-means有一个优势。K-means的缺点是它需要在开始时指定数字数据和聚类的数量。另外,由于初始聚类分配在开始时是随机的,当你再次运行该算法时,聚类结果是不同的。另一方面,分层聚类对数字和分类数据都有效,不需要先指定聚类的数量,而且每次运行算法都会得到相同的结果。它还能产生树状图,这对帮助你理解数据的结构和挑选聚类的数量很有用。然而,一些缺点是,对于大数据来说,它没有k-means那么有效,而且从树状图中确定聚类的数量变得很困难。
最受欢迎的见解
3.R语言对用电负荷时间序列数据进行K-medoids聚类建模和GAM回归
5.Python Monte Carlo K-Means聚类实战