在线时间:8:00-16:00
迪恩网络APP
随时随地掌握行业动态
扫描二维码
关注迪恩网络微信公众号
缺少数据在分析数据集时可能不是一个微不足道的问题。 如果缺失数据的量相对于数据集的大小非常小,那么为了不偏离分析而忽略缺少特征的少数样本可能是最好的策略,但是留下可用的数据点会剥夺某些数据的特征。 尽管某些快速修正如均值替代在某些情况下可能很好,但这种简单的方法通常会向数据中引入偏差。 在这篇文章中,我们将使用airquality数据集(在R中提供)来推测缺失值。 为了本文的目的,我将从数据集中删除一些数据点。 快速分类缺失数据有两种类型的缺失数据: MCAR:随意丢失。 MNAR:不是随意丢失的。随机数据丢失是一个更严重的问题,在这种情况下,进一步检查数据收集过程并尝试理解信息丢失的原因可能是明智的。例如,如果调查中的大多数人没有回答某个问题,他们为什么这样做?这个问题不清楚吗? 假设数据是MCAR,太多丢失的数据也可能成为一个问题。
我们发现臭氧几乎失去了25%的数据点,因此我们可能会考虑将其从分析中删除或收集更多的测量数据。 其他变量低于5%的阈值,所以我们可以保留它们。就样本而言,仅缺少一个特征会导致每个样本缺失25%的数据。如果可能,应丢弃缺少2个或更多特征(> 50%)的样本。 查看缺失的数据模式该mice软件包提供了一个很好的功能md.pattern(),可以更好地理解丢失数据的模式 输出结果告诉我们,104个样本是完整的,34个样本只错过臭氧测量,4个样本只错过了Solar.R值,等等。 一个可能更有用的视觉表示可以使用下面的VIM包得到 该图有助于我们理解几乎70%的样本没有遗漏任何信息,22%的人缺少臭氧值,剩余的样本显示其他遗漏的模式。通过这种方法,我认为情况看起来更清楚一些。
左边的红色方块图显示Solar.R的分布与臭氧缺失,而蓝色方块图显示剩余数据点的分布。 如果我们假设MCAR数据是正确的,那么我们预计红色和蓝色方块图非常相似。 输入缺失的数据现在我们可以使用该complete()函数返回已完成的数据集。
首先,我们可以使用散点图并将臭氧对所有其他变量进行绘图
密度图:
▍关注我们
【服务场景】 科研项目; 公司项目外包;线上线下一对一培训;学术研究。
【大数据部落】提供定制化的一站式数据挖掘和统计分析咨询服务
分享最新的大数据资讯,每天学习一点数据分析,让我们一起做有态度的数据人
微信客服号:lico_9e
QQ交流群:186388004
欢迎关注微信公众号,了解更多数据干货资讯!
|
请发表评论