有的分析师喜欢把去重放在第一步，但本港台直播强烈建议把去重放在格式内容清洗之后，原因已经说过了(多个空格导致工具认为“陈丹奕”和“陈 丹奕”不是一个人，去重失败)。而且，并不是所有的重复都能这么简单的去掉……

　　本港台直播曾经做过电话销售相关的数据分析，发现销售们为了抢单简直无所不用其极……举例，一家公司叫做“ABC管家有限公司“，在销售A手里，然后销售B为了抢这个客户，在系统里录入一个”ABC官家有限公司“。你看，不仔细看你都看不出两者的区别，而且就算看出来了，你能保证没有”ABC官家有限公司“这种东西的存在么……这种时候，要么去抱RD大腿要求人家给你写模糊匹配算法，要么肉眼看吧。

　　上边这个还不是最狠的，请看下图：

　　你用的系统里很有可能两条路都叫八里庄路，敢直接去重不?(附送去重小tips：两个八里庄路的门牌号范围不一样)

　　当然，如果数据不是人工录入的，那么简单去重即可。

　　2、去除不合理值

　　一句话就能说清楚：有人填表时候瞎填，年龄200岁，年收入100000万(估计是没看见”万“字)，这种的就要么删掉，要么按缺失值处理。这种值如何发现?提示：可用但不限于箱形图(Box-plot).

　　3、修正矛盾内容

　　有些字段是可以互相验证的，举例：身份证号是1101031980XXXXXXXX，然后年龄填18岁，本港台直播们虽然理解人家永远18岁的想法，但得知真实年龄可以给用户提供更好的服务啊(又瞎扯……)。在这种时候，需要根据字段的数据来源，来判定哪个字段提供的信息更为可靠，去除或重构不可靠的字段。

　　逻辑错误除了以上列举的情况，还有很多未列举的情况，在实际操作中要酌情处理。另外，这一步骤在之后的数据分析建模过程中有可能重复，因为即使问题很简单，也并非所有问题都能够一次找出，本港台直播们能做的是使用工具和方法，尽量减少问题出现的可能性，使分析过程更为高效。

　　第四步：非需求数据清洗

　　这一步说起来非常简单：把不要的字段删了。

　　但实际操作起来，有很多问题，例如：

　　把看上去不需要但实际上对业务很重要的字段删了;

　　某个字段觉得有用，但又没想好怎么用，不知道是否该删;

　　一时看走眼，删错字段了。

　　前两种情况本港台直播给的建议是：如果数据量没有大到不删字段就没办法处理的程度，那么能不删的字段尽量不删。第三种情况，请勤备份数据……

　　第五步：关联性验证

　　如果你的数据有多个来源，那么有必要进行关联性验证。例如，你有汽车的线下购买信息，也有电话客服问卷信息，两者通过姓名和手机号关联，那么要看一下，同一个人线下登记的车辆信息和线上问卷问出来的车辆信息是不是同一辆，如果不是(别笑，业务流程设计不好是有可能出现这种问题的!)，那么需要调整或去除数据。

　　严格意义上来说，这已经脱离数据清洗的范畴了，而且关联数据变动在数据库模型中就应该涉及。但本港台直播还是希望提醒大家，多个来源的数据整合是非常复杂的工作，一定要注意数据之间的关联性，尽量在分析过程中不要出现数据之间互相矛盾，而你却毫无察觉的情况。

　　以上，就是本港台直播对数据清洗过程的一个简单梳理。由于能力所限，难免挂一漏万，请各位不吝赐教，感谢。

　　文章来源36大数据， ，微信号dashuju36 ，36大数据是一个专注大数据创业、大数据技术与分析、大数据商业与应用的网站。分享大数据的干货教程和大数据应用案例，提供大数据分析工具和资料下载，解决大数据产业链上的创业、技术、分析、商业、应用等问题，为大数据产业链上的公司和数据行业从业人员提供支持与服务。