过去15年来，我们目睹了数字数据可用量的激增——数据来源包括互联网、社交媒体、科学设备、智能手机、监控摄像头以及许多其他渠道；用于处理这些数据的计算机技术也在迅速发展。众所周知的“大数据”无疑将带来重要的科学、技术和医学进步。但如果使用不当或遭到滥用，大数据也会带来严重风险。
如今，互联网搜索引擎、机器翻译和图像标注等重大创新，已经依赖于将机器学习技术应用于海量数据集。在不久的将来，大数据还可能显著改善政府决策、社会福利项目和学术研究。
但数据更多，并不能替代数据质量更高。例如，最近一篇文章在《自然》报道称，美国的选举民调机构难以获得具有代表性的民众样本，因为法律只允许他们拨打固定电话，而美国人越来越多地依赖手机。社交媒体上虽然有数不胜数的政治观点，但它们同样不能可靠地代表选民。事实上，相当一部分有关政治的推文和脸书帖子都是计算机生成的。
近年来，基于有偏差数据集的自动化程序引发了许多丑闻。例如，去年4月，一名大学生搜索谷歌图片中的“职场不专业发型”时，搜索结果大多是黑人照片；当这名学生把搜索词中的第一个词改为“专业”后，谷歌返回的结果大多是白人照片。但这并非谷歌程序员存在偏见所致，而是反映了人们在互联网上为图片添加标签的方式。
如果某个大数据程序利用这一搜索结果来评估招聘和晋升决策，可能会惩罚那些外貌与“不专业发型”搜索结果中图片相似的黑人候选人，从而延续传统的社会偏见。这并非假设性的可能。去年，一项由ProPublica调查发现，一种广泛用于判定已定罪罪犯刑罚的方法——“再犯风险模型”——系统性地高估黑人被告未来犯罪的可能性，同时低估白人被告的这一风险。
大数据的另一项风险是可能遭到操纵。当人们知道某个数据集将用于作出影响自身的重要决策时，就有动机让结果对自己更有利。例如，教师如果按照学生的考试成绩接受评判，就更可能“围绕考试内容教学”，甚至作弊。
同样，希望提升本校在《美国新闻与世界报道》排名中名次的大学管理者，曾作出不明智的决策，例如牺牲学术投入，投资建造奢华的体育馆。更糟的是，他们还作出过极不道德的决策，例如圣玛丽山大学曾试图通过识别并开除入学头几周内成绩较差的学生，来提高其“留校率”。
即使是谷歌搜索引擎也不能幸免。尽管其运行依托海量数据，并由世界顶尖的数据科学家监管，但搜索结果仍容易受到“搜索引擎优化”和操纵的影响，例如“谷歌炸弹”“垃圾索引”以及其他服务于狭隘利益的方法。
第三项风险是侵犯隐私，因为如今可获取的大量数据都包含个人信息。近年来，商业和政府网站上的大量机密数据遭到窃取；研究人员还表明，人们的政治观点乃至性偏好，都能从看似无害的网上发帖中准确推断出来，例如影评——即使这些内容是以化名发布的。
最后，大数据也对问责制构成挑战。有人认为自己受到算法决策的不公正对待，却常常无从申诉：要么是因为具体结果无法解释，要么是因为编写算法的人拒绝说明其运作细节。政府或企业可能会把算法称作“数学”或“科学”，以此威慑提出异议的人；但他们自己也常常对这些算法创造物的行为感到惊讶。欧盟最近通过一项措施，保障受算法影响的人享有“解释权”；但其在实践中如何落实，只有时间才能证明。
数据科学家凯茜·奥尼尔在其新书《数学毁灭武器》中指出，如果遭受大数据伤害的人求助无门，后果可能具有毒害性且影响深远。
好消息是，大数据带来的风险大多可以避免。但要做到这一点，我们必须坚决保护个人隐私，发现并纠正不公平现象，审慎使用算法建议，并深入透彻地了解算法的内部运作机制，以及为其决策提供依据的数据。
