一本新书指出，一种算法能够以97%的准确率预测1912年泰坦尼克号灾难中哪些乘客幸存、哪些遇难，这既展现了人工智能的强大，也揭示了它的局限。
这一发现表明，人工智能或许能得出正确结果，但理由却完全错了。
纽约大学新闻学教授梅雷迪思·布鲁萨德在她的新书《人工智能的非智能：计算机如何误解世界》（麻省理工学院出版社，2018年）中阐述了这一悖论。布鲁萨德带领读者经历了一系列别开生面的计算机编程探索，其中包括近距离观察“从事”人工智能究竟是什么样子。
泰坦尼克号预测模型将性别、年龄和船票等级等多个变量纳入考量，以建立预测乘客生还或遇难的方法。除了达到97%的准确率外，该算法还揭示，乘客支付的船票价格是决定其能否在泰坦尼克号灾难中幸存的最重要因素——头等舱乘客比二等舱或三等舱乘客更有可能生还。
“学数学的人往往对此感到惊讶；女性、贫困者和少数族裔却不会。”
然而，布鲁萨德指出，尽管这项计算机工具相对精准，“我们对泰坦尼克号上谁生还、谁遇难的统计预测永远不可能达到100%的准确率——任何统计预测都不可能、也永远不会达到100%的准确率——因为人类不是统计数字，也永远不会是统计数字。”例如，她讲述了两名乘客的行为：他们的命运与性别、年龄或船票价格毫无关系，真正相关的是他们逃离沉船时跳跃的距离。
她指出，这一区别至关重要，并提醒我们保持警惕：今天的世界显然比1912年更加由技术和数据驱动。
“我们的泰坦尼克号模型可能被用来证明应向头等舱乘客收取较低的旅行保险费用，但这很荒谬：我们不应因为人们没有足够的钱乘坐头等舱就惩罚他们。”布鲁萨德写道。她是纽约大学亚瑟·L·卡特新闻学院助理教授，曾任职于AT & T贝尔实验室和麻省理工学院媒体实验室，担任计算机科学家。
“最重要的是，我们现在应该明白，有些事情机器永远学不会，而人类的判断、强化和阐释始终不可或缺。”
布鲁萨德借泰坦尼克号的例子探讨了技术至上主义的兴起——即认为技术总能解决问题的信念，并指出数字时代无法解决长期存在的社会问题。事实上，她认为，机器学习甚至可能加剧这些问题。
她指出：“如果我们根据世界现状制定定价算法，女性、贫困者和少数族裔消费者不可避免地会被收取更高费用。”
“学数学的人往往对此感到惊讶；女性、贫困者和少数族裔却不会。种族、性别和阶层以各种显而易见或隐蔽的方式影响定价。女性理发、干洗衣物、购买剃须刀甚至除臭剂，花费都比男性多。亚裔美国人被收取更高SAT备考课程费用的可能性是其他人的两倍。非裔美国餐厅服务员获得的小费比白人同事少。”
她总结说，我们需要的不是更新、更先进的技术，而是理解技术能做什么、不能做什么。这样，我们才能更好地选择如何运用技术，让世界变得对每个人都更美好。
