科幻惊悚片（如20世纪80年代的经典电影《终结者》）激发了我们的想象，也加剧了人们对自主智能杀手机器人消灭人类的恐惧。
尽管这种情景或许看似遥不可及，但去年，包括埃隆·马斯克和谷歌DeepMind联合创始人穆斯塔法·苏莱曼在内的100多位机器人与人工智能技术领域领军人物，曾就超级智能机器带来的风险发出警告。
在一封公开信中，致联合国《特定常规武器公约》的签署者表示，一旦研发成功，杀手机器人——即设计用于在战场上自主行动的武器——“将使武装冲突的规模空前扩大，冲突速度也会快到超出人类的理解能力。”
信中写道：“这些武器可能成为恐怖工具，成为独裁者和恐怖分子用来攻击无辜民众的武器，也可能被黑客入侵，导致其以不良方式行事。我们采取行动的时间不多了。一旦打开潘多拉魔盒，就很难再将它关上。”
人工智能必须成为造福人类的力量，也必须体现多元性
本周，英国政府发布了一份报告。该报告由上议院人工智能特别委员会委托撰写，依据200多位行业专家提供的证据。报告的核心是五项原则，旨在指导和规范人工智能的伦理使用。
第一项原则认为，人工智能的开发应服务于公益，造福全人类。
报告作者认为，英国必须积极塑造人工智能的发展与应用，并呼吁建立“共享的人工智能伦理框架”，明确如何更好地利用这项技术造福个人和社会。
他们还表示，不能让过去的偏见在不知不觉中被植入自动化系统，并敦促“从一开始就谨慎设计此类系统，并尽可能广泛地听取不同群体的意见”。
可理解性与公平性
第二项原则要求人工智能在可理解、公平的范围内运行，并呼吁企业和组织提高其人工智能系统的可理解性。
报告警告说：“如果做不到这一点，监管机构可能需要介入，禁止在生活和社会的重要敏感领域使用不透明的技术。”
数据保护
第三，报告指出，不应利用人工智能削弱个人、家庭或社区的数据权利或隐私。
报告称，需要重新审视数据的收集和获取方式。此举旨在确保企业能够公平、合理地获取数据，同时让公民和消费者也能保护自己的隐私。
“必须防止掌控海量数据的大型企业在这一领域变得过于强大。我们呼吁政府……主动审查在英国运营的大型科技公司对数据的使用情况及其可能形成的垄断。”
与人工智能并肩发展
第四项原则规定，所有人都应有权接受教育，并获得条件，在人工智能时代实现心理、情感和经济方面的成长。
对儿童而言，这意味着从小学习如何使用人工智能并与之协作。对成年人而言，报告呼吁政府投资于技能培养和培训，以减轻人工智能对就业市场造成的冲击。
直面毁灭性力量
第五，针对人们对杀手机器人的担忧，报告指出，绝不能赋予人工智能自主伤害、毁灭或欺骗人类的能力。
报告称：“善意开展的人工智能研究存在被滥用并以有害方式伤害人们的重大风险。人工智能研究人员和开发者必须考虑其工作的伦理影响。”
作者表示，确立这些原则后，英国便能在国际社会中树立榜样。
“我们建议政府召集各国政府、学术界和产业界举行全球峰会，为人工智能的设计、开发、监管和部署制定国际规范。”
