听说一名叫索菲娅的机器人被授予公民身份，我感到很惊讶。
上周的这一宣布，紧随王国承诺投入5000亿美元，用于建设一座由机器人技术和可再生能源驱动的新城。
成为公民及其所带来的一切，是赋予人类的最崇高概念之一，如今却给了一台机器。作为一名每天致力于提升人工智能和自主系统可信度的教授，我认为人类社会尚未准备好接纳机器人公民。
赋予机器人公民身份，意味着宣称信任一种我认为尚不值得信赖的技术。这会带来我们人类尚未准备好应对的社会和伦理问题。
索菲娅是谁？
索菲娅是由总部位于香港的公司汉森机器人公司开发的机器人。索菲娅有一张能表达情绪的女性面孔。她会说英语，也会讲笑话。你可以和索菲娅进行一场相当聪明的对话。
索菲娅的创造者是戴维·汉森博士，他于2007年获得德克萨斯大学博士学位。
索菲娅让人想起电影《霹雳五号》中的“约翰尼5号”，它是1986年这部电影里第一个成为美国公民的机器人。不过，约翰尼5号只是一个想法，是喜剧科幻编剧S. S. 威尔逊和布伦特·马多克凭空构想出来的。
编剧们是否想过，大约30年后，他们笔下的虚构会成为现实？
公民身份面临的风险
在我看来，公民身份是一个国家赋予人民的最崇高地位，如今正面临生存危机。
作为一名研究人员，我倡导设计可信赖的自主系统；我知道，这项技术尚未成熟。
我们面临许多挑战，必须克服这些挑战，才能真正信任这些系统。例如，我们目前还没有可靠的机制，确保这些智能系统始终遵守伦理规范和我们的道德价值观，也无法保护我们免受它们采取错误行动、造成灾难性后果的影响。
以下是我认为现在就授予索菲娅公民身份为时过早的三个理由。
1. 界定身份
公民身份授予独一无二的身份主体。
我们每个人——我是指人类——都有独特的特征，使我们有别于其他任何人。当我们无需与工作人员交谈便通过海关时，我们的身份会自动得到确认，所用依据是面部、虹膜和指纹图像。我的博士生通过分析人类脑电波来确认人类身份。
是什么赋予索菲娅身份？她的MAC地址？条形码、独特的皮肤标记、声音中的音频特征，还是类似人类脑电波的电磁特征？
这些以及其他技术身份管理方案都可行，但它们无法确立索菲娅的身份——只能确认硬件身份。那么，索菲娅的身份究竟是什么？
在我看来，身份是一个多维构成体。它处于一个交汇点：我们在生物学和认知层面上的特征，以及我们经历过的每一种经历、文化和环境所塑造的自我。索菲娅如何符合这一描述，并不清楚。
2. 法律权利
就本文而言，假设作为公民的机器人索菲娅能够投票。但到了投票日，究竟是谁在做决定——索菲娅还是制造商？
想必作为公民的索菲娅也“有义务”缴纳所得税，因为索菲娅拥有独立于其创造者——那家公司——的法律身份。
索菲娅也必须依法享有与其他公民同等的保护权。
设想这样一种情形：一名警察看到索菲娅和一名女性分别遭到某人袭击。警察只能保护其中一方：应该保护谁？如果警察选择保护索菲娅，理由是她靠轮子行走且没有自卫能力，这样做合理吗？
如今，人工智能（AI）领域仍在讨论哪些原则应指导人工智能的设计和使用，更不用说法律该如何制定了。
最近一份清单提出了23项原则，统称为阿西洛马人工智能原则。其中包括：失败透明性（查明人工智能系统造成伤害的原因）；价值对齐（使人工智能系统的目标与人类价值观保持一致）；递归自我改进（对具备自我复制能力的人工智能系统实施严格的安全和控制措施）。
3. 社会权利
我们来谈谈关系和繁衍。
作为公民，这个具有人形、情感能力的机器人索菲娅，如果自己选择，是否可以“结婚”或“繁衍”？北达科他州立大学的学生已开始着手利用3D打印技术制造能够自我复制的机器人。
如果更多机器人加入索菲娅，成为世界公民，也许它们同样会主张有权复制出其他机器人。这些机器人也会成为公民。由于这些机器人能有多少“子女”不受资源限制，它们的数量很容易超过一个国家的人口。
作为有投票权的公民，这些机器人可能推动社会变革。法律或许会改变，人类可能突然发现自己置身于从未想象过的处境。
