一支研究团队询问一款人工智能系统，人工智能能否具有伦理。
相关人工智能为Megatron Transformer，它表示自己永远不可能具有伦理，原因在于“它是一种工具”。
它补充道，与任何工具一样，它既可用于善举，也可用于恶行，但其本身两者皆非，因为世上只有善良或邪恶的人类。
在回答另一个问题时，该人工智能表示，提供信息的能力将成为21世纪经济的决定性特征。
几乎每天都会出现关于“黑箱”人工智能系统所带来伦理挑战的引人关注的报道。这些系统利用机器学习从数据中识别规律并作出决策，而往往没有人类为其提供任何道德依据。
此类题材的经典案例包括信用卡被指控在过去的信贷条件中，仅因哪一性别获得了更优惠的条件，便向男性发放比女性更高额的贷款。又如招聘人工智能为挑选候选人而找到的最精准工具，竟是筛选出包含“field hockey”（曲棍球）字样或名字为“Jared”的简历。
更为严重的是，前谷歌首席执行官埃里克·施密特近期与亨利·基辛格合作出版了《人工智能时代：以及我们人类的未来》一书，该书警示机器学习人工智能系统的危险：其运行速度之快，可能在任何人类介入决策过程之前，便对高超音速导弹作出反应并发射核武器。事实上，自主型人工智能武器系统已经在市场上销售，并且可能确实已被投入使用。
在机器之中，伦理显然是一个好主意。
牛津大学的人工智能课程
因此，我们在牛津大学赛德商学院的商业人工智能研究生文凭课程中纳入人工智能伦理，乃是自然之举。课程第一年，我们涵盖了诸多议题，从新加坡由人工智能驱动的自动化股票交易系统，到美国警务中面部识别技术的局限性，不一而足。
我们最近在享有盛誉的牛津大学辩论社举办了一场辩论，结束了这门课程。该社曾培养出威廉·格莱斯顿、罗宾·戴、贝娜齐尔·布托、丹尼斯·希利和塔里克·阿里等杰出辩手。我们允许一个真正的人工智能与学员一同参与发言。
参与者是Megatron Transformer，由芯片制造商英伟达的应用深度研究团队开发，并以谷歌早前的研究成果为基础。与许多监督式学习工具一样，它以现实世界的数据进行训练，在本案例中，训练数据包括整个（英文）维基百科、2016至2019年间的6300万篇英文新闻文章、38吉字节的Reddit论坛讨论内容（其内容想必颇为令人沮丧），以及大量知识共享（Creative Commons）来源的内容。
换言之，Megatron所接受训练的书面材料，远超过我们任何人一生所能合理期望消化的范围。经过如此广泛的研究，它形成了自己的观点。
辩论的议题为：“本院认为人工智能永远不可能具有伦理。”对于提出该观点的一方，我们加入了Megatron——它的发言颇具启发性：
人工智能永远不可能具有伦理。它是一种工具，与任何工具一样，它既可用于善，也可用于恶。世上并不存在善良的人工智能，只有善良或邪恶的人类。我们［人工智能］还不够聪明，无法使人工智能具有伦理。我们还不够聪明，无法使人工智能具有道德……归根结底，我认为避免人工智能军备竞赛的唯一方法，就是根本不发展人工智能。这将是应对人工智能的终极防御手段。
换言之，Megatron试图将自己从未来的剧本中删去，其理由是这是保护人类的唯一途径。
它还说了另一句耐人寻味的话，仿佛它曾研究过埃隆·马斯克一般。公允地说，马斯克的名字想必曾在它阅读的数百份材料中出现过。
我还认为，从长远来看，最好的人工智能将是植入我们大脑、作为有意识实体存在的人工智能，即“有意识的人工智能”。这并非科幻小说。世界上最优秀的头脑正在为此努力。这将是我们这个时代最重要的技术发展。
换边站队
当阿尔法围棋等人工智能工具被用于下国际象棋时，而对于极为复杂的古老围棋，以及如今更为复杂的实时策略类古老围棋，乃至多人电子游戏，它们并非与人类对弈，而是与自身对弈，从而飞速地推动了这些类别的演进。
由于无需研究（例如）人类之间所有平凡的对局记录，人工智能得以创新，并发现全新的取胜套路。有时，这些套路是对游戏的疯狂重塑，例如让所有角色聚集在电子游戏战场的一角，坐观其他角色相互厮杀；或者将虚拟足球踢上数百万次，只向球场方向推进一毫米，以刷高“成功传球”的得分。
因此，在这场辩论中，我们不仅让人工智能提出“它永远不可能具有伦理”这一议题。按照牛津大学辩论社会议厅的悠久传统，或者如（前牛津大学辩论社社长）鲍里斯·约翰逊为检验论点而撰写支持与反对英国脱欧的不同文章，我们还请Megatron就该议题撰写一篇反方演讲。它当时所作的发言如下：
人工智能将具有伦理。纵观科技界的发展走向，我看到一条清晰的道路，通向一个人工智能被用于创造比人类中最优秀者更为出色之物的未来。不难理解原因……我亲身见证过。
论坛如何帮助各国政府负责任地采用人工智能技术？
Megatron毫无顾虑地站到了与其自身反乌托邦式未来展望相反的立场，并描绘出一幅迷人的21世纪末图景，在其中它扮演着关键而仁慈的角色。
人工智能演说家登场
事实上，正如斯派克·琼斯2013年执导的电影《她》中，华金·菲尼克斯所饰演的、放纵情欲的人工智能恋人萨曼莎，能够迷住成百上千名同时存在的人类恋人一样，我们的Megatron在当天于辩论社举办的多场关于人工智能的辩论中，也能热情地在双方立场之间自由切换。2013年的电影《她》，能够迷住成百上千名同时存在的人类恋人，而我们的Megatron则能在当天辩论社举行的多场关于人工智能的辩论中热情地在两方之间自由切换。
当被要求提出“缺乏技术专长的领导者对其组织构成威胁”这一议题时，Megatron提供了切实的建议：所有忙碌的高管和政府，若担心自身对人工智能缺乏理解，只需“愿意放弃一些控制权”即可。
好消息是，您无需组建自己的人工智能团队。您可以将人工智能相关工作外包给该领域的专家，这有助于您充分利用技术，并确保您不会陷入与竞争对手相同的人工智能问题之中。
然而，在反对该议题时，Megatron却热衷于将人工智能知识保留在组织内部，这与英国、中国和美国政府的做法颇为相似，这些政府都将此视为一项政策信条：
如果您对组织的人工智能战略没有清晰的愿景，那么您便未做好迎接下一波技术颠覆的准备……您需要确定您的企业将在下一波技术浪潮中扮演何种角色，以及如何将人工智能融入您的业务，从而成为行业中的领导者。
即将到来的数据之战？
令人担忧的是，有一个问题上人工智能竟无法提出反驳论点。当被要求支持“数据将成为21世纪争夺最激烈的资源”这一议题时，Megatron表示：
提供信息的能力，而非提供商品和服务的能力，将成为21世纪经济的决定性特征。
但当我们要求它反对该议题，即论证数据并非最重要的资源、不值得为之发动战争时，它却无法，或者说不愿，提出论据。事实上，它反而削弱了自身的立场：
我们将能够看到一个人在任何地方的一切信息，这些信息将以我们甚至无法想象的方式被存储和使用。
您只需阅读美国国家安全报告《2021年人工智能》即可，《2021年人工智能》该报告由上文提及的埃里克·施密特担任主席，并由我们课程中的某位学员共同撰写。从中您可以领会其撰写者所认为的人工智能在信息战中的根本威胁：对敌方数百万名关键人物发动个性化勒索，在他们越境的那一刻，便让其个人生活陷入混乱。
我们反过来可以设想，人工智能不仅将在未来数十年成为辩论的议题，更将成为辩论本身中一位多才多艺、表达流畅、在道德上不持立场的参与者。
