生成式人工智能（AI）潜力巨大，但也伴随着风险和挑战。《达沃斯电台》这一特别系列的最新一期聚焦技术伦理，以及伦理为何是开发、使用和监管人工智能时的核心议题。
我们将听到东北大学哲学家、该校实验人工智能研究所伦理负责人 Cansu Canca 的分享。我们还将了解 Sara Hooker 的观点；她领导着非营利研究实验室 Cohere for AI。世界经济论坛元宇宙与人工智能价值创造负责人 Connie Huang 也将分享看法。
您可以在收听播客的平台收听本期节目——以下是其中的一些重要引述。
公平问题
Canca 做客《达沃斯电台》，探讨人工智能给她这位应用伦理学家带来的一些重要问题。
“要讨论如何优化公平性，或如何实现公平的算法，我们必须先能够定义公平的含义，”她说。“而在界定公平时，要理解公平理论在何种情境下适用，这要借助哲学学科，尤其是道德哲学和政治哲学。”
对 Canca 来说，问题与其说是她为何参与这场讨论，不如说是为何没有更多同事参与。“许多政策制定决策，以及我们开发和使用人工智能系统时日常作出的决策，都包含伦理判断，无论这些判断是隐含的还是明确的。”
这些问题为何重要
Canca 特别强调，目前人工智能系统并不具备采取合乎伦理或违背伦理行为的自主能力。“出于充分的理由，我们正在把它重新称为‘负责任的人工智能’，”她说。“我认为，‘伦理人工智能’会让人觉得人工智能系统拥有自主能力，能够采取合乎伦理的行为；但至少就目前而言，我们还没有做到这一点。”
但她强调，无论如何命名，我们仍有许多东西需要了解和考量。她认为，监管可以发挥作用，帮助减轻风险；参与开发和部署这项技术的公司和组织也同样如此。
这些并非抽象问题。
“例如，思考公平问题为何重要，是因为把人工智能系统嵌入日常生活和社会，实际上就是在创建我们赖以生活的结构，”Canca 说。“如果这些基础结构不公平，我们就不可能建立一个公平的社会。”
她认为，社会需要加强教育，以便更好地理解风险。
“必须说清楚，风险很大，但通常并非公众想象的那种风险，也不是报纸让人们以为的那种风险。这不是一场《终结者》式的情境，但公平问题会夺人性命。如果你因为自己的风险被错误地评估为远低于他人而无法获得医疗服务，这会要了你的命。所以，公平问题绝非抽象问题。”
正如她总结的那样：“要杀死你的，不是追着你来的类人机器人。如果不解决这个问题，真正会要你命的是一个极其普通的风险评估系统。”
治理
从大型语言模型到可追溯性和审计，Cohere for AI 的 Sara Hooker 为我们介绍了一些理解和讨论人工智能伦理时需要掌握的术语。
而生成式人工智能带来的许多令人兴奋之处——例如 ChatGPT——其发展历程比人们想象的更漫长。
“有意思的是，你现在看到、感到兴奋并且据我观察正在使用的，其实是几个不同阶段共同累积的成果，”她说。“对研究人员来说，这个过程进展缓慢，但它与人们产生了非常直观的联系。”
Hooker 认为，确实需要进行监管：“作为一名长期从事这项技术研究的人，不得不承认，我们所拥有的模型能力正在逐步发生变化。
“作为一名研究人员，我对此十分担忧，因为一方面，看到这么多人关注你长期以来所做的工作，并因此感到兴奋、觉得自己理解了这些内容，确实令人振奋，”她说。
“因为我认为，这项技术带来的许多变化，是人们觉得自己正在与算法互动。但这也令许多研究人员担忧：你的想法通常仍处于研究阶段，却已经被全球数百万人采用，并以截然不同的方式使用。”
世界经济论坛如何确保人工智能以合乎伦理的方式发展？
是时候展开对话了
Hooker 表示，随着这项技术的应用不断扩大，能够验证并追踪其开发过程的方法将至关重要。
“我们需要办法来验证模型的行为是否符合预期，以及模型遇到现实世界中的新数据时能否稳健运行，”她说。
“目前，我们还没有很好的办法追踪这些模型。因此，模型一旦开放发布，就可能被以各种方式使用，而且没有可靠的方法追溯究竟使用了哪个模型。”在谈及通过许可发布模型的可能性或审计的必要性时，她补充道。
她最后总结说，开展这些对话很重要。
“作为一名研究人员，我个人非常赞成围绕这个问题展开更深入、更准确的讨论，因为其中有些内容几乎归结为：哪些事情切实可行，哪些可以标准化为最佳实践；同时也要确保研究人员与政策制定者和用户共同参与，并思考对每个群体的影响。”
论坛的 Connie Huang 总结道：“我们在关注各种机遇的同时，也必须以研究为基础，并共同认识挑战和权衡取舍，以及采用这些技术可能带来的意外后果。”
