两家开发生成式人工智能工具的公司加入Radio Davos播客，分享它们对于如何确保该技术安全且合乎伦理的见解。
微软首席负责任人工智能官Natasha Crampton表示，企业必须自我约束，同时也需要监管。
初创企业Hugging Face联合创始人Thomas Wolf分享了推出生成式人工智能聊天机器人的经历。
订阅 以获取完整播客系列；节目页面及文字记录：https://www.weforum.org/podcasts/radio-davos/episodes/ai-episode-2-microsoft-hugging-face
微软是人工智能变革的主要参与者之一。那么，这家软件巨头已将ChatGPT技术整合到我们多数人使用的产品之中，它又是如何让其人工智能产品做到负责任且合乎伦理的呢？
在世界经济论坛关于生成式人工智能的播客系列第二期中，微软首席负责任人工智能官Natasha Crampton谈论了责任与监管问题。
我们还听取了硅谷初创企业Hugging Face联合创始人的分享，讲述向全世界推出人工智能聊天机器人的感受。
以下是一些关键语录：
开发负责任的人工智能
“我的工作是在整个公司范围内落实微软所采纳的六项人工智能原则，”Natasha Crampton说，“构成我们北极星的六项原则是公平性、隐私与安全、可靠性与安全性、包容性、问责制与透明度。”
“微软长期以来认为，我们这样负责任的组织都需要自我约束，并采取最佳实践，以尽可能确保人工智能系统安全、可信且可靠。”她补充道。
“我们也认识到需要监管。毫无疑问，我们将需要新的法律、规范和标准，以建立人们对这项新技术的信心，并使每个人都能受到法律保护。”
“尽管我们非常希望所有企业都能采纳其所能做到的最负责任的做法，但这并不是一个现实的假设，”她表示，“我们认为，为每个人建立这一基本保护非常重要，这将有助于建立对该技术的信任。”
世界经济论坛如何确保人工智能的伦理发展？
透明度是建立人工智能信任的关键
Hugging Face联合创始人Thomas WolfHugging Face 表示，其公司的开源方式是实现负责任人工智能的一项重要途径。
“拥有开放模型极其重要，”Wolf说，“人们需要了解人工智能可能在哪些方面失效，或在哪些场景下可信赖。他们需要意识到这些工具中可能存在的偏见，以及它们可能如何被滥用。”
Wolf表示，允许所有人访问其平台的源代码是透明度的最高体现。“如果模型是开放的，你就不必只相信开发者。你可以自行审核模型，阅读它是如何构建的，深入研究训练数据，并提出问题，”他补充道，“我们的模型上有许多讨论页面，人们可以在那里标记模型并提出问题。”
在我们了解人工智能是否安全之前，是否应暂停其开发？
近期一封由数千名人工智能工程师和企业领袖签署的公开信呼吁暂停六个月，停止开发比ChatGPT更强大的人工智能模型。其理念是让监管机构有时间跟上发展步伐，并让科技公司更充分地了解潜在风险。Crampton理解这些担忧，但表示暂停开发将适得其反。
“与其暂停目前正在进行的重要研发工作，包括对这些模型安全性的研究，我认为我们应当聚焦于行动计划，”她表示，“我们应当把关于当下行之有效的做法的最佳构想拿到桌面上讨论，以确保我们能够识别、衡量并减轻风险。我们还应当把关于该领域所需的新法律、规范和标准的最佳构想拿出来。”
针对特定行业的人工智能监管
Wolf认为，人工智能的发展步伐只会加快，任何一刀切的监管框架都行不通。他更倾向于针对特定行业的监管，类似于商业航空或核工业的治理方式。“如果是在特定领域，那就有意义。当你谈论航空公司时，那是一个非常具体的领域，即商业航空公司。其他类型的航空则不适用同样的规定，”Wolf说。
“我认为，一旦你明确了某个存在特定危险且我们希望加以防范的具体行业，那么这样做就是合理的。我认为，这一层面的监管将是极其积极且极具意义的。但是，一种泛泛涵盖人工智能的监管，在我看来会过于宽泛，难以发挥实效。”
人工智能与工作场所
人工智能对工作场所以及我们所有人工作方式的影响，已引发了关于负责任人工智能的讨论。相关问题包括其在招聘中的使用，例如筛选候选人名单，甚至直接挑选候选人。人们认识到，由于人工智能所用的训练数据，它可能会在甄选过程中引入偏见。
或许最大的问题是：究竟由谁来完成工作——人类还是人工智能？论坛的《2023年就业未来报告》《2023年就业未来报告》发现了一种趋势：机器正越来越多地执行过去由人类完成的任务。
这一趋势在未来几年很可能会加速，但Crampton并不认为人工智能会取代人类，尽管她对ChatGPT的能力印象深刻。
“我曾让GPT-4的早期版本基于影响评估方法起草一项可用于监管人工智能的法案。我得到的输出是一份相当不错的初稿。
“当然，对其进行审慎判断非常、非常重要。作为一名受过训练的律师，我确实发现了一些错误。理解该技术的优势所在并认识其缺陷，是十分重要的。
“我们需要在人工智能的长处与人类的长处之间取得平衡。这项技术本质上是完成这些任务的副驾驶，用以增强人的能力。”
您可以在此收听Radio Davos播客的完整内容：
另请参阅上一期节目。
