各类组织普遍严重低估了人工智能风险。
人工智能的实施不当可能延续现有的职场不平等。
我们探讨企业如何确保生成式人工智能的合乎伦理部署。
在ChatGPT和生成式人工智能（AI）近期引发热潮之际，许多人迫切希望利用这项技术日益复杂的潜力。
然而，麦肯锡（Baker McKenzie）2022年北美人工智能调查的结果表明，企业领导者目前可能低估了人工智能对其组织带来的相关风险。仅 4% 的首席执行官级别受访者表示，他们认为使用人工智能所涉及的风险“重大”，而 不足一半的受访者表示，其董事会层面具备人工智能方面的专业知识。
这些数据凸显了一个令人担忧的现实：许多组织对人工智能的准备不足，缺乏关键决策者应有的适当监督与专业知识，难以管理风险。若不加以解决，组织在该技术的合乎伦理和有效部署方面的盲点，很可能会掩盖变革性机遇，同时使组织跟不上该技术爆炸式增长的步伐。
生成式人工智能如何改变风险格局？
如今，人工智能相关的进展和应用正以指数级速度推进——有观点认为，其速度甚至过快。
随着这一指数级增长重新引发对人工智能应用的关注，现实情况是，学者、科学家、政策制定者、法律专业人士及其他各方早已长期倡导人工智能的合乎伦理与合法使用及部署，尤其是在职场中，因为人力资源职能中已广泛存在人工智能的应用（例如人才招聘、行政事务和员工培训）。
根据我们的调查，75%的企业已在招聘和人力资源工作中使用人工智能工具和技术。
在生成式人工智能的这一新阶段，人工智能应用的核心原则（如治理、问责和透明度）比以往任何时候都更为重要，部署不当的人工智能所带来的后果也同样令人担忧。
例如，缺乏审查的算法可能导致有偏见和歧视性的结果，从而延续不平等并阻碍劳动力多元化进程。数据隐私和数据泄露是另一项隐忧，员工数据在未经匿名化处理的收集和使用过程中很容易发生泄露。
生成式人工智能还带来了新的知识产权问题，引发了关于第三方程序输入和输出内容的所有权，以及随之而来的版权侵权担忧。
总体而言，我们看到各国政府和监管机构正匆忙推进与人工智能相关的立法以及监管执法机制。在美国，新兴立法的一个重点将是人工智能在招聘及人力资源相关运营中的应用场景。
诉讼（包括集体诉讼）也即将到来。我们已经看到美国首轮生成式人工智能知识产权诉讼的出现，而这些早期的法院裁决正在现有法规缺位的情况下塑造法律格局。
实施生成式人工智能的组织还应假定，输入人工智能工具和查询中的数据将被第三方技术提供商收集。在某些情况下，这些提供商将拥有使用和/或披露这些输入内容的权利。
当雇主努力为员工配备生成式人工智能工具时，他们是否正在使敏感数据和商业秘密面临风险？简而言之，答案是肯定的。总而言之，每一项新进展似乎都提出了问题，其速度超过了组织、监管机构和法院所能给出答案的速度。
组织如何提升其人工智能应对能力？
生成式人工智能正在改变范式，特定应用场景的风险仍将不断出现。为保持领先，组织需要超越各自为政的努力，在强有力的治理框架之下整合各个职能部门。
尽管许多组织依赖数据科学家牵头推进人工智能计划，但所有相关利益方，包括法律、首席执行官级别管理层、董事会、隐私、合规和人力资源部门，都需要在整个决策过程中参与其中。
我们的调查结果清楚地揭示了这一代表性缺口。目前，仅有54% 的受访者表示，其组织在人工智能工具的决策过程中会让人力资源部门参与，且仅有36%的受访者表示已设立首席人工智能官（CAIO）。
在这一高风险环境中，首席人工智能官将发挥关键作用，确保在首席执行官级别建立相应的治理与监督机制，并让人力资源部门参与培训，同时推动组建跨职能人工智能团队。
与此同时，组织应制定并遵循内部治理框架，涵盖各类应用场景中的企业风险，并确保公司能够在问题被识别后高效地作出正确的合规调整。
对于没有人工智能治理架构、且缺乏关键利益相关方监督的企业，或完全依赖第三方工具的企业而言，风险在于其使用人工智能工具的方式可能导致组织承担法律责任（例如歧视索赔）。
几乎所有决策，无论是否基于人工智能，都会产生偏见。使用这些工具的企业必须制定框架，明确评估偏见的方法，建立测试和避免非法偏见的机制，并确保满足相关数据隐私要求。
应通过有效的部署前和部署后测试措施，进一步支持应对偏见的努力。
部署人工智能的企业还必须确保设有相应流程，以清楚了解所使用的数据集、算法功能和技术局限性，因为拟议立法很可能包含报告要求。
人工智能的最终展望
核心结论很简单：人工智能正被广泛且迅速地采用，并带来诸多益处。但其推广和发展速度如此之快，因此战略监督与治理对于其负责任的使用和风险缓解而言变得更加关键。
许多组织既未做好人工智能应用准备，又低估了相关风险，在缺乏适当防护措施的情况下急于部署该技术令人担忧。
幸运的是，通过建立健全的治理和监督结构，无论组织处于其人工智能历程的哪个阶段，都能够经受住这些技术浪潮的冲击。
除此之外，管理人工智能相关风险的长期解决方案将依赖于法律、监管和私营部门的知情利益相关方通力合作，共同推进立法、行为准则或指导框架，以兼顾该技术带来的机遇与风险。
在建立起安全的框架之后，组织便能够更加自信地部署人工智能技术，并充分利用其益处。
