各国政府正竞相对人工智能进行监管。
透明度、安全性和公平性是拟议的人工智能监管所重点关注的关键领域。
在一系列应用场景中，包括大型语言模型和其他生成式技术在内的当前黑箱式方法，都难以符合监管要求
英国政府近期发布了一份白皮书，阐述了其人工智能监管方法。该白皮书的目的是“确保在使用人工智能技术时设有防护措施，同时允许创新持续进行，并使其益处惠及四方”。这一方法与欧盟的《人工智能法案》（Artificial Intelligence (AI) Act）的宗旨高度一致，正如此前一篇议程文章所述，同时也与白宫近期发布的公告相吻合。
大多数监管措施都在致力于解决人工智能方面类似的根本性问题。我们以英国为例，说明人工智能监管的主要关注领域。其中有五项关键原则：
1. 安全、保障与稳健性
2. 透明度与可解释性
3. 公平性
4. 问责与治理
5. 可争议性与救济
对于希望将人工智能用于最重要决策的企业而言，这套要求将越来越难以应对，尤其是在当前黑箱式人工智能方法盛行的情况下。即使是生成式人工智能（包括大型语言模型（LLM））这样最令人振奋的领域，距离满足这些要求也还有很长的路要走。例如，最近，ChatGPT就乳腺癌给出了错误建议。如果该建议被用于决策，可能会产生重大影响。因此，希望充分获得人工智能所能带来益处的企业，可能需要更广泛地审视这一问题。
什么是因果人工智能？
因果人工智能是更广泛的人工智能领域中一个新兴的分支。它与上述原则高度契合。因果人工智能的核心理念是学习数据中的因果关系，并利用这些关系为人工智能模型的输出提供依据。这与当前最先进的机器学习模型（如大型语言模型）所采用的方法截然不同：这些模型大量消耗数据，学习其中的规律，并预测下一个规律。
因果人工智能是更广泛的人工智能领域中一个新兴的分支。它与上述原则高度契合。因果人工智能的核心理念是学习数据中的因果关系，并利用这些关系为人工智能模型的输出提供依据。这与当前最先进的机器学习模型（如大型语言模型）所采用的方法截然不同：这些模型大量消耗数据，学习其中的规律，并预测下一个规律。
理解大型语言模型的一种方式是：它们提供的并非对问题的直接答案，而实际上是告诉你，“当人们提出这类问题时，其他人通常给出的答案大致是这样的。”这解释了为何大型语言模型在被问及事实性信息时，往往会出现“幻觉”（hallucinate）。大型语言模型和其他生成式模型在改进现有文本或生成艺术作品等场景中，能够显著提升生产力。但将这些工具用于企业内部的关键任务决策，则是一项重大挑战，并且很可能无法符合即将出台的监管要求。
相比之下，因果人工智能模型由于其构建方式，本质上具备可解释性。人们可以对其进行询问，以了解某一特定输出得出的原因，并且可以便捷地评估其公平性和偏见。此外，此类模型通常采用人工引导的构建方式，从而提供问责、治理、可争议性与救济机制。
因果人工智能能够帮助解决哪些问题？
因果人工智能工具集是企业可从中获得显著收益的工具。此外，因果人工智能近期还入选了Gartner® 2022 年新兴技术曲线（Gartner® Hype Cycle™ for Emerging Technologies, 2022）。
因果人工智能模型擅长回答的问题类型包括：
• 我是否应批准或拒绝这笔贷款申请？如果拒绝，原因是什么？
• 是什么导致我的客户流失？我可以采取哪些措施让他们留下？
• 是什么导致我的制造工厂出现此问题？我可以采取哪些措施防止未来再次出现问题？
以下是当前因果人工智能已投入应用的部分示例：
医疗保健
因果人工智能有助于识别各类疾病及治疗结果的成因与影响。例如，它可以模拟不同治疗干预措施对患者预后的影响，使医疗专业人员能够评估各种替代治疗方案的有效性，从而就患者护理做出知情决策。
金融
因果人工智能可助力金融行业的风险评估与决策。它能够分析经济因素、市场事件与投资结果之间的因果关系。例如，它可以深入剖析市场波动的成因，评估监管变化对金融市场的影响，并帮助识别导致欺诈活动的因素。
制造业
因果人工智能可用于优化制造流程并预防问题。它能够模拟工艺调整、设备升级或供应链变化的效果，从而找出最有效的干预措施，以提升产品质量、减少缺陷并提高生产效率。
客户体验
因果人工智能在理解客户行为和提升满意度方面可发挥关键作用。它能够识别客户流失的驱动因素，确定客户偏好背后的因果因素，并建议个性化干预措施，以改善客户体验。这有助于企业更有效地调整其产品、服务与营销策略，以满足客户需求。
因果人工智能为何会变得越来越重要？
希望在遵守必要法规的同时实现全面数据驱动的企业，需要运用现有的全部人工智能技术。生成式人工智能应是其中的组成部分，但它并未涵盖企业能够切实创造价值的全部应用场景。因果人工智能将使企业能够开始打造可用于其最关键任务的解决方案，包括对客户及更广泛社会具有重大影响的决策。
GARTNER是Gartner, Inc. 和/或其关联公司在美国及其他国家和地区的注册商标和服务标志，HYPE CYCLE是Gartner, Inc. 和/或其关联公司的注册商标，经许可在此使用。版权所有，保留所有权利。
