新一代生成式AI模型即将发布，包括OpenAI的ChatGPT和Meta的Llama。
开发者正致力于优化和拓展其能力，包括减少偏见和错误、实现推理与规划，以及应对伦理挑战。
世界经济论坛的 Presidio AI Framework 旨在完善生成式AI治理，在AI引擎及其应用不断演进的同时，率先建立早期防护机制。
可以说，自OpenAI于2022年末发布ChatGPT以来，生成式AI已席卷全球，这一说法甚至显得过于轻描淡写。如今，该公司宣布推出最新升级版ChatGPT 5，竞争对手Meta也紧随其后，升级了其开源Llama AI引擎，据《金融时报》报道。
生成式AI持续颠覆并变革各行各业
AI方法论、高性能数据处理与“云”技术的融合，使长期以来被期待的事物成为现实，这一事物无论在科学界还是科幻作品中都曾被预想。不言而喻，它正在从根本上改变我们的工作与生活方式，而且丝毫没有停止的迹象。
Statista预计生成式AI市场将增长至1.3万亿美元，而2020年仅为140亿美元。2023年，该市场规模为9000亿美元。
正如世界经济论坛在其《2023年十大新兴技术》报告指出，过去一年左右占据头条的生成式AI模型主要集中于文本、编程、图像和声音领域。不过，随着技术的进步，其应用范围可能会逐步扩大。
ChatGPT、Llama、谷歌最新推出的AI产品，Gemini、以及微软的Copilot均为大语言模型（LLMs）。这些算法能够运用深度学习技术和海量数据集进行分析、归纳、预测并生成新内容。大语言模型通常使用约十亿个或更多变量进行训练，但对于训练一个大语言模型需要多少数据，目前尚无定论。
大语言模型迎来升级
尽管生成式AI具有诸多优势——能够简化、加速并自动化此前需要人工完成的工作——其弱点也日益显现。据TechTarget指出，AI的应用不仅存在伦理和安全方面的担忧，还存在偏见问题（可能难以识别和消除）以及幻觉问题（即AI引擎给出错误答案）。
华盛顿邮报去年的一项调查显示，一款AI图像生成器默认采用过时的西方刻板印象，此类情况出现在要求其生成世界各地有魅力的人物或房屋图像时。
持续训练和不断演进的大语言模型算法，是解决上述问题、推进生成式AI应用的关键。
与此同时，减少偏见和幻觉，ChatGPT 5和Llama 3的开发者的目标，是使这些引擎超越简单的聊天机器人。为拓展应用范围以处理更复杂的任务，使大语言模型具备推理、规划和保留信息的能力将至关重要。《金融时报》指出，它们还必须学会评估自身行为的影响。
两者共同的另一发展方向是Llama与ChatGPT实现多模态，使AI不仅能够处理文本，还能处理语音、图像、代码和视频。此外，下一代产品有望实现更高程度的个性化。
世界经济论坛如何为人工智能构建防护机制？
AI卓越中心汇聚各行业领袖，以理解人工智能的快速演进及其对经济体和社会的影响。它支持就人工智能应用所涉及的机遇、风险及权衡进行知情对话。
通过可信空间和合作倡议，该中心助力合作伙伴建立共同认知，并携手推进负责任的人工智能创新与应用方式。
解决生成式AI中的伦理问题
据悉，GPT-5正在接受严格的测试和训练，并高度重视安全协议，以应对伦理问题。然而，在试图消除偏见和错误的过程中，生成式AI公司可能会无意中产生相反的结果，谷歌就为此付出了代价。
该产品最初推出时，其Gemini平台的图像生成模块会将历史上以白人为主的群体（如美国开国元勋或1930年代的德国士兵）生成为有色人种形象，或者在被要求生成某知名联赛的图像时，生成女性冰球运动员，而该联赛的参赛者仅限男性。在试图消除偏见的过程中，谷歌无意间对其AI引擎进行了过度修正。
然而，随着生成式AI引擎不断演进，此类微调将始终是一项常态。随着AI应用日益广泛，各机构正在打造自有大语言模型，或为自身目的调整主流平台，因此，健全的治理框架需求仍是一个热点议题。例如，世界经济论坛提出了Presidio AI Framework，该框架以早期防护机制促进安全、伦理与创新，以指导开发工作。
