人工智能的进步已被用于创建复杂的文本生成图像系统。
这些AI文本生成图像工具已被数百万数字艺术家使用，并引发了关于虚假信息、有害内容、版权保护和偏见的担忧。
“必须相应地加以治理和监管，”论坛人工智能领域的首席平台策展人表示。
可用的人工智能（AI）文本生成图像工具数量正在迅速增加，为公众提供了一系列创建数字图像的新工具。
上个月，人工智能开发公司OpenAI取消了其候补名单，开放了DALL·E的使用。DALL·E是该组织开发的一款人工智能图像生成器。DALL·E的名称取自西班牙艺术家萨尔瓦多·达利和迪士尼皮克斯动画电影WALL-E。它可以根据用户输入系统的文本描述生成图像。
例如，正如OpenAI首席执行官山姆·奥尔特曼的推特账号所示，用户可以要求DALL·E生成一张“草坪上的大象茶会”或“一只在喜马拉雅山中冥想、寻求开悟的智慧猫”的图像。
DALL·E于4月首次向部分用户开放，包括一批平面设计师、作家和建筑师。6月，一张DALL·E生成的图像成为热门新闻，因为它被选作封面刊登于《Cosmopolitan》杂志封面——据《Cosmopolitan》称，这是首张由人工智能生成的杂志封面。
“虽然每次生成仅需20秒，但我们进行了数百次尝试，”数字艺术家Karen X Cheng说，她参与制作了《Cosmopolitan》封面，在Instagram上作了说明。“为获得完美图像，我们花了数小时反复生成和优化提示词。”
围绕文本生成图像人工智能工具的创新与担忧
DALL·E基于OpenAI的一款文本生成器GPT-3开发而成。该系统经过更新和训练，可以根据复杂的文本短语生成相应图像，参数规模为120亿。据OpenAI称，DALL·E目前已有超过150万活跃用户，每天生成超过200万张图像。
近几个月来，除DALL·E外，还有多款人工智能图像生成器向公众推出。例如，8月，人工智能研究机构Stability.ai发布了另一款文本生成图像的人工智能工具Stable Diffusion。谷歌也在开发两个名为Imagen和Parti的文本生成图像系统，其中Parti是Pathways Autoregressive Text-to-Image的缩写。
Midjourney是另一款文本生成图像的人工智能工具，允许用户通过热门群组即时通讯平台Discord输入提示词。8月，一幅在Midjourney上创作的图像在美国赢得一场艺术比赛后，该系统获得广泛关注。这一胜利在艺术界引发了激烈争论，争议焦点包括创作过程以及什么才算艺术。
目前，已有数千张人工智能生成的图像在某些图库网站上提供出售和下载。然而，人工智能艺术生成器的使用已引发广泛的版权担忧。
9月，全球顶尖的视觉媒体和图片供应公司之一Getty Images宣布，将不再在其各平台接受人工智能生成的图像。该公司在声明中表示，此项决定是出于版权责任和使用权方面的考虑。
“我们将继续支持使用各类工具（包括可能利用人工智能的工具）的创作者，依据我们的收录政策，增强其原创概念和视觉作品，”Getty Images的声明补充道。“我们随时准备与那些希望以尊重个人及知识产权的、对社会负责任的方式推动人工智能发展的人合作。”
此外，怀疑者对人工智能图像生成器被用于制作有害内容、传播虚假信息以及加剧负面偏见和刻板印象表示担忧。虽然一些文本生成图像系统设有某些防护措施，例如禁止生成名人或政治人物等公众人物的图像，但许多人呼吁建立更严格的治理体系来监管该行业。
“即使图像由人工智能生成，也不意味着它可以不受伦理原则约束，或无需遵守国家法律法规，例如隐私法、儿童保护法和版权法，”世界经济论坛人工智能和机器学习领域的首席平台策展人于贝尔·阿洛佩（Hubert Halopé）表示。
人工智能研究人员正在努力完善文本生成图像系统，并解决此类担忧。例如，OpenAI已推出DALL·E的第二代产品DALL·E 2，该产品旨在更好地识别对个人图像（如个人面部）的滥用，并在文本输入未指明种族或性别时应对偏见。此类输入可能包括“CEO”、“消防员”或“医生”。个人图像（如个人面部），并在文本输入未指明种族或性别时应对偏见。此类输入可能包括“CEO”、“消防员”或“医生”。
“根据我们的内部评估，应用该技术后，用户认为DALL·E图像包含不同背景人物的可能性高出12倍，”OpenAI在一份声明中表示。
文本生成视频的人工智能系统也在开发之中。虽然视频生成器的发展阶段早于文本生成图像系统，但近几个月已有多款视频生成器问世。
5月，中国清华大学与北京人工智能研究院的研究人员推出了一款名为CogVideo的人工智能视频生成器。
more recently，9月，Meta（旗下拥有Facebook、Instagram和WhatsApp）推出了Make-A-Video，这是一款可根据文本提示生成短视频片段的人工智能系统。“这是非常惊人的进步，”Meta首席执行官马克·扎克伯格在Facebook上表示。
“生成视频比生成照片困难得多，因为除了正确生成每个像素外，系统还必须预测这些像素随时间的变化，”扎克伯格补充道。
Meta发布该系统仅数周后，谷歌便推出了类似的文本生成视频人工智能系统Imagen Video。谷歌在一篇研究论文中表示，Imagen Video“不仅能够生成高保真视频，还具有高度的可控性和世界知识，包括能够以各种艺术风格生成多样化的视频和文字动画，并具备三维物体理解能力”。
