Nightshade是芝加哥大学开发的一款“数据投毒工具”，旨在干扰生成图像的AI程序。
艺术家可以部署该工具，试图阻止AI未经许可使用他们的作品。
在世界经济论坛的《2023年十大新兴技术》报告中，生成式AI位列全球第二大新兴技术。《2023年十大新兴技术》报告。
“Nightshade”一词让人联想到剧毒植物颠茄。而如今，它也是一款“数据投毒工具”的名称，帮助艺术家抵制人工智能（AI）未经授权使用其作品的行为。
Nightshade由芝加哥大学的计算机科学家开发，他们已就该项工作发表了一篇论文，《针对文本到图像生成模型的提示特定投毒攻击》。
什么是Nightshade？
Nightshade允许艺术家以人眼无法察觉的方式更改其作品中的像素。这会误导AI程序，使其认为图像所呈现的是一种内容，而观看者看到的却是另一种。
“狗变成了猫，汽车变成了奶牛，诸如此类，”《麻省理工学院科技评论》在其关于Nightshade的预览文章中解释道。
世界经济论坛如何为人工智能建立防护框架？
AI卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用所涉及的机遇、风险与权衡展开知情对话。
通过可信赖的交流空间和协作性倡议，该中心助力合作伙伴建立共同认知，并携手推进负责任的AI创新与应用。
这种方法被称为数据“投毒”。它将导致生成式AI工具生成的图像出现错乱，或与所搜索的内容不符。
AI工具从网上数十亿张图像中提取数据，因此Nightshade的使用越广泛，AI就可能越容易受到污染，《麻省理工学院科技评论》补充道。
为何开发Nightshade？
芝加哥大学计算机科学教授Ben Zhao（领导Nightshade项目）表示，AI公司在未经许可的情况下使用艺术家的作品训练其图像生成工具时，无视了艺术家的版权和知识产权。
他希望Nightshade能够遏制这种行为，并将一部分权力归还给艺术家。
艺术家、表演者和唱片公司已对包括ChatGPT开发者OpenAI在内的AI公司提起诉讼，理由是未经许可使用艺术家的素材训练其AI，科技新闻网站VentureBeat报道称。
Nightshade会对AI行业产生怎样的影响？
麻省理工学院文章的撰稿人表示，如果AI公司被迫更加尊重艺术家及其权利，例如同意支付版税，Nightshade可能会产生重要影响。
部分AI公司设有让艺术家选择退出的机制，允许其作品不被用于训练生成式AI。但艺术家认为这还远远不够，AI公司仍拥有过大的权力。
生成式AI是一项全球性的新兴技术
生成式AI是世界经济论坛《2023年十大新兴技术》报告所列的顶尖技术之一。
该报告重点介绍了预计未来三至五年将对社会产生积极影响的技术。生成式AI位列第二。
“尽管生成式AI目前主要专注于生成文本、计算机编程、图像和声音，但这项技术可应用于多种用途，包括药物设计、建筑和工程，”论坛表示。
不过，生成式AI应用应通过符合公认的专业和伦理标准，以建立公众信任。
