生成式人工智能（AI）工具已经能够根据提示语即刻生成图片，作为产品使用起来非常方便，但可能给职业艺术家带来麻烦。人们会考虑用AI快速生成图像，来取代真正的人类艺术家，有些人甚至明目张胆地使用AI模仿特定的艺术家。然而，艺术家们还有一个小手段可以重夺对作品的控制权。这不仅是自卫，也是小小的反击。
美国芝加哥大学（University of Chicago）的研究团队和艺术家合作开发了两款可免费使用的电脑程序：Glaze和Nightshade。它们都采用在数字图像上添加算法伪装的方法，通过“上釉”（glazed）或“涂暗”（shaded），扰乱AI对图片的解读，让图片不能按照之前的方法被用于AI训练，同时几乎不影响人眼看到的效果。Nightshade实际上还可以“毒害”模型的训练。
目前，著作权法是否保护创造性作品不被用于AI训练，仍是一个尚未解决的巨大法律灰色地带，这个问题下有多起诉讼还在进行，包括艺术家对AI图像生成工具公司的诉讼，甚至还有《纽约时报》（The New York Times）对OpenAI提起的诉讼——因为这个科技公司使用了《纽约时报》的文章来训练自家的语言模型。迄今为止，AI公司们声称将数字内容纳入训练数据库属于保护条款里的合理使用。
在这些诉讼结果出来之前，艺术家如果想在网上宣传自己的作品，就很难避免喂养AI这个“恶魔”。Glaze、Nightshade还有类似的其他工具（比如Mist），都不是长期的解决办法，而是在此期间给艺术家的一点慰藉。
在生成式AI之前，人脸识别AI已经先行问世，为对抗过滤奠定了技术基础，它会调整照片以防防止识别。
Glaze和Nightshade的开发者就在之前发布过一个名叫Fawkes的类似工具，以《V字仇杀队》（V for Vendetta）中的盖伊·福克斯面具（Guy Fawkes mask）命名，用于掩盖面部。在2023年，研究团队注意到一些艺术家希望Fawkes能让他们的作品在AI面前“隐身”，Fawkes本来做不到这一点，但这促使了计算机科学家着手开发帮助艺术家伪装作品的程序。
Glaze和Nightshade的功能有些许不同，但是它们也有很多共同点。两个程序都应用了过滤器，以微妙的方式改变数字图像中的像素，“迷惑”机器学习模型，但对人眼几乎不可见。这有点类似人眼的视错觉。人类的感知并不完美，我们的大脑对所见事物的解读存在固有的怪癖。比如，我们总是在无生命的物体上看见人脸，像是在插座、车头、纸箱上。
计算机看待世界的方法和人类不同，但它们也有自己的感知弱点。Glaze和Nightshade的开发者构建了一个算法，找出这些弱点以及利用它们的最佳方法，然后相应地对图片进行修改。这是一个精妙的平衡：既要困住AI模型，又要让人眼察觉不到太多变化。开发者通过反复试验算是找到了这个平衡点。
训练一个图像生成式AI需要大量带有描述性文本的图像，AI模型学习如何将特定的词语和视觉特征（如形状、颜色）联系起来，但这发生在计算机内，我们无法感知到。在计算机内部，所有这些联系基本上都储存在多维映射中，类似的概念和特征会被聚类在一起。在Glaze和Nightshade底层的算法中，计算机科学家策略性地强行将不相关的概念联系在一起，使多维映射上的点越来越靠近。
芝加哥大学的赵燕斌（Ben Y. Zhao）是这些程序的主要研究者，他表示开发这些算法类似于求解两组线性方程。
首先发布的是Glaze，它是进入这个领域的初步尝试。Glaze专注于伪装艺术家的风格。著名的艺术家经常遇见这种情况——有人利用某位艺术家的作品来训练开源的生成式AI，制造出一个能模仿该艺术家风格的工具。这会让该艺术家有偿创作的机会减少，甚至还可能威胁到创作者的名声。
人们可能用某个画风模仿AI工具创作出具有冒犯性的图片，让相应的艺术家蒙受不白之冤。生成式AI带来了和深度伪造（deepfake）类似的噩梦。
因此，赵燕斌和他的同事开发了Glaze，它能诱使AI模型识别到错误的风格。例如，如果你的艺术作品风格是可爱、活泼、卡通的，用Glaze处理后，AI模型可能反倒会看到……