Stable Diffusion是一个生成式AI模型，简单点来说就是一个会画画的AI，当你输入一个关键词后，它就能创作出一个相关的图像。比如，让他画一个骑在马上的宇航员，它就能很快创作一张（看起来像是真的）相关照片。然而，有一些Stable Diffusion XL（以下简称SD-XL）似乎得了病，变得不那么“聪明”，还输出了一些莫名其妙的东西。当你要求SD-XL画一只狗，它输出了一只猫。
而更奇怪的是，当你让AI画一辆车，它则输出了一只牛。之所以会这样，是因为人们开发了一款让生成式AI“中毒”的软件。Nightshade由芝加哥大学的研究人员发布，是一种能够破坏生成式AI模型的工具。AI靠大量训练数据来更新迭代，变得更加聪明，而Nightshade所做的，就是在训练数据中加入一些肉眼难以看见的“毒素”，干扰AI的学习，从而让AI模型以混乱且不可预测的方式崩溃。
要给AI“下毒”的原因，与我们在AI时代不得不面对的种种问题相关。自生成式AI变得越来越聪明以来，制造AI的科技巨头们也面对着接连不断的诉讼和争议，艺术家们认为，他们的作品是受到版权和知识产权保护的，但OpenAI、Meta、Google 和 Stability AI却直接拿作品来进行数据训练，这是一种“窃取”行为。
Nightshade便是一个具有攻击性和操纵性的工具，需要的艺术家可以下载这个工具，对AI进行错误的训练并导致其故障，用以保护自己的作品。而为了不让AI“中毒”，开发AI科技巨头们也将不得不正视并解决一个问题：如何尊重艺术家的作品版权。