[LG] Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models
http://t.cn/A6WXL257
研究了文本到图像生成模型的中毒攻击。研究发现，通过专门针对模型的回应能力进行中毒攻击，即使只有有限的训练数据，也能成功攻击生成模型。提出了一种名为Nightshade的优化的专门攻击方法，通过视觉上与良性图像相似的中毒样本来破坏模型的性能。Nightshade攻击不仅对目标概念产生影响，还会影响相关概念。多个攻击可以在一个提示中组合使用。实验证明，少量的Nightshade攻击就可以破坏文本到图像生成模型的通用特征，使其无法生成有意义的图像。最后，提出将Nightshade等工具用作内容创建者对抗忽略版权和不爬取指令的网络爬虫的最后防线，并讨论了对模型训练者和内容创建者的潜在影响。