攻击者会系统性地向 LLM 发起提问,针对目标品牌摸索出模型最容易生成哪些虚假域名。
这个过程叫做对抗性幻觉探测,攻击者会用贴近真实使用场景的提示词诱导模型输出,统计和归纳幻觉出现的规律,整理出一份高价值幻影域名清单。
拿到清单之后,攻击者会优先抢注其中利用价值最高的域名。普通顶级域名的注册成本极低,操作几乎是瞬时完成的。观测数据显示,这些域名从注册到部署恶意内容只需要几个小时。在 Montana Empire 案例里,攻击者甚至在域名注册前就做好了服务端的钓鱼套件,把零信誉绕过的策略优化到了极致。
攻击者不需要发钓鱼邮件、挂恶意广告,甚至不用做任何主动推广。只要有用户或者 AI 智能体提出对应的问题,LLM 自己就会把攻击者的域名当作权威地址推荐出去。
攻击的分发载体,就是用户已经安装在工作流里、完全信任的 AI 助手。比如员工向 AI 要第三方服务的登录地址,AI 返回了一个钓鱼域名,整个过程没有任何传统的钓鱼诱饵,受害者只是遵循了企业认可的 AI 工具给出的建议,就落入了陷阱。
#ai创造营#
发布了头条文章:《AI 凭空编出的假域名,正在成为软件供应链的新陷阱》 http://t.cn/AXoGHNuJ
发布于 广东
