前段时间发生的字节跳动「大模型」被实习生“投毒”事件，我就好奇大模型咋还有安全问题呢？

直到我发现这个英伟达（NVIDIA）开源的 LLMs 漏洞扫描工具：garak，原来 LLM 还会生成有毒内容！

该项目是 NVIDIA 开源的用于扫描 LLMs 漏洞的工具，支持检测 LLM 可能存在的安全问题和不良行为，包括幻觉、数据泄漏、提示注入、错误信息、有毒内容生成和越狱等。#AI创造营#

项目详情：hellogithub.com/repository/1ae6b34a67f34f06aced47651b8f90b4