昨天 CC 在我的 Indigo-Mind Agent loop 里工作时说有 prompt injection 企图 rm -rf 我的 Mac 个人文件夹，它成功阻止了，但还是不小心删了三个文件，吓死了！核查后应该是 Opus 4.8 的幻觉，估计 Context 太长还是什么其他原因，大家遇到过么？AI 的危险就是给它最高权限然后一次幻觉就 Game Over 🤪
发布于 日本
indigo