Simon的白日梦
26-05-20 15:26 微博认证:科技博主

AI 越来越快,人类也越来越懒,给 Agent 的权限越来越多,以后真的要 Agent 再加一个 Agent 做看门。🤣

Pipelock:给 AI agent 加一道出网防火墙,专门盯 MCP、密钥外泄和 prompt injection

Pipelock 解决的是 agent 安全里一个很现实的问题:coding agent 往往同时拥有 shell、网络访问、MCP 工具,以及环境变量里的 API key。只要一次恶意网页、工具响应或 prompt injection,就可能把密钥带出机器。

它的做法是在 agent 和外部世界之间加一个 egress proxy / MCP proxy:所有 HTTP、WebSocket、MCP 流量都经过它扫描。出站侧检查密钥、token、助记词、金融标识、SSRF、路径穿越、域名风险;入站侧扫描 prompt injection、工具描述污染、会话中工具变更等。它还支持 process sandbox,把 agent 限制在受控网络和文件系统范围里。

比较有意思的是 action receipts:Pipelock 会由 agent 进程外的 mediator 签名记录“agent 做过什么”。这比让 agent 自己报告“我没干坏事”可信得多,因为证据来自信任边界之外。

它支持 Claude Code、Cursor、VS Code、JetBrains、OpenAI Agents SDK、Google ADK、AutoGen、CrewAI、LangGraph 等工作流;也可以直接包住任意 MCP server。

这类工具会越来越重要。agent 的能力越强,问题越不只是“它能不能完成任务”,而是“它完成任务时有没有越界”。以前安全边界在浏览器、终端、API gateway;现在边界要前移到 agent 的每一次工具调用。

X:http://t.cn/AXiikawn(原帖)
项目:http://t.cn/AXiikawE(GitHub)
#HOW I AI# #ai生活指南# #AI安全#

发布于 广西