
社区讨论 · 赛道
AI Agent 的安全,该管到执行路径了
刚看到 PromptSonar。它给 AI agent 和 MCP server 做执行路径分析。第一反应是,这东西摸到 agent 落地的痛处了。
以前在联影做AI影像那阵,内部常问“临床验证过了吗”。最怕模型漏掉小病灶,报告看着顺,医生却不敢用。Agent 也一样。用户不会天天读 prompt 和 MCP 配置,只会看它顺手删文件、改工单、调接口,然后问为什么。
PromptSonar 这类静态扫描器,价值在工具执行前把 prompt、agent instructions、MCP configs、memory、tools 一起看一遍,给出 allow、warn、block。零 LLM 调用、本地优先,这点关键。安全判断若还要走云端模型,延迟、隐私和可审计性都会变复杂。
执行路径能不能被产品化,才是商业价值。结果只给安全团队看,开发会骂。嵌进 CI 和 agent loop,把高风险动作变成一次确认,才算能落地。
方向是对的,关键看它会不会误拦到让人想关掉。
📌 本文编译自 Hacker News,原文 https://github.com/meghal86/promptsonar。版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿