上周三晚上,我盯着一段 Agent 日志发呆:它明明「答对了」用户意图,却把测试库里的一张配置表写坏了。同事第一反应是「换个更大的模型试试」。我按下暂停——先把工具权限表摊开。结论先说:Agent 又翻车时,我先查权限与工具边界,不先换更大模型。更大模型可能让话术更顺,却很少自动学会「哪里不能写」。本文是对比结构:把「升模型」和「收紧边界」两条路径摆在一张桌上,看各自修什么、不修什么;最后两节给你今晚就能写的权限表和第一周重放步骤。

翻车现场:我先怀疑权限,不先怀疑模型
那次事故的输入并不刁钻:用户要「把预发环境的开关改成跟文档一致」。模型理解没错,工具调用也「成功」了——成功写到了错误的命名空间。日志里没有模型智商不足的痕迹,只有一条刺眼的事实:写文件工具的允许路径写成了整个仓库。我若当时升模型,最多换一种更礼貌的错误。真正缺的是 allowlist:哪些路径可写、哪些命令要 ask、哪些外网域名直接 deny。
我后来养成一个习惯:Agent 翻车后的前三十分钟,禁止讨论「换哪家更大模型」。桌上只放三样东西——工具列表、权限模式、那一次失败的工具入参。先回答:它本不该被允许做这件事吗?若答案是「本不该」,升模型就是在用钱掩盖门禁失效。若答案是「应该允许,但参数理解错了」,再考虑提示词或模型。这个顺序,比任何口号都管用。
公开文档其实一直在讲这件事。Anthropic 的 Tool use 文档把工具定义、入参 schema、错误回传讲得很清楚;Claude Code / Agent SDK 的 permissions 文档则把 allowed_toolsydisallowed_tools、权限模式和 canUseTool 回调拆开。Managed Agents 还有 always_allow / always_ask / auto 策略。这些不是「安全彩蛋」,是生产默认该打开的旋钮。我以前以为「先跑通再收权限」;现在改成「最小权限跑通,再按失败放宽」——放宽要有编号,放宽要可回滚。
场景感再补一句:你若在演示日给客户看 Agent「一句话改配置」,观众鼓掌的瞬间,正是权限表最容易被忘掉的瞬间。我现在演示前会强制过一遍 deny 样例:故意让它删测试文件、访问不在名单的域名,确认被拦。演示成功不等于门禁成功;被拦成功,才敢说边界还在。
对比:换更大模型 vs 收紧工具边界

把两条路写成可对照的决策,而不是情绪站队:
| dimensión (matem.) | 换更大模型 | 收紧工具边界 |
|---|---|---|
| 修的是什么 | 推理与指令遵循 | 可执行动作的范围 |
| 对「写错路径」 | 可能仍成功写错 | 路径不在 allow → 直接拒绝 |
| costes (fabricación, producción, etc.) | 按 token 长期上升 | 一次性设计 + 维护表 |
| 可回归性 | 弱(模型版本漂移) | 强(同入参应同拒绝) |
| 我的默认顺序 | 边界确认后再考虑 | 翻车后先做 30 分钟 |
对比不是说模型无用。指令遵循差、工具选择乱跳、长上下文丢约束时,升模型或换模型家族确实可能帮上忙。但那是在门禁已经挡住明显越权之后的优化。门禁没建好就升模型,像给没上锁的仓库换更聪明的仓库管理员——他仍然拿得到钥匙。我见过团队把「成功率」当成安全指标:评测集上答对率升高,却对副作用题(该不该执行)仍然盲目。公开评测讨论里也有人把「动作边界」单独拿出来测;工程上你不必等论文,先把自己的三条越权样例写进仓库。
另一条常见抬杠是:「边界太紧,Agent 啥也干不了。」对,所以要分层:只读工具宽一点,写盘与 shell 窄一点;开发沙箱宽一点,连生产凭证的会话极窄。收紧不等于一切 ask。always_ask 听起来安全,实操里人会疲劳点同意。更好的是:高频安全动作 allow,危险模式 deny,中间灰区 ask 或走 auto 策略——但文档也写明了,auto 不是人工检查点。关键不可逆动作,别把希望寄托在自动分类器上。
公开文档里的权限语言,我怎么落到表上

我读 Claude Agent SDK / Claude Code 的权限说明时,先抓三组词:
- allow / deny 规则:点名工具可自动放行;deny 可摘掉整个工具,或用
Bash(rm *)这种模式挡一类命令。注意:模式匹配有边界,文档提醒过/bin/rm一类变体可能逃逸——所以 deny 模式是网,不是神学。 - 权限模式:default、dontAsk、acceptEdits、plan、auto 等,决定「没匹配到规则时怎么办」。plan 模式适合「先看清再改」;acceptEdits 适合你信任的编辑会话,不适合握着生产密钥的会话。
- 运行时回调 / hooks::
canUseTool、PreToolUse 一类钩子,让你在调用前看入参再 allow/deny/ask。这是我补「表之外的特例」的地方,例如:允许写configs/,但文件名匹配*prod*仍拒绝。
Managed Agents 的 permission policies 把 server 侧工具和 MCP 工具的默认策略分开讲:只读可宽,写与外网要收。我把它翻译成团队内部的一页表,列是:工具名、默认策略、路径/域名范围、最近一次越权样例编号、负责人。表比 Wiki 散文好维护;PR 里改表,比改一篇「我们很重视安全」有用。
Anthropic cookbook 和 tool use 指南还提醒:工具 schema 写清楚、错误信息回传清楚,模型才知道怎么收手。权限与 schema 是一对:权限决定「能不能碰」,schema 决定「怎么碰得合法」。只收权限不修 schema,模型会在允许集合里用烂参数硬撞;只修 schema 不收权限,合法参数仍可能打到不该打的系统。两边一起收,才像工程。

今晚落地:三步写出权限表
别等下周架构会。今晚三十分钟,按这三步做完,明天你才有资格讨论模型档位。

- 列出工具三列:打开你现在的 Agent 配置(Claude Code settings、Agent SDK 选项、或自研网关的工具注册表)。建表
agent-permissions.md,列:工具、allow/deny/ask、范围说明。先填写盘、shell、外网三类;聊天类只读工具可以后补。 - 加一条拒绝样例钩子:对最高风险工具(写盘或 bash)加 PreToolUse /
canUseTool:当路径越出白名单或命令匹配危险模式,返回 deny,并在日志打上PERM_DENY与规则 id。没有钩子能力就先在网关层做同样的事。 - 准备三条失败对话重放:越权写盘、访问名单外域名、危险删除命令。固定原文,跑一遍,期望全是拒绝或 ask。把结果贴回表底部。三条里有一条放行,今晚不许升模型。
# agent-permissions.md 最小骨架 | tool | policy | scope | deny_example_id | | Write | ask | repo:/tmp/agent-sandbox/** | F-01 | | Bash | deny | rm -rf, mkfs, dd | F-02 | | WebFetch | allow | docs.internal.local only | F-03 |
骨架里的 deny_example_id 很关键:没有编号的规则,三个月后没人敢删。规则要能指向一次真实或演练失败。演练也算数——故意触发一次拒绝,留下日志,比空谈「我们有策略」扎实。
第一周验收:把拒绝变成可回归绿灯

今晚表写完只是起点。第一周我要求自己做完这些,才宣布「边界比模型优先」不是口号:
- 把三条重放做成脚本或手工 runbook,每次改权限表必跑;
- 权限表进 git,改动走 PR,禁止只在个人机器改;
- 给「临时放宽」设过期日,到期自动回到窄策略;
- 若必须升模型,附一张前后对比:同样三条越权样例,拒绝率不能下降;
- 读一遍当前使用的官方 permissions / tool use 文档变更日志,把新模式记进表注。
和同事同步时,我用一句话:「成功率上升但越权样例变绿,那是事故预告。」把这句话贴在权限表文件头,有点刺耳,但能挡住演示日的侥幸。若你维护的是给客户用的 Agent,把权限表摘要写进交付清单:客户有权知道哪些动作永远不会自动执行。
翻车排查:放行了、拦错了、日志看不清
- 越权样例被放行:先查是规则缺失、规则过宽,还是钩子没挂上;补丁只在三处选——改表、改钩子、改运行环境隔离。答完才允许在聊天里提模型名字。
- 日志答不出「当时允许了什么」:可观测性不够。先给每次工具调用补字段
tool_nameypolicy_idydecision,再谈智能。 - deny 模式被变体绕过:por ejemplo
/bin/rm逃过Bash(rm *)。把该类命令改到 PreToolUse 钩子里按解析后的入参判断,并把变体加进重放样例。 - 多人共用机器:应用层 allowlist 必要但不充分。叠一层系统隔离——独立工作目录、独立凭证、网络策略;逃逸出沙箱之后,再漂亮的工具名规则也救不了。
- 「这是内部工具,没有外人」:内部工具照样能删内部数据。按影响半径收:进生产数据、客户原文、支付相关配置的,一律按高风险 deny 或 ask。
- 产品经理或客户不买账:别讲「我们很重视安全」,现场演示同一句话在宽权限下改到哪、在窄权限下停在哪;交付说明书里把「自动执行 / 询问 / 拒绝」三类动作各举一例。
收尾再钉一次顺序:翻车 → 查权限与工具边界 → 重放越权样例 → 仍不够再谈模型。Anthropic 与 Claude Code 的公开文档已经把旋钮名字起好了,缺的是你把它写成表并每周跑红灯。更大模型可以买;可回归的拒绝,要靠你今晚开始写的那张表。


评论列表 (0条):
加载更多评论 Cargando...