跳至内容

软件技术分享

关于电子游戏的方方面面

  • 游戏评测
  • 游戏设计
  • 游戏产业
  • 行业杂谈
  • 开发者采访
  • 专题学习
  • 工具指南
  • 发布游戏
  • AI
  • 关于妙游社

Claude 工具调用/自动化:什么时候不该开

作者 2026年10月29日 12:31

金融、医疗、法律与无人值守场景勿开宽权自动化。先窄连接器与手动批准;computer use 最后才考虑,演示权限用完收回。

要点

  • Cowork/工具风险框架:影响几乎取决于 可读范围 与 可写动作;写工具(发消息、删文件、点击屏幕、下单)风险更高,高利害场景要人盯(Use Claude Cowork safely,核验日 2026-10-29)。
  • Computer use(让 Claude 直接操作屏幕)没有介于模型与桌面应用之间的沙箱;会截屏理解界面;投资/加密货币类应用默认受限,但仍可能越界(Let Claude use your computer in Cowork)。
  • 官方强烈不建议用 computer use 处理:金融账户与投资、法律文书、医疗健康、含他人个人信息的应用(同上|What to avoid)。
  • 审批模式:敏感文件/账户/站点、第一次用的工具或站点、发消息/下单等难撤销动作 → 切到 Manually approve;“Skip all approvals”下安全筛查不拦动作(Cowork safely|Match your oversight)。
  • 计划任务(scheduled):无人值守时不要安排访问敏感文件、代发消息、购物等;先从摘要类低风险任务练(同上|scheduled tasks)。
  • 工具选择顺序(Cowork):有连接器先用连接器 → 其次内置/Chrome 浏览器 → 最后才屏幕点击;屏幕路径更慢、更易错(Computer use 文)。
  • 证据强度:何时不该开的清单来自 Anthropic Help Center 一手;具体开关路径随“Chat/Cowork 合一”改版,以当前 Settings 界面为准(待核)。

正文

场景

演示视频里,Claude 自己打开表格、回邮件、在浏览器里填表,看起来像多雇了一个人不睡觉。你把同样开关开到“自动批准+computer use+宽文件夹权限”,下一次它就可能在你去倒水时点到不该点的按钮,或把邮件里的注入指令当成你的话。工具调用首先要判断这会儿该不该把方向盘递出去,其次才谈熟不熟练。

下文按官方安全文整理一张“不该开/该降权”清单,并给可抄的配置纪律。覆盖 Claude Desktop 上的 Cowork/computer use/连接器与审批;API Computer Use 工具仅作旁证。

可跟做步骤/可抄工作流

证据强度:高(Cowork safely+Computer use Help Center,核验日 2026-10-29);设置菜单文案标待核。

  1. 先问两个问题再碰开关

– 这次任务失败或被劫持,最坏会丢什么?(钱、数据、声誉、合规)

– Claude 为完成任务,最少需要读哪些文件夹/站点/邮箱?

答不清就先用普通聊天+你自己复制粘贴,不要开自动化。

  1. 默认降权表(可当检查清单)
场景建议依据口径
银行/证券/加密/支付不要开 computer use;相关 App 进 blocklistWhat to avoid;默认封锁投资类
医疗/健康门户、他人隐私不要开;关掉可见窗口官方强烈不建议
法律合同定稿、对外发函人工批准每步;或不用自动发送类连接器难撤销+你承担责任
第一次用的站点/插件/MCPManually approve;不装来路不明扩展新工具+注入面
计划任务/你不在场只做摘要汇编类;禁代发、禁购物、禁宽文件权限scheduled tasks 专节
宽目录=整盘文档改成专用工作文件夹Be selective about file access
已有 Gmail/Drive/Slack 连接器优先连接器,别让它“点屏幕操作同一应用”工具优先级
  1. 必须自动化时的“窄开”顺序

1) 只开完成任务所需的一个连接器;

2) 文件夹只挂专用目录;

3) 审批选 Manually approve 或至少保留 Automatically approve(仍有动作筛查),避免 Skip all approvals;

4) computer use 仅在无连接器、且任务低利害时再开;

5) 敏感 App 预先加入 blocklist。

  1. 可抄开场约束(发给 Cowork 的任务说明)
权限边界:
- 只读:【文件夹或站点】
- 允许写/发送:无(或列出唯一允许的目标)
- 若任务需要扩大权限:先停下来问我
- 遇到登录墙、支付页、验证码、转账确认:一律交给我
不要:删除文件、修改权限、安装软件、向通讯录群发
  1. 演示 ≠ 量产

演示可以临时扩大权限给你看“能力边界”;量产配置应收回:关 computer use、收回整盘目录、计划任务暂停不用的条目。官方强调:你仍对 Claude 代行的发布、购买、数据改动负责(Your responsibility)。

  1. API/自建代理旁证(开发向)

Anthropic 平台文档建议:独立低权限虚拟机、避免暴露账号密码、网络允许名单、对有真实世界后果的操作要求人类确认;提示注入防护分类器可关但不适合无人值守(Computer use tool)。消费端用户把这句话翻译成:别在日常电脑上用“全自动+宽权限”跑高利害流程。

真实用户诀窍/反例

  • 诀窍:连接器能做的,就不要 computer use。 官方自己写:Slack 走连接器只要数秒,走屏幕又慢又易错。
  • 诀窍:盯模式,不盯每一条底层命令。 安全文建议看“是否访问了你没提的文件/站点、范围是否爬升”;不对就停任务。
  • 诀窍:一 App 授权可能牵出另一 App。 邮件里点开链接可能弹出浏览器——即使你没单独批准浏览器可见性。
  • 反例:开着 Skip all approvals 去清理收件箱。 注入邮件是经典攻击面。
  • 反例:把“会拒绝转账”的训练护栏当成保险。 官方写明护栏不是绝对,不能替代 blocklist。
  • 反例:演示用的全盘权限过夜不收。 次日计划任务仍可能在你离席时跑。

适用边界

  • 本稿覆盖:何时不该启用/应降权 Claude 的工具调用、computer use、宽审批与计划任务。不提供绕过官方安全控制的方法,也不保证某一地区功能开关永久一致。
  • Team/Enterprise 的 computer use 可用性、组织级关闭网页搜索等,以管理员设置与 Help Center 当前说明为准。
  • “Chat 与 Cowork 合一”改版后,部分菜单路径可能不同——文中路径标待核,以你客户端 Settings 为准。

【来源与编译】

  • Use Claude Cowork safely|Claude Help Center|https://support.claude.com/en/articles/13364135-use-claude-cowork-safely|核验日 2026-10-29(读写工具、审批模式、计划任务、浏览器、MCP、责任)
  • Let Claude use your computer in Cowork|https://support.claude.com/en/articles/14128542-let-claude-use-your-computer-in-cowork|核验日 2026-10-29(无沙箱、截屏、禁止场景、工具优先级、blocklist)
  • Computer use tool|Anthropic Docs|https://platform.claude.com/docs/en/agents-and-tools/tool-use/computer-use-tool|核验日 2026-10-29(API 安全建议;旁证)
  • 本文说明:编译“何时不该开/如何降权”清单;区分演示与量产;未提供绕过安全控制的步骤;UI 路径标待核。

相关阅读

  • Cursor/Codex:先读再改——给 Agent 的开工清单
  • Claude:从 ChatGPT 迁过来的常用对照表
  • Codex:终端命令审批与危险操作怎么设
  • Grok:自定义指令/人设怎么写才不翻车
  • 用 Claude/ChatGPT 做游戏本地化:先冻术语表再批量译校
  • Grok 看图提问入门:上传、怎么问、适用边界

浏览更多「AI」文章 ›

  • 要点
  • 正文
  • 场景
  • 可跟做步骤/可抄工作流
  • 真实用户诀窍/反例
  • 适用边界
  • 【来源与编译】

文章导航

上一篇Grok 看图提问入门:上传、怎么问、适用边界
下一篇用 Claude/ChatGPT 做游戏本地化:先冻术语表再批量译校

相关文章

Cursor/Codex:先读再改——给 Agent 的开工清单 Cursor/Codex:先读再改——给 Agent 的开工清单 Claude:从 ChatGPT 迁过来的常用对照表 Claude:从 ChatGPT 迁过来的常用对照表 Codex:终端命令审批与危险操作怎么设 Codex:终端命令审批与危险操作怎么设

评测设计产业杂谈

软件技术分享

关于电子游戏的方方面面

栏目

  • 游戏评测
  • 游戏设计
  • 游戏产业
  • 行业杂谈
  • 开发者采访
  • 专题学习
  • 工具指南
  • 发布游戏
  • AI
  • 关于妙游社

本站

  • 首页
  • 隐私政策
  • 联系我们
  • 关于妙游社
  • 工具指南专题
  • 文章 RSS

关注公众号

沙漏社公众号二维码

© 2026 软件技术分享

沪ICP备19032461号-1

目录

×
  • 要点
  • 正文
    • 场景
    • 可跟做步骤/可抄工作流
    • 真实用户诀窍/反例
    • 适用边界
  • 【来源与编译】
→ 目录