进阶 📋 6 个步骤 第 537 / 538 篇

用 Auten MCP 让智能体直接操作电脑/手机界面

Auten 是一个 Computer-Use 型 MCP Server(2026-10-07 发布),给 Claude Code、Codex、Cursor 等装上「手和眼」:它读无障碍树而非坐标,让智能体在 Mac、Windows、Linux 桌面与 Android 手机上点按、输入、读屏,甚至把一次任务录成可重放技能。本教程手把手接入并讲清安全红线。

2026.10.16· 约 14 分钟阅读· 约 1520 字· 🖥️ Auten MCP / 🤖 Claude Code

大多数 AI 智能体停在「给段代码让你自己跑」。Auten 想补上最后一块:让 Agent 真的去点你屏幕上的按钮——在没有 API 的桌面软件、手机 App 里也能干活。它和老式 RPA 不同:不靠坐标或选择器,而是读系统的无障碍树(accessibility tree),把界面元素变成带编号的按钮和输入框,Agent 按标签找、按编号点。本教程带你装好、接进 Claude Code,并学会把任务录成可重放技能。

💡 适用场景:没有开放 API 的桌面软件(财务/ERP/旧系统)、手机上的重复操作(导出报表、批量填表)、跨应用的数据搬运。它的定位是「补齐无 API 的最后一段」,不是替代你已有的 API 集成。

Step 1:先理解它怎么「看」屏幕

1

Auten 不含模型、也不用你的 AI Key。你的 Agent 还是用原来那套模型做决策,Auten 只在本地负责「看」和「动」:

它和裸鼠标键盘桥的区别:
· 读 UI 而非像素:用无障碍树,给 Agent 一份带编号的真实元素清单
  → list_elements 拿到元素列表,click_at(3) 点第 3 个
· 无障碍信息缺失时,才用 OCR + 真实截图兜底
· 学会一次任务后,可存成 skill 重放,之后零 token 消耗
· 密码等密钥走本地路径填入,Agent 永远看不到明文

它真的在动你的真机:Auten 能点、能打字、能读屏。给它「打开网银导出流水」这种指令时,它确实会去操作。务必在可信环境、对结果做人工确认,别让它「盲飞」。

Step 2:一行安装本地 Runner

2

Runner 是跑在你机器上的小块程序(手和眼),不需要管理员权限。按系统选一条:

# macOS / Linux(无需 sudo 即可装)
curl -fsSL https://auten.ai/install | bash

# Windows(PowerShell)
irm https://auten.ai/install.ps1 | iex

# 首次运行会让你连一个免费 Key(每月 30 分钟额度,无需绑卡)
🔑 免费额度说明:Auten 提供每月 30 分钟的免费使用额度,首次运行连 Key 即可,不要求信用卡。超出后需按官方计费,额度以 auten.ai 当前政策为准。

Step 3:接进 Claude Code(其他客户端同理)

3

装好 Runner 后,把 Auten 注册成 MCP Server。Claude Code 可以它自己连,也可以手动加:

# 方式一:让 Auten 自己连(Claude Code 下)
auten connect

# 方式二:手动加(推荐,明确可控)
claude mcp add -s user auten -- auten mcp-bridge

# 用 npx 而非本地安装时:
claude mcp add auten -- npx -y @autenai/mcp

# 验证:
claude mcp list   # 应看到 auten,transport 为 stdio

Cursor / Codex / VS Code / Gemini 等客户端用同一 stdio 命令,只是写进各自的配置文件:

{
  "mcpServers": {
    "auten": {
      "command": "npx",
      "args": ["-y", "@autenai/mcp"]
    }
  }
}
# 已装本地 Runner 时,command 改为 "auten"、args 为 ["mcp-bridge"]

找不到 auten 命令?用完整路径(通常在 ~/.local/bin/auten)。装完若客户端仍报找不到,重启客户端让它重新读取 MCP 配置。

Step 4:用大白话下指令,让它自己导航

4

不需要写坐标、不需要选择器。给目标,Agent 自己读无障碍树去完成。这是它最惊艳的地方:

# 在 Claude Code / Cursor 会话里直接说:
"打开系统设置,把夜览设为日落到日出自动开启"
"打开 Figma,把 Hero 画板导出成 PNG 到我的桌面"
"遍历邮箱里未读发票,填进记账软件"

# 手机(Android,beta,需 USB 连接):
"在我手机上打开 Instagram,用这段文案回复最新一条私信"
🧭 它靠标签识别元素:目标写得越像「人话」越好("打开 X、做 Y")。避免在指令里写死窗口坐标——那正是 Auten 要替你摆脱的脆弱写法。

Step 5:把任务录成技能,零 token 重放

5

重复性的活,跑一次就录下来。下次直接重放,秒级完成、不再消耗模型 token;界面变了它还能自愈(只修坏掉的那一步)。

# 任务跑完后,让它存成技能:
"刚才那次导出报表做得好,存成一个叫 export-report 的技能"

# 之后只说:
"运行 export-report"
# → Auten 确定性重放,几秒完成,不调模型

自愈不是万能:自愈只修「布局小变动」导致的单步失败。如果流程本身改了(换了软件、换了账号体系),还是要重新录一次。别把关键业务完全押在旧技能上不复查。

Step 6:密钥本地化 + 盲执行红线

6

最后一道安全闸。Auten 的设计已经把密钥留在本地,但你仍要守住使用纪律。

# 1) 密码/密钥用本地路径填入,Agent 看不到明文
#    用 fill_login 这类能力,值存在你机器上,只把"已填入"反馈给模型

# 2) 高风险动作后人工确认结果,不要一次性授权一长串操作
#    建议:每完成一个关键步骤就检查一次屏幕,而非放它连跑

# 3) 限定作用范围:只在可信机器、可信账号下启用
#    手机操作走 USB 且为 beta,先在测试机验证再上真机
🛡️ 三句话红线:① 密钥永不明文进模型;② 重要步骤后人工确认;③ 只在可信环境启用、先小范围试跑再放大。Auten 是「手」,你才是「脑」和「责任人」。

常见问题

现象处理
claude mcp list 看不到 autenRunner 没装好或路径不对。用 which auten 找路径,把配置里的 command 换成完整路径后重启客户端。
Agent 点了错误的按钮多为无障碍树信息缺失。让它先 list_elements 自检元素清单,或换更具体的自然语言目标;OCR 兜底场景准确率低于无障碍树。
录好的技能某次突然失败界面布局变了触发自愈;若自愈失败,手动重录该技能。不要假设旧技能永远有效。
手机端连不上手机为 beta,需 USB 连接且开启对应调试。先在测试机验证流程,再用于真机。
← 返回教程中心