第5章 Computer Use

让 Claude 拥有「眼睛」和「手」——看图、操作浏览器、运行 GUI

5.1 用大白话理解 Computer Use

之前的 Claude 只能读文本和写文本。Computer Use 给它加上了:

👁️

视觉能力

看懂截图、图表、照片

🖱️

操作能力

点击、输入、滚动网页

🖥️

桌面交互

操作 GUI 应用程序

🌐

浏览器控制

自动浏览、填表、截图

5.2 在 Claude Code CLI 中的视觉能力

Claude Code CLI 本身就能「看懂」图片。当你在对话中提供截图路径时:

# 直接让 Claude 看截图
"我运行时遇到这个错误:/tmp/error-screenshot.png
请帮我分析一下可能是什么原因"

Claude Code 会使用 Read 工具读取图片文件,理解图片内容

练习 1:用视觉能力调试 UI

# 假设你的前端应用跑在浏览器里,你截了一个图
"这是我们的用户注册页面截图:/tmp/register-page.png
按钮文字被截断了,请帮我分析可能的 CSS 问题"

# Claude 会看图片,分析布局,然后修改对应的 CSS 文件

5.3 通过 MCP 实现浏览器自动化

真正的 Computer Use 威力来自 Puppeteer MCP Server。配置它之后,Claude 可以直接控制浏览器:

# settings.json
{
  "mcpServers": {
    "puppeteer": {
      "command": "npx",
      "args": ["@anthropic-ai/mcp-server-puppeteer"]
    }
  }
}

配置后,你可以这样和 Claude 对话:

"帮我打开 https://example.com/login,截个图看看"
"在这个网页上找到所有的  链接,列出来"
"帮我填这个表单:用户名 test123,邮箱 test@example.com"
"点击页面上的'提交'按钮,然后截图看返回结果"
安全提醒:浏览器自动化有风险——Claude 可能会点击不该点的按钮或提交不该提交的表单。建议只在测试环境使用,或者开启「操作前确认」。

5.4 实践:自动化测试网页功能

练习 2:自动测试登录流程

配置好 Puppeteer MCP 后:

"请帮我自动测试我们的登录页面:

1. 打开 http://localhost:3000/login
2. 截图看一下初始状态
3. 什么都不填直接点登录,截图看错误提示
4. 填入错误的密码,截图看错误提示
5. 填入正确的用户名和密码,点登录
6. 截图看是否跳转到了首页

最后告诉我整个流程是否正常"

Claude 会一步步操作浏览器,像 QA 工程师一样测试你的页面。

5.5 Computer Use 的典型场景

场景具体应用
UI 调试看截图分析 CSS/布局问题
自动化测试自动浏览网页、填写表单、验证结果
数据采集从网页提取结构化信息
文档理解看懂架构图、流程图、手绘原型
竞品分析浏览竞品网站,分析 UI/UX
无障碍检查检查网页是否符合 WCAG 可访问性标准

5.6 实践:从设计稿到代码

练习 3:设计稿→代码

假设设计师给了你一张页面截图:

"这是我们要做的用户设置页面设计稿:/tmp/settings-design.png

请帮我:
1. 分析这个设计稿的布局结构
2. 用 HTML + CSS 实现这个页面
3. 确保使用项目中已有的颜色变量和组件"

Claude 看了设计稿后,直接写出对应的代码。

5.7 Computer Use 的局限性

5.8 Computer Use + MCP + 子代理的组合威力

最强大的场景是把这些技术组合起来:

# 综合工作流示例:
"我们刚部署了新版本到 staging 环境,请帮我做一次全面的验证:

1. [Puppeteer MCP] 打开 staging 网站,浏览首页、登录页、用户中心
2. [视觉] 检查每个页面的 UI 是否正常(与设计稿对比)
3. [MCP GitHub] 如果有 UI 异常,自动创建 GitHub Issue 并附上截图
4. [子代理] 同时检查服务器日志和错误监控
5. [/loop] 之后每 30 分钟帮我自动重新检查一次"
这才是 Computer Use 的真正价值:不是单独使用,而是和其他高级功能组合,实现端到端的自动化。

5.9 常见问题

Q: Computer Use 需要特殊的硬件吗?

不需要。图片理解通过 API 完成。浏览器自动化通过 MCP 的 Puppeteer/Playwright 实现。

Q: Claude 能操作桌面应用吗?

理论上可以(通过截图+点击坐标),但当前最成熟的应用场景是浏览器自动化