让 Claude 拥有「眼睛」和「手」——看图、操作浏览器、运行 GUI
之前的 Claude 只能读文本和写文本。Computer Use 给它加上了:
看懂截图、图表、照片
点击、输入、滚动网页
操作 GUI 应用程序
自动浏览、填表、截图
Claude Code CLI 本身就能「看懂」图片。当你在对话中提供截图路径时:
# 直接让 Claude 看截图
"我运行时遇到这个错误:/tmp/error-screenshot.png
请帮我分析一下可能是什么原因"
Claude Code 会使用 Read 工具读取图片文件,理解图片内容:
# 假设你的前端应用跑在浏览器里,你截了一个图
"这是我们的用户注册页面截图:/tmp/register-page.png
按钮文字被截断了,请帮我分析可能的 CSS 问题"
# Claude 会看图片,分析布局,然后修改对应的 CSS 文件
真正的 Computer Use 威力来自 Puppeteer MCP Server。配置它之后,Claude 可以直接控制浏览器:
# settings.json
{
"mcpServers": {
"puppeteer": {
"command": "npx",
"args": ["@anthropic-ai/mcp-server-puppeteer"]
}
}
}
配置后,你可以这样和 Claude 对话:
"帮我打开 https://example.com/login,截个图看看"
"在这个网页上找到所有的 链接,列出来"
"帮我填这个表单:用户名 test123,邮箱 test@example.com"
"点击页面上的'提交'按钮,然后截图看返回结果"
配置好 Puppeteer MCP 后:
"请帮我自动测试我们的登录页面:
1. 打开 http://localhost:3000/login
2. 截图看一下初始状态
3. 什么都不填直接点登录,截图看错误提示
4. 填入错误的密码,截图看错误提示
5. 填入正确的用户名和密码,点登录
6. 截图看是否跳转到了首页
最后告诉我整个流程是否正常"
Claude 会一步步操作浏览器,像 QA 工程师一样测试你的页面。
| 场景 | 具体应用 |
|---|---|
| UI 调试 | 看截图分析 CSS/布局问题 |
| 自动化测试 | 自动浏览网页、填写表单、验证结果 |
| 数据采集 | 从网页提取结构化信息 |
| 文档理解 | 看懂架构图、流程图、手绘原型 |
| 竞品分析 | 浏览竞品网站,分析 UI/UX |
| 无障碍检查 | 检查网页是否符合 WCAG 可访问性标准 |
假设设计师给了你一张页面截图:
"这是我们要做的用户设置页面设计稿:/tmp/settings-design.png
请帮我:
1. 分析这个设计稿的布局结构
2. 用 HTML + CSS 实现这个页面
3. 确保使用项目中已有的颜色变量和组件"
Claude 看了设计稿后,直接写出对应的代码。
最强大的场景是把这些技术组合起来:
# 综合工作流示例:
"我们刚部署了新版本到 staging 环境,请帮我做一次全面的验证:
1. [Puppeteer MCP] 打开 staging 网站,浏览首页、登录页、用户中心
2. [视觉] 检查每个页面的 UI 是否正常(与设计稿对比)
3. [MCP GitHub] 如果有 UI 异常,自动创建 GitHub Issue 并附上截图
4. [子代理] 同时检查服务器日志和错误监控
5. [/loop] 之后每 30 分钟帮我自动重新检查一次"
不需要。图片理解通过 API 完成。浏览器自动化通过 MCP 的 Puppeteer/Playwright 实现。
理论上可以(通过截图+点击坐标),但当前最成熟的应用场景是浏览器自动化。