跳转到内容

App 使用说明

想让电脑上的 Agent 操作手机?请看 CLI 与 AI Agent。

告诉 Handsy 你想做什么,再看它操作 iPhone。这份指南带你准备一块小板子,开始第一个任务。

这段教程展示手机、板子和 App 如何配合使用。

Handsy AI 即将登陆 App Store,下载入口将在上架后开放。

下载入口开放后:

  1. 在 iPhone 上,通过本网站打开 App Store 页面。
  2. 点获取,按 App Store 提示完成安装。
  3. 安装完成后,点打开,进入 App。

还没买板子或数据线?硬件与购买写清了型号、手机接口和首页同款 Amazon 购买链接。

物品 准备什么
iPhone iPhone XS 或更新机型,运行 iOS 18 或更高版本,并有蜂窝数据。USB-C 机型直接连接;Lightning 机型需要 Lightning 转 USB 相机转换器。
板子 Seeed Studio XIAO ESP32S3,标准版,8 MB 闪存、8 MB PSRAM,以及随附的 Wi-Fi/蓝牙天线。安装程序支持这个版本,请勿选择 Sense 或 Plus。
数据线 首次安装固件时,需要一条能传数据的 USB 线。只能充电的线不行。
首次设置用的电脑 用电脑上的 Chrome 或 Edge 准备板子。任务运行时不需要电脑。
AI 服务 可以先使用 App 内提供的免费 AI 服务;如果希望连接自己的服务,选择接受图片、兼容 OpenAI 接口的 API。

任务运行时,iPhone 会加入板子的 Wi-Fi 热点来传送屏幕镜像。这个热点没有外网,调用模型使用手机的蜂窝数据。

把板子插到 iPhone 前,先做一次。这段视频展示浏览器里的安装过程:

  1. 在电脑上用 Chrome 或 Edge 打开固件安装页。iPhone 和 Safari 不能完成这一步。
  2. 用数据线连上板子。等页面显示随时可以开始。,再点连接板子。
  3. 在浏览器的 USB 列表里选中板子。如果页面提示板子正在重启进入安装模式,再点一次连接板子并重新选择。
  4. 安装过程中保持板子连接、页面打开。
  5. 等页面显示安装完成。,再从电脑上拔下板子。

找不到板子?换一条数据线,直接连到电脑,并关掉占用串口的其他应用。还是没有:按住 BOOT 插入板子,松开 BOOT,再试一次连接板子。

固件列表没加载出来时,点再检查一次。安装失败时,拔下板子,重新接上,再点连接板子。仍然遇到问题,请看常见问题。

安装会替换板子原有的固件,不会改动 iPhone 或电脑。

把准备好的板子插到 iPhone,打开 App,目前显示的名称是 ESP32 Agent。它会带你完成四步:

先确认天线已接好,设置时让板子靠近手机。配对失败或信号较弱时,把板子移到紧贴手机的位置,并检查天线接口。

  1. Plug Me In(把我插上)— 通过蓝牙配对板子。
  2. Let Me See the Screen(让我看见屏幕)— 加入板子的 Wi-Fi,然后打开控制中心 → 屏幕镜像 → ESP32 Agent。
  3. Let Me Use the Pointer(让我使用指针)— 打开设置 → 辅助功能 → 触控 → 辅助触控。App 会校准指针。
  4. Give Me a Brain(给我一个大脑)— 可以先选择 App 内可用的免费 AI 服务。也可以填写自己的服务地址和 API 密钥,再选一个视觉模型。你的密钥保存在 iOS 钥匙串里。

免费 AI 服务目前就可以使用。未来我们会提供可订阅的 AI 服务,方便你直接上手体验。选择服务前,请阅读隐私政策。

让手机保持解锁、竖屏。板子由手机供电。

输入「打开设置,进入无线局域网」,然后点 Start。

Handsy 查看屏幕、执行一步,再检查发生了什么变化。可以从灵动岛查看进度,也可以回到 App。两个地方都能停止任务。如果预览停在旧画面,或者一直重复操作,先停止,按镜像排障步骤检查后再试。

需要你帮助时,长按通知回应。你可能会看到 Continue(继续)、Skip step(跳过此步)、Stop(停止)或 Take Over(接管)。

先试一个能看着它完成的任务。手机锁屏后镜像会停止。请使用竖屏;输入文字时,可以先用简短英文检查屏幕上的实际结果。

保存常用任务,之后就能通过 Siri、快捷指令、小组件或控制中心再次运行。

想查看过程,打开 Runs,选择一次运行,逐步回放截图上的点按和滑动。需要导出时,选择 ⋯ → Export trace。

连接或指针遇到问题,请看常见问题。向 AI 服务发送截图前,请阅读隐私政策。