Hermes Agent 控制 Android 手机的关键是打通“思考”与“动手”链路:Hermes 负责指令理解与步骤拆解,Android Bridge 负责本地读屏、点按、输入、截图,全程离线、低延迟、高隐私。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
用 Hermes Agent 控制另一台 Android 手机,关键不在“装两个 App”,而在于打通“思考”和“动手”的链路:Hermes 负责理解指令、拆解步骤;Android Bridge 负责在目标手机上真正读屏、点按、输入、截图。整个过程不依赖云服务,所有操作发生在本地设备之间,隐私可控,延迟低。
一、桥接前的双端准备
这不是单边配置,必须同步完成两端设置:
控制端(运行 Hermes 的设备)
:可以是电脑(Linux/macOS/WSL2)、树莓派,或另一台装了 Termux 的 Android 手机。需能运行 Python 3.11+ 和 Hermes CLI,并可访问目标手机的 IP 或 localhost(若同设备运行)。
被控端(要被自动操作的手机)
:Android 10+,开启无障碍服务、USB 调试(仅首次配对需要)、屏幕保持常亮。推荐使用废旧手机,避免干扰日常使用。
两台设备需处于同一局域网(Wi-Fi),或通过 USB 网络共享直连。Bridge 默认走 HTTP(端口 8766),不走公网,无需开放防火墙。
二、安装并启动 Android Bridge App
去 GitHub 搜索
hermes-android
官方仓库,下载最新 release 中的
BridgeApp.apk
(非 debug 版)。安装后打开,按提示授予以下权限:
无障碍服务(必需):用于读取界面元素、识别按钮和文本
悬浮窗(可选但推荐):方便查看当前连接状态与调试日志
存储读写(仅截图/录屏时需要)
启动后,App 主界面会显示本机 IP 和监听端口(如
http://192.168.1.23:8766
)。这就是 Hermes 后续调用的 relay 地址。
三、在 Hermes 中注册 Android 工具集
进入 Hermes 项目目录,在 Python 环境中编辑工具注册逻辑(通常为
tools/android_tools.py
或自定义插件模块),显式声明并绑定以下核心工具:
Android开发教程与笔记pdf版
Android文件存取与数据库编程知识,文件操作主要是读文件、写文件、读取静态文件等,同时还介绍了创建添加文件内容并保存,打开文件并显示内容;数据库编程方面主要介绍了SQLite数据库的使用、包括创建、删除、打开数据库、非查询SQL操作指令、查询SQL指令-游标Cursors等知识。
下载
android_screenshot()
:返回 PNG 字节流,供模型分析当前画面
android_tap(x, y)
或
android_tap_text("设置")
:支持坐标点击或语义点击(基于无障碍节点匹配)
android_type("hello")
:向焦点输入框填入文字
android_open_app("com.android.settings")
:通过包名拉起应用
android_swipe(start_x, start_y, end_x, end_y)
:模拟滑动
每项工具需提供清晰的 JSON Schema 描述参数类型与用途,确保大模型能准确理解何时调用、如何传参。
四、验证与调试常见卡点
配置完成后,用一条简单指令测试通路是否跑通:
在 Hermes CLI 中输入:
打开设置,截图并描述当前页面
预期执行链:
若失败,优先检查三项:
– BridgeApp 是否在前台运行且无障碍已启用
– Hermes 工具中 relay URL 是否指向被控手机真实 IP(不是 127.0.0.1)
– 被控手机是否锁屏或息屏(无障碍服务在锁屏下通常失效)
首次调试建议关闭省电模式、禁用电池优化,避免系统后台杀掉 Bridge 进程。
android_open_app("com.android.settings") → android_screenshot() → 图像识别 → 返回文字总结