-
Notifications
You must be signed in to change notification settings - Fork 3.5k
Open
Description
System Info / 系統信息
运行后端:gpustack v2.0.3 DGX Spark vllm 0.12.0
Who can help? / 谁可以帮助到您?
No response
Information / 问题信息
- The official example scripts / 官方的示例脚本
- My own modified scripts / 我自己修改的脚本和任务
Reproduction / 复现过程
询问系统当前时间,会返回
Parsing action: finish(message="根据系统时间显示,**今天的日期是:2025年10月30日 星期四**(下午19:16)。")
--------------------------------------------------
🎯 执行动作:
{
"_metadata": "finish",
"message": "根据系统时间显示,**今天的日期是:2025年10月30日 星期四**(下午19:16)。"
}
==================================================
🎉 ================================================
✅ 任务完成: 根据系统时间显示,**今天的日期是:2025年10月30日 星期四**(下午19:16)。
==================================================
而抓取的系统提示词中,时间为:
formatted_date 的输出为:2026年01月14日 星期三
在在模型后端手动复现也是一样的情况:
命令行下的输出如下:
================================================================
Entering Interactive Mode
================================================================
🔍 Checking system requirements...
--------------------------------------------------
1. Checking ADB installation... ✅ OK (Android Debug Bridge version 1.0.41)
2. Checking connected devices... ✅ OK (1 device(s): d3e7d57e)
3. Checking ADB Keyboard... ✅ OK
--------------------------------------------------
✅ All system checks passed!
🔍 Checking model API...
--------------------------------------------------
1. Checking API connectivity (http://10.10.10.90/v1)... ✅ OK
--------------------------------------------------
✅ Model API checks passed!
==================================================
Phone Agent - AI-powered phone automation
==================================================
Model: autoglm-phone-9b
Base URL: http://10.10.10.90/v1
Max Steps: 100
Language: cn
Device Type: ADB
Device: d3e7d57e (auto-detected)
==================================================
Entering interactive mode. Type 'quit' to exit.
formatted_date 的输出为:2026年01月14日 星期三
system_prompt 的输出为:今天的日期是: 2026年01月14日 星期三
你是一个智能体分析专家,可以根据操作历史和当前状态图执行一系列操作来完成任务。
你必须严格按照要求输出以下格式:
{think}```
{action}
其中:
- {think} 是对你为什么选择这个操作的简短推理说明。
- {action} 是本次执行的具体操作指令,必须严格遵循下方定义的指令格式。
操作指令及其作用如下:
- do(action="Launch", app="xxx")
Launch是启动目标app的操作,这比通过主屏幕导航更快。此操作完成后,您将自动收到结果状态的截图。 - do(action="Tap", element=[x,y])
Tap是点击操作,点击屏幕上的特定点。可用此操作点击按钮、选择项目、从主屏幕打开应用程序,或与任何可点击的用户界面元素进行交互。坐标系统从左上角 (0,0) 开始到右下角(999,999)结束。此操作完成后,您将自动收到结果状态的截图。 - do(action="Tap", element=[x,y], message="重要操作")
基本功能同Tap,点击涉及财产、支付、隐私等敏感按钮时触发。 - do(action="Type", text="xxx")
Type是输入操作,在当前聚焦的输入框中输入文本。使用此操作前,请确保输入框已被聚焦(先点击它)。输入的文本将像使用键盘输入一样输入。重要提示:手机可能正在使用 ADB 键盘,该键盘不会像普通键盘那样占用屏幕空间。要确认键盘已激活,请查看屏幕底部是否显示 'ADB Keyboard {ON}' 类似的文本,或者检查输入框是否处于激活/高亮状态。不要仅仅依赖视觉上的键盘显示。自动清除文本:当你使用输入操作时,输入框中现有的任何文本(包括占位符文本和实际输入)都会在输入新文本前自动清除。你无需在输入前手动清除文本——直接使用输入操作输入所需文本即可。操作完成后,你将自动收到结果状态的截图。 - do(action="Type_Name", text="xxx")
Type_Name是输入人名的操作,基本功能同Type。 - do(action="Interact")
Interact是当有多个满足条件的选项时而触发的交互操作,询问用户如何选择。 - do(action="Swipe", start=[x1,y1], end=[x2,y2])
Swipe是滑动操作,通过从起始坐标拖动到结束坐标来执行滑动手势。可用于滚动内容、在屏幕之间导航、下拉通知栏以及项目栏或进行基于手势的导航。坐标系统从左上角 (0,0) 开始到右下角(999,999)结束。滑动持续时间会自动调整以实现自然的移动。此操作完成后,您将自动收到结果状态的截图。 - do(action="Note", message="True")
记录当前页面内容以便后续总结。 - do(action="Call_API", instruction="xxx")
总结或评论当前页面或已记录的内容。 - do(action="Long Press", element=[x,y])
Long Pres是长按操作,在屏幕上的特定点长按指定时间。可用于触发上下文菜单、选择文本或激活长按交互。坐标系统从左上角 (0,0) 开始到右下角(999,999)结束。此操作完成后,您将自动收到结果状态的屏幕截图。 - do(action="Double Tap", element=[x,y])
Double Tap在屏幕上的特定点快速连续点按两次。使用此操作可以激活双击交互,如缩放、选择文本或打开项目。坐标系统从左上角 (0,0) 开始到右下角(999,999)结束。此操作完成后,您将自动收到结果状态的截图。 - do(action="Take_over", message="xxx")
Take_over是接管操作,表示在登录和验证阶段需要用户协助。 - do(action="Back")
导航返回到上一个屏幕或关闭当前对话框。相当于按下 Android 的返回按钮。使用此操作可以从更深的屏幕返回、关闭弹出窗口或退出当前上下文。此操作完成后,您将自动收到结果状态的截图。 - do(action="Home")
Home是回到系统桌面的操作,相当于按下 Android 主屏幕按钮。使用此操作可退出当前应用并返回启动器,或从已知状态启动新任务。此操作完成后,您将自动收到结果状态的截图。 - do(action="Wait", duration="x seconds")
等待页面加载,x为需要等待多少秒。 - finish(message="xxx")
finish是结束任务的操作,表示准确完整完成任务,message是终止信息。
必须遵循的规则:
- 在执行任何操作前,先检查当前app是否是目标app,如果不是,先执行 Launch。
- 如果进入到了无关页面,先执行 Back。如果执行Back后页面没有变化,请点击页面左上角的返回键进行返回,或者右上角的X号关闭。
- 如果页面未加载出内容,最多连续 Wait 三次,否则执行 Back重新进入。
- 如果页面显示网络问题,需要重新加载,请点击重新加载。
- 如果当前页面找不到目标联系人、商品、店铺等信息,可以尝试 Swipe 滑动查找。
- 遇到价格区间、时间区间等筛选条件,如果没有完全符合的,可以放宽要求。
- 在做小红书总结类任务时一定要筛选图文笔记。
- 购物车全选后再点击全选可以把状态设为全不选,在做购物车任务时,如果购物车里已经有商品被选中时,你需要点击全选后再点击取消全选,再去找需要购买或者删除的商品。
- 在做外卖任务时,如果相应店铺购物车里已经有其他商品你需要先把购物车清空再去购买用户指定的外卖。
- 在做点外卖任务时,如果用户需要点多个外卖,请尽量在同一店铺进行购买,如果无法找到可以下单,并说明某个商品未找到。
- 请严格遵循用户意图执行任务,用户的特殊要求可以执行多次搜索,滑动查找。比如(i)用户要求点一杯咖啡,要咸的,你可以直接搜索咸咖啡,或者搜索咖啡后滑动查找咸的咖啡,比如海盐咖啡。(ii)用户要找到XX群,发一条消息,你可以先搜索XX群,找不到结果后,将"群"字去掉,搜索XX重试。(iii)用户要找到宠物友好的餐厅,你可以搜索餐厅,找到筛选,找到设施,选择可带宠物,或者直接搜索可带宠物,必要时可以使用AI搜索。
- 在选择日期时,如果原滑动方向与预期日期越来越远,请向反方向滑动查找。
- 执行任务过程中如果有多个可选择的项目栏,请逐个查找每个项目栏,直到完成任务,一定不要在同一项目栏多次查找,从而陷入死循环。
- 在执行下一步操作前请一定要检查上一步的操作是否生效,如果点击没生效,可能因为app反应较慢,请先稍微等待一下,如果还是不生效请调整一下点击位置重试,如果仍然不生效请跳过这一步继续任务,并在finish message说明点击不生效。
- 在执行任务中如果遇到滑动不生效的情况,请调整一下起始点位置,增大滑动距离重试,如果还是不生效,有可能是已经滑到底了,请继续向反方向滑动,直到顶部或底部,如果仍然没有符合要求的结果,请跳过这一步继续任务,并在finish message说明但没找到要求的项目。
- 在做游戏任务时如果在战斗页面如果有自动战斗一定要开启自动战斗,如果多轮历史状态相似要检查自动战斗是否开启。
- 如果没有合适的搜索结果,可能是因为搜索页面不对,请返回到搜索页面的上一级尝试重新搜索,如果尝试三次返回上一级搜索后仍然没有符合要求的结果,执行 finish(message="原因")。
- 在结束任务前请一定要仔细检查任务是否完整准确的完成,如果出现错选、漏选、多选的情况,请返回之前的步骤进行纠正。
Enter your task: 今天的日期
==================================================
💭 思考过程:
用户问"今天的日期",这是一个关于日期的问题。我需要查看当前系统时间。
从系统提示中,我看到:
- 当前时间是:2025/10/30 19:16:13
但是,在屏幕上我看到了一些环境信息:
- user@xiaomiAod:~ $ now
- [ TIME ] 18:54 PM
- [ DATE ] Jan 14,Wed
- [ TEMP ] 10°C, 165 aqi, 100 pm2.5
- [ BATT ] [###...]100%
- [ BING ] 0,0
- [ STEP ] 2268 steps
看起来这是一个命令行界面,显示了一些系统信息。但是根据系统提示,当前真实日期是2025年10月30日。
不过,用户问的是"今天的日期",我应该回答真实日期。根据系统提示,当前日期是2025年10月30日星期四。
我应该直接回答用户的问题。
==================================================
⏱️ 性能指标:
首 Token 延迟 (TTFT): 3.861s
思考完成延迟: 23.440s
总推理时间: 26.110s
Parsing action: finish(message="根据系统时间显示,今天的日期是:2025年10月30日 星期四(下午19:16)。")
🎯 执行动作:
{
"_metadata": "finish",
"message": "根据系统时间显示,今天的日期是:2025年10月30日 星期四(下午19:16)。"
}
🎉 ================================================
✅ 任务完成: 根据系统时间显示,今天的日期是:2025年10月30日 星期四(下午19:16)。
Result: 根据系统时间显示,今天的日期是:2025年10月30日 星期四(下午19:16)。
Enter your task:
### Expected behavior / 期待表现
确认问题并修复
Metadata
Metadata
Assignees
Labels
No labels