Agentic OS (ANOLISA) + AgentSight:14 万 Token 查天气的"Token 黑箱"破解

393 字

Agentic OS (ANOLISA) + AgentSight:14 万 Token 查天气的"Token 黑箱"破解

来源类型: 技术实战 + 产品发布
日期: 2026-06-17
标签: #AgenticOS #ANOLISA #AgentSight #Token账单 #阿里云 #可观测性 #Agent运维

核心问题

"Token 账单数字那么大,这些 Token 是哪个 Agent 花的?花在哪一步了?有没有浪费的?"

"浪费的无效 Token 是要节省的。而省无效 Token 的前提,是先看见 Token 花在了哪里。"

Agentic OS (ANOLISA) AgentSight 组件

核心功能看清 Agent 全局状态和每笔 Token 去向的可视化面板

三大价值

  1. 零侵入业务逻辑——不影响 Agent 运行
  2. 细粒度数据采集——每步 Token 可见
  3. 关联分析——会话级 + 对话级双维度

"查天气"惊人案例

用户询问:"杭州的今日天气"(极简单任务)

预期 Token
- 用户输入 < 20
- 系统提示词 数百
- 一次工具调用 + 响应 数千

实际 Token14 万!

原因绝大部分算力都浪费在了重复读取旧的历史记录上

详细分析

  • Agent 产生两次大模型调用
  • 每次历史消息"回放"一次
  • Token 成本线性甚至超线性增长
  • 两次工具调用分别查看了天气的 skill + 查询具体天气
  • 输入 Token 数越来越多

三层可视化

1. 会话级

  • 每个 Agent 在每次会话中消耗多少 Token
  • 一张图看全局分布
  • 一眼找到"最烧钱" Agent

2. 对话级

  • 深入单条对话链路
  • 追踪 Token 变化趋势
  • 是 System Prompt 大头 / History 窗口膨胀 / Skill 调用冗长?

3. 趋势对比

  • 按时间段、Agent、模型多维度
  • 上周花了多少 vs 这周花了多少
  • 异常波动定位

五大运维场景

场景 AgentSight 解决方案
Agent 悄悄卡死 实时健康状态 + 自动告警 + 自动重启
关键任务中断 异常中断通知
Token 成本失控 逐笔账单 + 优化建议
不知道哪个 Agent 烧钱 会话级视图
不知道 Skill 是否浪费 轨迹回放 + 工具调用分析

Token 优化的实战方法

1. 减少 History 回放

  • 不用全量历史
  • 用 RAG 检索相关历史
  • 摘要压缩

2. 优化 System Prompt

  • 精简冗余指令
  • 按场景动态加载
  • 避免每次都加载全部

3. Skill 输入优化

  • 避免冗长输入
  • 结构化参数
  • 缓存常用结果

4. 模型分级

  • 简单任务用小模型(Flash / Mini)
  • 复杂任务用大模型(Pro)
  • 按 ROI 选择

与已有知识的关联

资料来源

  • 原文:https://mp.weixin.qq.com/s/BWdBqElBWpZBkWXsmF9kXw
  • 原始文件:raw/articles/微信文章2/Agent 烧钱如流水?Agentic OS (ANOLISA) 帮你逐笔看清 Token 账单.md
  • 来源:阿里云开发者

我的判断(高置信度)

这是 2026 年 Agent Token 成本控制最实用的实战指南——阿里云 ANOLISA + AgentSight 把"看不见"变"看得见"。

关键洞察
1. "14 万 Token 查天气"是普遍现象——绝大多数 Agent 都有类似浪费
2. "历史回放"是最大浪费源——可优化 80%+
3. "可观测性"是 Agent 运维基础——必须先看见才能优化
4. "自动告警 + 自动重启"——降低人工介入

预测
- 2026 H2:Agent 可观测性将成为标配
- 2027:可能形成"Agent Token 优化"专门赛道
- 2028:Token 成本可能下降 50%+(标准优化后)
- 对 Agent 开发者的建议
- 立即集成 Agent 可观测性——不要等成本失控
- 关注 History 回放优化——RAG + 摘要
- 分级模型策略——避免大模型做小事
- 对企业 IT 的建议
- AgentSight 类工具是必备——避免账单失控
- 建立 Token 预算管理——每个 Agent 限额
- 定期 Review Skill 效率——删除冗余
- 对工具开发者的启示
- "Agent 可观测性"是新蓝海——可参考 Datadog / Grafana 模式
- "Token 优化建议"是增值服务
- "Agent 成本管理"SaaS 有商业机会