
Elephant走红:AI开始为“Token浪费”算细账 (opens in a new tab)
浪费的原因很具体,AI应用从“对话”转向“执行”,这些计算资源流向了较贵的大型旗舰模型,Agent在复杂多轮任务中,历史文件、对话会不断累积,大量无用、冗余、过期的信息会不断产生并且重复计算,Token消耗因此指数级增长。也就是说,企业和开发者在用最贵的车跑最短的路。
Total 27 articles

浪费的原因很具体,AI应用从“对话”转向“执行”,这些计算资源流向了较贵的大型旗舰模型,Agent在复杂多轮任务中,历史文件、对话会不断累积,大量无用、冗余、过期的信息会不断产生并且重复计算,Token消耗因此指数级增长。也就是说,企业和开发者在用最贵的车跑最短的路。

Tencent reports RMB207.336B in Q3 revenue and RMB81.433B in capex. It says WorkBuddy leads China in daily LLM token use, with over 10M daily users. The report examines cloud growth and AI's impact on earnings and cash flow.

一个开源的省Token工具Headroom,火了!公开页面显示Headroom已有4万多个star,最新版本是v0.26.0。一个“上下文压缩层”工具能到这个热度,已经说明很多问题。

迪士尼最近就做了一件「很不迪士尼」的事。它在内网上线了一块看板,名字直白得不像那个出品白雪公主的公司——「AI Adoption Dashboard」。看板上滚动着三个数字:每个员工调用AI的频率、请求次数、token消耗量。Claude是主要追踪对象。

在当前的AI Research浪潮中,Autonomous Agents已经改变了我们获取信息的方式——从被动接收到主动检索。

Anthropic发布了Programmatic Tool Calling(PTC)特性,让Claude通过代码编排工具执行,降低token消耗、减少延迟并提升准确性。

两年半多,终于等到一次反转! 就在刚刚,OpenRouter抛出了一条震动整个AI开发者圈的重磅数据—— 上周,平台用户在OpenAI模型上的调用Token消耗金额,正式超越了Anthropic! 自2024年初至今,长达30多个月,这是OpenAI首次完成对Claude的绝杀反超。 背后最大的贡献者,就是GPT-6 Astra和GPT-5.6 Luna。 OpenAI总裁Greg第一时间转发,激动地表示「Astra和Luna正在起飞」。 就在今天,GPT-6 Sol同步爆出,据称实力远超传闻中的Opus 5.2。 而且,未来半个月,OpenAI还有更多大礼包在路上了。 OpenAI一夜翻盘,

OpenClaw数月内GitHub Star飙至38万成现象级爆款,但因Token消耗与安全风险被Claude Code、Codex等Harness取代而迅速降温,国内已涌现30余款衍生产品,创始人Peter Steinberger已加入OpenAI研发下一代Agent。

让Agent写周报、分析方案,已经是许多人的日常。但每次开始,用户还得翻找资料、交代背景,智能体也要经过查找、阅读、整理等多个步骤,才能真正开始任务。换个任务,这套流程又得重来。反复处理这些已有资料,既费时间,也增加token消耗。资料越多、步骤越长,还越容易遗漏信息或出现偏差,影响任务完成的准确率。

不是所有任务都需要最强的模型。让每一次请求选对模型,让每一次反馈都成为下一次更优、更省的选择。不是所有任务都需要最强的模型。让每一次请求选对模型,让每一次反馈都成为下一次更优、更省的选择。