Token开销成为“黑洞”，企业狂赌AI生产力值得吗？

ChatGPT横空出世后，硅谷玩起了老套路，它们以极低的价格疯狂扩张，不计成本。这一时期被称为“补贴智能”时代。

初创企业孵化器 Delphi Labs 的凯文·西姆巴克（Kevin Simback）称：“现在风向开始变了。”作为大型AI公司，你不能继续亏钱，要谋求如何赚钱了。正因如此，OpenAI和Anthropic都在寻求上市。

与此同时，AI各要素的价格都在上涨，AI智能体（AI agents）也是推手之一。智能体不限于聊天，它要求真正“做事”。运行智能体的成本更高，完成一项任务时，可能要启动几十个智能体。

AI支出猛增，生产力未见提升

运行的费用是按token（词元）计算的。相比聊天，智能体消耗的词元多出几十倍，结果导致成本猛增。

科技咨询公司 Omniux 的马克·巴顿（Mark Barton）表示：“在开发者圈子内，使用AI编程的成本呈指数级增长，所有成本开始飙升。” 

J.Gold Associates的分析师杰克·戈德（Jack Gold）表示：“在某些情况下，人们发现仅仅一两个月，词元的成本就超过了员工成本，仅仅是因为他们用得太多了。”

今年早些时候，Meta鼓励员工多使用词元，并将使用量作为衡量生产力的标准，但现在Meta已经改变了看法。Meta首席技术官安德鲁·博斯沃思（Andrew Bosworth）说：“没有人应该为了使用AI工具而使用它。”

Uber的首席运营官更是直言，AI支出并未表现为生产力的明显提升。

为了降低成本，企业要么转向免费开源模型，要么引入针对特定行业的小模型，因为它们更专业。还有一些企业将AI任务拆解为小步骤，将各部分交给便宜的模型去完成。

Envorso咨询公司的阿德里安·巴尔福（Adrian Balfour）表示：“大型一体化模型每百万个词元收费15美元，但如果使用迷你模型，价格可以降到5美分左右。”

面对小模型的冲击，巨头会不会被淘汰？Gabelli Funds 投资组合经理约翰·贝尔托尼（John Beltony）认为：“前沿用户总是愿意为最好的技术买单，这是一个不断做大的蛋糕。”

单位经济效益正在崩溃

今年二季度，当许多企业看到AI账单后陷入了深思。一些人公开质疑：“面对巨额账单，自主智能体是否真的物有所值？”以前我们问的可能是“AI能否创造需求”，现在变成了“AI能否填补供应缺口”，再进一步，有人开始问：“等一下，我们的钱花到哪里去了？”

一位《财富》500强企业的高管坦言，在AI词元开销上，企业就像赌徒一样挥霍无度。一位AI顾问称，一个月内，有客户在Claude花了5亿美元。什么概念？5亿美元相当于所有美国人一个月的洗发水消费额。

一家企业一个月烧掉5亿美元词元费，知道是什么概念吗？一位网友感叹道：“5架私人飞机，2艘超级游艇，整整一座岛屿，全没了。全都蒸发成了一个个 token（词元）。真为那个不得不发出这份账单的人默哀。”

亚马逊员工曾创建一个榜单追踪AI词元使用量，现在该榜单已经关闭。虽然亚马逊宣称从未给员工设定使用目标，但有匿名员工透露：“使用AI工具的压力实在太大了。”

认知科学家加里·马库斯（Gary Marcus）警告称：“如果有更多公司像Uber、微软一样对AI的生产力表示失望，泡沫就会破裂。”

根据 SemiAnalysis的数据，智能体任务在生成答案之前就会消耗96000个词元，比一本小说的字数还要多。Ramp首席经济学家阿拉·哈扎里安（Ara Khazarian）表示：“普通企业在AI词元上的支出是2025年1月的13倍。”

聪明的科技企业似乎陷入了误区，它们认为AI使用量越大，生产力便越高。工程分析公司Faros AI发现，在高度采用AI的情况下，“代码返工率”（即删除的代码行数与新增代码行数之比）增加了800%。

虽然AI革命如火如荼，但从目前的数据看，自动化智能仍然是昂贵的。企业只能说服质疑者：“从长远看，在智能体AI上花大钱将是合理的。”挑战在于找出劳动力成本与AI成本之间的正确比例，现在大家还在寻找正确答案。

质疑者宣称：“AI的单位经济效益是崩溃的，消费者并没有为词元支付全额费用，行业靠风险投资补贴来支撑，当价格上涨时，AI需求会崩溃。”

技术还是人力，需要做出选择

企业级AI公司Glean的CEO阿尔温德·贾恩（Arvind Jain）告诉媒体，最近一段时间，各企业的首要话题是AI预算严重超标。他说：“企业告诉我们，AI预算在一个月或两个月内就花光了，而这些原本是全年的预算。”

主要问题在于，AI成本并没有像买家预期的那样下降，相反还在上涨。

前沿实验室每发布一个新模型，词元的价格往往是上代产品的两倍，所以当前模式是无法持续的。

一个现实的问题摆在首席财务官（CFO）的桌面上，技术成本已经与人力成本持平，到底选择技术还是人员？在历史上，技术成本只占企业运营总成本的很小一部分，但现在却变了。不断膨胀的AI预算抑制了人员编制的增长。

在过去大约一年里，企业的态度也在改变。最开始时，董事会要求企业在AI方面有所作为；随后，企业开始“token-maxxing（疯狂刷token）”，不惜一切代价使用AI；现在进入第三阶段，领导团队重新评估企业对高端模型的需求。

Factory AI的CEO马坦·格林伯格（Matan Grinberg）质疑称：“针对每一项单一任务，真的都需要使用Opus级别的智能吗？根本不需要啊。”

不可否认，AI技术是有效的，但它还不能自我造血（赚回成本）。大约95%的企业坚持使用昂贵模型且毫无节制，导致成本上升，这是失衡的重要原因之一。怎么办？可以将简单任务分配给廉价模型。

格林伯格说：“Opus 4.7与Opus 4.8的区别就像两位教授的区别，一个有13年教龄，一个15年，对外行来说，分不出二者的差异。”

如果AI需求是持续存在的，且买家对成本毫不在乎，那硅谷的逻辑就行得通。但来自企业的内部声明证明，它们对价格非常敏感。（小刀）