摘要: Kilo在OpenRouter上首次突破每月1万亿代币的使用量。开源AI编码工具家族(Cline、Roo、Kilo)的快速增长部分原因是Cursor和Claude开始限制用户使用。这种限制导致用户转向开源AI编码工具,从而推动了图表中显示的增长。Cursor和Claude需要限制用户,因为行业做出了错误的假设:原始推理成本下降,应用推理成本也会随之下降。然而,应用推理成本实际上增加了,原因包括前沿模型每代币成本保持不变和每应用程序的代币消耗大幅增长。开源工具(Cline、Roo、Kilo)通过不限制用户使用和提供多种优化成本的方法来应对这一挑战。预计随着并行代理和工作量增加,高级用户的推理成本将继续增长,但与AI训练阶段的成本相比仍然较小。
讨论: 该讨论主要围绕开源模型和AI工具的成本与价值展开。一些用户认为开源模型将在不久的将来达到与商业模型相当的质量和速度,使得本地运行成为可能。然而,也有人指出,即使是当前的开源模型,其推理成本仍然很高。关于AI工具的成本,一些用户认为高额的订阅费用是不可持续的,而另一些用户则认为这些成本是合理的,因为它们提供了高价值的工具和服务。讨论中还涉及了AI对软件开发的影响、AI辅助开发的时间与生产力问题以及AI工具对人才招聘的影响等方面。
原文标题:Token growth indicates future AI spend per dev
原文链接:https://blog.kilocode.ai/p/future-ai-spend-100k-per-dev
讨论链接:https://news.ycombinator.com/item?id=44867312