人工智能公司根据您使用的语言,以BPE令牌为基准收取60%更高的费用。

Apr 01, 2026     Author:vfalbor     HN Points:23     HN Comments:10
Share this

摘要: AI模型按token计费,但不同公司token定义不同,导致非英语用户成本显著增加(如西班牙语+60%,印地语+490%)。价格差距最大达420倍。各公司使用专属分词器(如OpenAI的tiktoken、Google的SentencePiece、Anthropic的专有技术),缺乏标准化。TokensTree通过跨供应商token归一化和智能路由优化,减少重复计算和语言税,提升效率并降低成本。

讨论: 讨论围绕AI按令牌计费模式展开,指出非英语语言(如中日韩文字)因令牌数量增加导致成本更高。部分评论者认为按令牌计费反映了模型处理成本,但也有人批评文章标题夸大其词(如‘21世纪最大骗局’),并指出其未明确说明数据来源和令牌计算方式,可能误导读者。

原文标题:AI companies charge you 60% more based on your language, BPE tokens
原文链接:https://tokenstree.com/newsletter-article-5.html
讨论链接:https://news.ycombinator.com/item?id=47603969