一年快速应用之路——我们迈向每秒10k令牌的路径

Oct 29, 2025     Author:eborgnia     HN Points:47     HN Comments:2
Share this

摘要: 本文介绍了Relace团队在代码自动合并领域的研究成果。他们开源了名为Fast Apply的模型,该模型能够高效地将代码变更(diff)应用到现有代码中。文章详细介绍了模型训练过程,包括数据集构建、训练方法、推理技术等。Fast Apply 3是迄今为止性能最佳的模型,能够在10k+ tokens/second的速度下保持业界领先的准确率。文章还讨论了使用LLM作为合并算法的优势,以及如何通过微调和优化来提高模型的性能。

讨论: swyx介绍了他们内部构建的评估工具,这是一个类似于Git的diff查看器,带有注释工具,用于分类合并结果。他称赞这个工具是AI加速AI的绝佳用例。同时,有人询问了与MorphLLM相比的哲学或方法论差异。另外,bn-l提到了需要降低成本。

原文标题:A Year of Fast Apply – Our Path to 10k Tokens per Second
原文链接:https://www.relace.ai/blog/relace-apply-3
讨论链接:https://news.ycombinator.com/item?id=45749763