摘要: 本文讲述了作者从2012年开始接触深度学习,并因AlexNet的出现而投身于相关研究。作者在Jetpac公司担任CTO时,利用深度学习技术分析公共照片以提供关于酒吧、酒店和餐厅的信息。由于硬件资源的限制,作者开发了Jetpac框架以在低成本硬件上大规模运行模型。作者对优化技术充满热情,认为优化过程充满挑战和乐趣,但同时也强调了AI效率的重要性。作者批评了当前AI行业在硬件上的巨额投资,认为应更多关注软件优化和效率提升。作者预测,随着开源模型和CPU技术的发展,未来可能会有更多基于低成本硬件的AI初创公司出现。
讨论: 这段内容主要讨论了人工智能和云计算行业的发展趋势。其中,neffy提到如果AI优化,本地AI成为可能,云服务的垄断地位将不复存在。kronicum2025认为当前行业存在泡沫,因为公司正在购买不需要立即使用的基础设施,但这些基础设施的控制权将在5年后决定行业的控制权。kragen指出,优化AI需要大量的硬件预算,但外包优化可能并不适合这个领域。keeda认为,尽管模型越来越强大,但代币价格却在下跌,因此降低成本对于维持可持续性至关重要。boutell提出,运行聊天机器人在CPU上可能并不合理,而最近一代的LLM似乎在效率上有所提升。saagarjha认为没有优化创业公司是因为如果公司关心这个问题,他们会有自己的内部团队来处理。Havoc则表示,虽然大量资金被投入到硬件中,但他没有看到人们像对待他这样的ML基础设施工程师那样挥舞大笔支票。
原文标题:I Know We’re in an AI Bubble Because Nobody Wants Me
原文链接:https://petewarden.com/2025/11/29/i-know-were-in-an-ai-bubble-because-nobody-wants-me-%f0%9f%98%ad/
讨论链接:https://news.ycombinator.com/item?id=46086410