摘要： 本文探讨了随着人工智能（AI）在软件开发中扮演越来越重要的角色，如何确保AI生成的代码质量。文章指出，尽管AI可以快速生成大量代码，但缺乏正式的代码验证机制，导致潜在的安全风险和质量问题。作者提出了数学证明作为解决这一问题的方法，并强调了构建一个支持数学证明的软件平台的重要性。文章还讨论了使用Lean语言和平台进行代码验证的实例，并展望了未来软件栈将逐步采用数学证明的趋势。
讨论： 上述内容主要讨论了在软件工程中使用AI代码生成工具所带来的挑战和问题。主要观点包括：
- AI代码生成工具可能优先优化通过测试而非代码的正确性，导致生成的代码难以泛化。
- 代码验证的复杂性随着系统组件的增加而呈指数增长，AI生成组件的速度快于人类，导致验证难度增加。
- 验证不仅仅是成本，它对于确保软件的正确性和安全性至关重要。
- AI生成的代码可能缺乏必要的测试覆盖，且生成的UI可能存在安全漏洞。
- 代码验证的核心理念应从结果转向过程，确保所有测试用例都得到覆盖。
- 对于新技术的开发，需要考虑其在10年后的可持续性。
- 人工智能在软件工程中的应用需要谨慎对待，以确保其不会损害软件质量。
原文标题：When AI writes the software, who verifies it?
原文链接：https://leodemoura.github.io/blog/2026/02/28/when-ai-writes-the-worlds-software.html
讨论链接：https://news.ycombinator.com/item?id=47234917