
著名黑客 George Hotz(17 岁时首次破解 iPhone,在索尼起诉前已逆向工程 PlayStation 3,Tinygrad 开源深度学习框架作者)于 5 月 25 日发布博客文章《The Eternal Sloptember》,宣称“将 AI 代理应用于软件开发将是该领域历史上代价最惨重的错误之一。
核心論點:高低績效團隊的不對稱輸出問題
Hotz 的論點建立在組織結構差異上:高績效團隊擁有足夠緊密的回饋機制,能夠發現代理生成的問題;低績效團隊缺乏自我檢查機制,卻「利用代理實現了比以往高出十倍的產出」。在大型科技公司中,他預測結果是「程式碼品質平均水準的快速下降,而這種下降卻被龐大的程式碼量所掩蓋」,最終導致「大量劣質產品氾濫成災,優質產品黯然失色」。他舉例:報導稱蘋果正在其整個工程團隊中推廣 AI 編碼工具,他直接問道:「你認為未來兩年 macOS 會變得更好還是更糟?」
六個月測試的具體結論與 Hotz 的立場歸屬
Hotz 表示在測試中,代理「會預先完成所有工作,遞給你一個老虎機拉桿——你拉動它,然後祈禱剩下的工作能夠順利完成。它始終無法完全實現。」他嘗試了讓模型自動處理代碼、工程師審核輸出的模式,但表示「每次都必須手動修改」。他將自己歸入 Meta 首席 AI 科學家 Yann LeCun 和 AI 批評者 Gary Marcus 的陣營,認為語言模型本質上是複雜的模式匹配器,無法解決真正的新問題。
業界分歧:Karpathy 和 Amodei 的對立立場
Andrej Karpathy 曾在 2025 年初對代理持懷疑態度,但在新模型發布後改變立場,於 5 月 19 日加入 Anthropic 預訓練團隊,稱接下來幾年的工作為「意義非凡的成長經驗」。Dario Amodei 在達沃斯表示,部分 Anthropic 工程師已停止編寫代碼而讓模型處理。微軟 CEO Satya Nadella 也將 GitHub Copilot 向代理系統的轉型定義為平台層面的變革。
常見問題
Hotz 的论点是否针对所有工程师的 AI 工具使用?
不。Hotz 明确表示问题不在于被取代感,而在于组织规模效应:高绩效工程师能够识别代理的问题输出,而低绩效工程师却不能。他的批评针对的是低绩效团队在大量使用代理后对整体代码质量造成的拉低效应。
Hotz 提到的「越來越難以察覺」的問題具體指什麼?
Hotz 表示「輸出結果存在問題,但這種問題越來越難以察覺,這正是我們對一個日益精確的統計模型所預期的」。問題不在於代理產生明顯的錯誤,而在於產生外表正確但內在存在缺陷的代碼,缺乏足夠能力的工程師無法識別這些問題。
Hotz 和 Karpathy 的分歧代表什么?
这两位拥有充分业界信誉的工程师持对立立场:Hotz 认为 AI 编码代理是灾难,Karpathy(已加入 Anthropic)认为代理已经彻底改变软件开发。他们的分歧反映了业界目前对 AI 编码代理实际效益尚未形成定论。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复