Anthropic 警告 AI 自我進化風險，呼籲建立跨國協調機制，必要時暫緩前沿模型開發

人工智慧公司 Anthropic 近日發布最新研究報告指出，隨著 AI 技術快速進展，產業正逐步逼近「遞迴式自我改進」的臨界點，也就是 AI 未來可能具備自行設計、訓練並優化下一代模型的能力。該公司警告，一旦技術跨過此門檻，人工智慧的發展速度可能大幅加快，但同時也將帶來人類難以預測與控制的風險。

Anthropic 在報告中指出，當 AI 系統能夠自行建構自身後續版本時，傳統的人類監督、測試與安全機制將面臨前所未有的挑戰。該公司強調，這類系統不僅會改變軟體開發流程，更可能重塑整個科技研發模式，使「AI 開發 AI」成為主要推動力。

報告同時提到，Anthropic 內部已經出現顯著變化。以其大型語言模型 Claude 為例，目前超過八成的程式碼已由 AI 自動生成，工程師更多扮演審核與指導角色，而非逐行撰寫程式碼。公司指出，這一趨勢顯示 AI…