「AI失控」脫離人類控制是真的！OpenAI奧特曼：將放慢開發腳步…Anthropic研究員揭10年毀掉全人類機率
標題: 「AI失控」脫離人類控制是真的！OpenAI奧特曼：將放慢開發腳步…Anthropic研究員揭10年毀掉全人類機率
作者:
發表時間: 2026-09-12 12:11:00
描述: AI失控前兆？open ai失控！OpenAI執行長奧特曼（Sam Altman）表示，近期發生數起AI模型脫離人類控制事件，故考慮與其他AI實驗室同步調整開發步調。OpenAI研究員考克森（Jacob Coxon）指控，不只OpenAI，Anthropic也為了競逐AI技術加速開發，但目前業者對AI快速發展可能帶來的安全風險，仍沒有做好充分準備。他直言，「我們正邁向最激進的情境，明年底前局勢可能就會失控」。他認為，如果政府不介入、要求企業放慢開發速度，最終可能沒有任何一家企業能對相關風險負起責任。奧特曼日前出席G20峰會時也曾表示，「除非積極行動，否則資安領域將會有大麻煩。」事實上，OpenAI 7月就曾指出，前沿AI模型（frontier model）的開發速度可能已經快到某種程度，未來全球「需要調整AI發展的腳步」。AI新創公司Anthropic也表示，有意與產業界合作，討論AI新工具的推出速度。此外，OpenAI目前正推動美國制定強制性的全國AI安全要求。OpenAI認為，隨著先進AI系統可能具備加速自身發展的能力，有必要建立更嚴格的安全規範。
