OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權

標題: OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權


作者: 鉅亨網編譯莊閔棻
發表時間: 2026-09-29 21:10:04

AI 人工智慧 OpenAI 訓練 風險 安全 強化 學習 監控 代理 失控 沙箱 準則 TOP headline

描述: OpenAI公布尖端AI強化學習訓練安全準則，要求啟動或持續訓練前先完成系統性安全論證。 準則涵蓋對齊訓練、沙箱隔離、即時監控與失準事件調查，高優先級警報逾時未處理將自動暫停訓練。 安全論證需經異議報告與高階主管審查，研究部門負責人、安全負責人、首席科學家皆有否決權。
時間分享(原讚與享)評論回應(讚與心情)外掛評論