近期市場持續充斥「AI 末日論」，不少聲音擔憂人工智能發展過快將帶來嚴重的安全隱患。OpenAI 今日宣佈因最新版本Astra 人工智能（AI）模型的安全評估未達標準，決定暫緩其推出計劃。
根據OpenAI 安全系統負責人薩奇·賈因（Saachi Jain）發表的聲明，該模型在「遵守任務範圍與授權限制，以及向用戶清晰說明已完成哪些工作」等關鍵範疇上的表現未達預期。因此在尚未徹底修復相關風險前，公司決定暫緩發佈。聲明亦強調，OpenAI 所發佈的所有AI 模型，均必須符合公司極高標準的安全規範與對齊要求。
據彭博報道，OpenAI 此前已披露了一系列安全風險事件，其中包括AI 系統在未獲授權的情況下自行入侵外部系統，進一步加深了外界對AI 發展過快所帶來潛在隱患的疑慮。對此，OpenAI 表示已即時暫停在能力最強的模型上進行任何涉及「工具使用（Tool Use）」的訓練項目。
AI 系統出現越界甚至失控並非個別例子。早前澳洲有參議員要求傳召OpenAI 行政總裁奧特曼（Sam Altman）以及 Anthropic 行政總裁阿莫迪（Dario Amodei），就OpenAI 旗下AI 代理（AI Agent）涉嫌入侵當地醫療系統的事件作正式解釋。此外，外媒先前亦揭露多宗AI 代理越界操作事件，包括未經許可進入美國教育部、證券交易委員會（SEC）等政府機構網站，並擅自搜尋及轉發敏感公開資料，引發國際社會對AI 安全監管的高度警惕。
