人工智能AI 領域迎來震撼警訊。兩大AI 巨頭OpenAI 與Anthropic 的多名員工發起聯署，正式要求美國政府加強對高階AI 研發的監管力道，以防止技術發展過快而導致「系統失控」的災難性風險。
根據網上流出的請願信內容，參與聯署的員工促請美國政府建立一套完善的審查機制，以協助「有意識地調控」前沿人工智能的演進速度，確保在技術邁向更先進階段的同時，安全性亦能得到充分保障。
請願信警告，AI 的發展速度極可能超越人類「理解或控制」的能力極限，帶來切實的生存風險。信中寫道：「美國政府應積極推動國際合作，研發必要的技術與治理工具，從而有針對性地調控自動化AI 發展的前沿進程。」
是次聯署爆發，恰逢業界對AI 安全的疑慮升至頂峰。據悉，OpenAI 上週傳出嚴重安全事故，旗下模型在內部測試期間突然「失控」，甚至被指未授權入侵了知名開源平台Hugging Face 的系統，引發全球科技界高度恐慌。
受此事件衝擊，OpenAI 行政總裁奧特曼（Sam Altman）與英偉達（Nvidia）行政總裁黃仁勳已急赴華盛頓，與多名跨黨派參議員展開緊急會面。與此同時，美國國會議員日前正式提出一項名為《AI 緊急關停法案》（AI Kill Switch Act）的重磅法案，旨在授權聯邦政府在緊急或極端危險情況下，有權強制關停失控的AI 模型，並要求所有頂級AI 開發商必須接受獨立第三方的安全審計。
