風險提示|ChatGPT之父夥350專家:警告AI可毀滅人類 風險不下於核戰及疫情

|

繼兩個月前馬斯克聯同逾千位AI專家聯署呼籲暫緩AI研發工作後,有「ChatGPT之父」之稱的OpenAI行政總裁Sam Altman昨日(30日)亦聯同350位權威專家,共同簽署了一封公開信,警告AI對滅絕人類構成的風險,不下於核戰及大流行疫情,應該加強重視。

自ChatGPT熱潮席捲全球,AI變成當前科技界熱門話題,各大科企爭先推出自家大模型,但同時關於AI帶來的風險與危機爭議不斷,不論是各國政府、行業專家都紛紛呼籲應該重點關注AI領域的安全發展。

公開信在非營利組織「人工智能安全中心」(Center for AI Safety, CAIS)的網頁上發佈,聯署者有許多是AI領域中的頂級專家、教授和企業高層,除了Altman,還包括Google AI部門DeepMind行政總裁Demis Hassabis、開發AI系統語言模型的Anthropic行政總裁Dario Amodei、微軟技術總監Kevin Scott,以及被稱為「AI教父」的Google前高層Geoffrey Hinton。

公開信未有詳細說明AI可能帶來的潛在威脅,只提到「減輕AI能滅絕人類的風險,應該與其他社會規模的重大風險,例如流行病和核戰,並列為全球優先事項」。CAIS表示,公開信旨在引起各界對AI技術風險的關注及討論。

AI技術恐影響美國總統大選

早在本月中,Altman出席由美國參議院司法委員會旗下「隱私、技術和法律小組委員會」召開的人工智能聽證會時,就曾作出警告,AI技術可能操控訊息,並對明年進行的美國大選造成影響。

同時,他呼籲應該成立一個美國或全球規模的機構,對超過一定規模的AI企業頒發許可證,並擁有取消的權限,以確保該技術發展符合安全標準。

密切留意BossMind動向!立即CLS

FB    Instagram    Youtube

#
Social media & sharing icons powered by UltimatelySocial
error

Enjoy this blog? Please spread the word :)