AI大戰|Google員工形容:Bard是病態騙子 常提供危險建議 懇求不要推出

|

隨着OpenAI推出的ChatGPT熱爆全球,科網巨頭Google為追上競爭對手步伐,亦推出聊天機器人Bard。不過,據彭博引述一份Google內部員工討論Bard的報告,直指Bard「比無用更差」(Worse than useless),而且是「病態的騙子」(Pathological liar),懇求公司不要推出市場。

Bard「自稱」:不要依賴

據報Google內部討論中提到,Bard經常向用戶提供危險建議,例如向Bard詢問如何降落飛機時,往往給出會導致墜機的建議;另Bard提供的關於潛水的建議是「可能會導致重傷或死亡」。

另有外媒記者實測Bard,問其建議是否有潛在危險,Bard回答指 「我的建議可能是危險的,特別是如果問題是關於健康或其他敏感話題。我仍在開發中,而且我並不總是能夠區分好建議和壞建議」,Bard更指「不要依賴其建議作重要決定,並且它不具備與人類相同水平的理解和知識」。

AI倫理被指退居二線

報道指出,在正式發佈Bard前,Google的AI治理負責人Jen Gennai否決了其團隊的風險評估,當時他們說Bard的答案可能有害,但Google最終仍在於3月推出Bard。

Google前經理Meredith Whittaker直言,AI倫理在公司中退居二線。另據Google在職員工和前員工們透露,Google承諾加強的科技倫理團隊,目前沒有話語權,士氣低落,並被告知不要妨礙或試圖扼殺正在開發中的任何生成式人工智能工具。多名員工認為,這間值得信賴的互聯網搜索巨頭正在提供低質量的信息,以跟上競爭對手步伐,同時不太重視道德承諾。

不過,Google發言人Brian Gabriel回應指,人工智能道德仍然是公司的首要任務,公司將繼續投放資源將AI原則應用於技術團隊。據知,早前Google的裁員潮中,至少涉及3名AI團隊的技術治理和項目主管。

密切留意BossMind動向!立即CLS

FB    Instagram    Youtube

#
Social media & sharing icons powered by UltimatelySocial
error

Enjoy this blog? Please spread the word :)