首頁 -> 頭條

科學家緊急叫停人工智能 稱有機會對人類社會構成危險

分享到:
2023-03-30 09:17 | 稿件來源:香港新聞網

【字號:

香港新聞網3月30日電  一封警示AI風險的公開信在矽谷科技圈廣為流傳。美國非牟利機構生命未來研究所(Future of Life)昨(29日)向全社會發佈了一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。包括特斯拉CEO馬斯克、Stability AI的首席執行官莫斯塔克(Emad Mostaque)、谷歌旗下DeepMind的研究人員,以及人工智能領域的重量級人物本希奧(Yoshua Bengio)和羅素(Stuart Russell)等在內的1000多名該領域的專家、科技人員、產業高層都在這封公開信上簽了名。

生命未來研究所發表公開信,警告人工智能高速發展,對世界歷史會有深遠改變,應妥善規劃和管理,但近月各人工智能實驗室競爭瀕臨失控,所研發出的人工智能,甚至連創造者都無法駕馭,擔心人工智能最終或會取代人類。

信中呼籲各人工智能實驗室暫停相關研發六個月,並與獨立專家制定安全協議,認為應只有在人類確保人工智能可帶來正面影響以及風險可控時才繼續研發,信中強調不是要暫停人工智能發展,只是在危險競爭中退後一步。

歐盟執法機構歐洲刑警組織(Europol)日前曾警告稱,人工智能聊天機器人ChatGPT可能被濫用於網絡釣魚、宣傳虛假信息以及網絡犯罪。“ChatGPT能夠起草高度逼真的文本,這使其成為網絡釣魚的有用工具。”

該機構表示,由於該聊天機器人擁有復制語言模式的能力,可以模仿特定個人或群體的說話風格,犯罪分子可能會利用它來瞄準受害者。電動汽車特斯拉正在將人工智能運用於自動駕駛系統,但是特斯拉CEO馬斯克卻一直對人工智能表達擔憂。

投資銀行高盛近日也發表報告指,人工智能可以取代相當於3億份全職工作的工作量,在美國及歐洲各行各業,平均約四分之一的工作可以由人工智能完成,當中最受影響的是文職工作。

隨著科技發展,人工智能應用範疇越趨廣泛,人類社會的結構或在某個時期會發生重大改變,這也許就是科學家們所擔心的。

OpenAI是研發ChatGPT和GPT-4的公司,但OpenAI本身并沒有在這封公開信上聯署,有參與聯署的學者認同應加強監管,認為研發背後可能有不為外界所知的內幕,隨時危害社會。

在公開信上簽了名的紐約大學教授馬庫斯(Gary Marcus)說:“這封信並不完美,但是要傳遞的精神準確:在我們更好地瞭解後果之前,我們需要放慢腳步。”他說:“那些大的玩家對他們正在做的事情變得越來越神秘,這使得社會很難抵禦可能出現的任何危害。”(完)

【編輯:錢林霞】

視頻

更 多
第44屆和第45屆東盟峰會閉幕 馬來西亞將於明年擔任主席國
東盟峰會歡迎晚宴 多國政要出席
【通講壇】賴清德“雙十”講話再提“互不隸屬” 美國會為其兜底嗎?
首屆香港演藝博覽即將開幕 霍啟剛:這是一個重要的開始
中國國務院總理李強抵達老撾 出席東亞合作領導人系列會議
東盟峰會揭幕!十成員國領導人齊聚老撾 多位新領導人亮相
現場實拍|東盟峰會各國官員的用車都是這個中國品牌