】 【打 印】 
“AI教父”憂AI反客為主
http://www.crntt.hk   2024-10-09 18:25:42
  中評社北京10月9日電/據大公報消息,綜合BBC、《紐約時報》報導:2024年諾貝爾物理學獎得主之一的欣頓雖有“AI教父”之稱,但多次公開表達對AI技術潛在風險的擔憂。他2013年加入谷歌,但去年宣布辭職,以便“自由地談論AI的風險”。

  去年5月1日,欣頓證實自己已辭去谷歌副總裁的職位。他警告說,AI系統學習速度驚人,會變得越來越危險,“目前它們不比我們聰明,但我認為很快就會”。他認為,短期內,生成式AI可能引發假資訊狂潮。去年5月30日,包括欣頓在內的350多名AI領域的行業高管、專家和教授在非營利組織人工智能安全中心(CAIS)的網站上發表聯署公開信,信中說:“減輕AI帶來的滅絕風險,應該與流行病和核戰爭等其他社會規模的風險一起,成為全球優先事項。”CAIS列出幾種AI可能引發的災難,包括AI被用來製造生化武器、AI生成的錯誤信息破壞社會穩定等。

  今年3月,欣頓重申對AI的擔憂。他說,AI的危險之處在於其可能採用對人類有害的手段來實現被設定的目標,並且AI之間還可能出現競爭。“面對通過競爭變得更聰明的AI,我們人類將會落後。很多人主張,要防止AI失控,只要關掉電源開關即可。但超越人類智慧的AI可以用語言操縱我們,或許會試圖說服我們不要關掉開關。”

          
】 【打 印】 

 相關新聞: