直擊WAIC | 圖靈獎得主約書亞?本吉奧：人工智能的規(guī)劃推理能力有望在10年內(nèi)達到人類水平
快訊
2025年07月27日 09:30 3
admin
專題：2025世界人工智能大會
2025世界人工智能大會（WAIC 2025）于7月26-28日在上海舉辦。圖靈獎得主約書亞?本吉奧表示，人工智能的規(guī)劃推理能力有望在10年內(nèi)達到人類水平。
他提醒，若缺乏堅實防護措施，強大的人工智能系統(tǒng)可能放大現(xiàn)有風險，如虛假信息、網(wǎng)絡攻擊和生物威脅等。更令人擔憂的是，人類可能失去對自我保護型智能體的控制，這些智能體認知能力或?qū)⒑芸斐饺祟?。即便風險很小，超級智能與人類競爭也可能帶來災難性后果，甚至導致人類滅絕。
他強調(diào)，只要科學界仍有相當比例認為這種情況可能發(fā)生，就必須保持最高警惕。目前尚無科學驗證方法確保人工智能可信且始終遵從人類意圖。更糟糕的是，欺騙和自我保護行為在最強模型中似乎更加明顯。
新浪聲明：所有會議實錄均為現(xiàn)場速記整理，未經(jīng)演講者審閱，新浪網(wǎng)登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其描述。
最新評論