直擊WAIC | 圖靈獎(jiǎng)得主約書亞?本吉奧：目前無(wú)法確保人工智能可信且始終遵從人類意圖
專題：2025世界人工智能大會(huì)
2025世界人工智能大會(huì)（WAIC 2025）于7月26-28日在上海舉辦。圖靈獎(jiǎng)得主約書亞?本吉奧表示，人工智能的規(guī)劃推理能力有望在10年內(nèi)達(dá)到人類水平。
他提醒，若缺乏堅(jiān)實(shí)防護(hù)措施，強(qiáng)大的人工智能系統(tǒng)可能放大現(xiàn)有風(fēng)險(xiǎn)，如虛假信息、 *** 攻擊和生物威脅等。更令人擔(dān)憂的是，人類可能失去對(duì)自我保護(hù)型智能體的控制，這些智能體認(rèn)知能力或?qū)⒑芸斐饺祟?。即便風(fēng)險(xiǎn)很小，超級(jí)智能與人類競(jìng)爭(zhēng)也可能帶來(lái)災(zāi)難性后果，甚至導(dǎo)致人類滅絕。
他強(qiáng)調(diào)，只要科學(xué)界仍有相當(dāng)比例認(rèn)為這種情況可能發(fā)生，就必須保持更高警惕。目前尚無(wú)科學(xué)驗(yàn)證 *** 確保人工智能可信且始終遵從人類意圖。更糟糕的是，欺騙和自我保護(hù)行為在最強(qiáng)模型中似乎更加明顯。
新浪聲明：所有會(huì)議實(shí)錄均為現(xiàn)場(chǎng)速記整理，未經(jīng)演講者審閱，新浪網(wǎng)登載此文出于傳遞更多信息之目的，并不意味著贊同其觀點(diǎn)或證實(shí)其描述。
標(biāo)簽： 圖靈獎(jiǎng) 約書亞 吉奧
相關(guān)文章
-
直擊WAIC | 圖靈獎(jiǎng)得主約書亞?本吉奧：人工智能的規(guī)劃推理能力有望在10年內(nèi)達(dá)到人類水平詳細(xì)閱讀
專題：2025世界人工智能大會(huì) 2025世界人工智能大會(huì)（WAIC 2025）于7月26-28日在上海舉辦。圖靈獎(jiǎng)得主約書亞?本吉奧表示，人工智能...
2025-07-27 7 圖靈獎(jiǎng) 約書亞 吉奧