【資料圖】

隨著ChatGPT的橫空出世，人工智能目前幾乎一天一個(gè)臺(tái)階，向著人類(lèi)不可預(yù)測(cè)的方向發(fā)展。

近日，加拿大蒙特利爾大學(xué)教授約書(shū)亞·本吉奧（Yoshua Bengio）嗅覺(jué)到了一絲來(lái)自人工智能的危險(xiǎn)，作為2018年圖靈獎(jiǎng)（計(jì)算機(jī)領(lǐng)域的國(guó)際最高獎(jiǎng)項(xiàng)）得主的他，發(fā)表公開(kāi)信，強(qiáng)烈呼吁暫停所有比GPT4先進(jìn)的AI系統(tǒng)暫停研發(fā)6個(gè)月。如今，這一建議已在網(wǎng)上獲得了來(lái)自各領(lǐng)域超1000人的公開(kāi)支持。

公開(kāi)信中，約書(shū)亞·本吉奧表示：大量研究證實(shí)，能與人在智力方面競(jìng)爭(zhēng)的AI系統(tǒng)可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，高級(jí)AI雖然可能帶來(lái)世界生命史上的深刻變化，但也理應(yīng)受到相應(yīng)的管理。不幸的是，目前與AI發(fā)展相應(yīng)的規(guī)劃與管理并不存在，最近幾個(gè)月，世界各地陷入了無(wú)序的AI競(jìng)賽。沒(méi)有人，哪怕創(chuàng)造出這些系統(tǒng)的人也沒(méi)辦法預(yù)測(cè)甚至有效的實(shí)施控制。

目前，人工智能在一般工作上已經(jīng)變得與人具有同等的競(jìng)爭(zhēng)力，但我們是否也應(yīng)該先捫心自問(wèn)：我們是否應(yīng)該讓它們生產(chǎn)的謊言來(lái)充斥我們的信息渠道，我們是否應(yīng)該自動(dòng)化所有的工作？我們應(yīng)該冒著失去我們對(duì)文明控制的風(fēng)險(xiǎn)來(lái)發(fā)展它們嗎？

因此，我們呼吁要求所有比GPT4先進(jìn)的AI系統(tǒng)暫停研發(fā)6個(gè)月，然后制定對(duì)這種超過(guò)人類(lèi)能力東西的對(duì)策，并建議，如果不暫停，應(yīng)該由政府強(qiáng)制暫停。

最后，約書(shū)亞·本吉奧還認(rèn)為AI開(kāi)發(fā)者必須要與監(jiān)管者合作，開(kāi)發(fā)強(qiáng)大的AI管理系統(tǒng)。比如要有專(zhuān)門(mén)負(fù)責(zé)AI監(jiān)管的機(jī)構(gòu)，監(jiān)督并跟蹤AI系統(tǒng)的大量計(jì)算；以及對(duì)AI產(chǎn)出的內(nèi)容進(jìn)行水印等標(biāo)記，幫助人類(lèi)識(shí)別真假；甚至還要為AI的安全研究提供充足的資金，來(lái)應(yīng)對(duì)AI可能造成的經(jīng)濟(jì)或政治破壞。

目前，約書(shū)亞·本吉奧的公開(kāi)信已經(jīng)有超過(guò)1000多人的公開(kāi)簽名與支持，其中也不乏一些知名人士，如其他計(jì)算機(jī)領(lǐng)域的專(zhuān)家以及世界數(shù)一數(shù)二的富豪馬斯克，還有蘋(píng)果公司的聯(lián)合創(chuàng)始人斯蒂夫·蓋瑞·沃茲尼亞克。

關(guān)鍵詞：