6月10日，OpenAI 首席執(zhí)行官山姆 · 阿爾特曼（Sam Altman）在2023智源大會(huì)AI安全與對齊論壇上發(fā)表演講。演講中，阿爾特曼表示，未來十年，通用人工智能（Artificial General Intelligence，AGI）將在幾乎所有領(lǐng)域超越人類的專業(yè)知識，但與此同時(shí)，中國、美國和世界各地的研究人員必須共同管理AGI的風(fēng)險(xiǎn)，推進(jìn)AGI安全是大家尋找共同點(diǎn)的最重要領(lǐng)域之一。

(資料圖片)

“隨著日益強(qiáng)大的人工智能系統(tǒng)的出現(xiàn)，全球合作的賭注從未如此之高。”阿爾特曼表示，如果不小心，一個(gè)旨在改善公共衛(wèi)生結(jié)果的人工智能系統(tǒng)很可能出現(xiàn)錯(cuò)位，提供毫無根據(jù)的建議，從而擾亂整個(gè)醫(yī)療保健系統(tǒng)。類似地，為優(yōu)化農(nóng)業(yè)實(shí)踐而設(shè)計(jì)的人工智能系統(tǒng)可能會(huì)無意中耗盡自然資源或破壞生態(tài)系統(tǒng)，從而缺乏對長期可持續(xù)性的考慮，影響糧食生產(chǎn)和環(huán)境平衡。

“不計(jì)后果地進(jìn)行AGI開發(fā)和部署，造成的事故成本會(huì)影響到我們所有人。”阿爾特曼認(rèn)為，首先業(yè)內(nèi)應(yīng)包容地建立國際規(guī)范和標(biāo)準(zhǔn)，并為所有國家平等使用AGI提供保障。其次，應(yīng)積極開展國際合作，建立全球信任，以可驗(yàn)證的方式安全開發(fā)日益強(qiáng)大的人工智能系統(tǒng)。“我不幻想這會(huì)很容易，但就像《道德經(jīng)》所言，千里之行，始于足下。”

在阿爾特曼看來，行業(yè)最具建設(shè)性的第一步已經(jīng)邁出：與國際科學(xué)和技術(shù)界合作。在技術(shù)進(jìn)步方面，行業(yè)應(yīng)該增加透明度和促進(jìn)知識共享，研究人員如果發(fā)現(xiàn)了新的安全問題，應(yīng)該站在更大利益層面思考，分享他們的成果。同時(shí)，行業(yè)也應(yīng)該促進(jìn)對AGI安全研究方面的投資，并積極開展可擴(kuò)展的監(jiān)督。比如可以嘗試使用人工智能系統(tǒng)來協(xié)助人類監(jiān)督其他人工智能系統(tǒng)。“這樣的好處是它可以隨著人工智能發(fā)展的步伐而擴(kuò)展，變得越來越智能和有用。”

“我們看到了美國、中國和世界各地的研究人員合作實(shí)現(xiàn)共同目標(biāo)的巨大潛力，并致力于解決AGI發(fā)展中突出的技術(shù)挑戰(zhàn)。”阿爾特曼相信，人類將能夠利用AGI來解決世界上最重要的問題，并顯著改善人類的生活質(zhì)量。

來源：北京日報(bào)客戶端

流程編輯：u007

版權(quán)說明：任何媒體、網(wǎng)站或個(gè)人未經(jīng)書面授權(quán)許可不得轉(zhuǎn)載、摘編或利用其它方式使用本網(wǎng)站上的文字、圖片、圖表、漫畫、視頻等內(nèi)容。

未經(jīng)許可即使用，或以此盈利的，均系侵害本網(wǎng)站著作權(quán)及相關(guān)權(quán)益的行為，本網(wǎng)站將追究法律責(zé)任。

如遇作品內(nèi)容、版權(quán)等問題，請?jiān)谙嚓P(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系。

聯(lián)系方式：takefoto@vip.sina.com

標(biāo)簽：