3 月底，非營(yíng)利組織未來生命研究所發(fā)表一封公開信，呼吁暫停研發(fā)比 GPT-4 更強(qiáng)大的人工智能（AI）系統(tǒng)至少 6 個(gè)月。公開信獲得了千余名該領(lǐng)域?qū)＜摇⒖萍既藛T、產(chǎn)業(yè)高層的簽名，其中包括中國(guó)科學(xué)家曾毅。

作為聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家，曾毅也是中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任。當(dāng)下的人工智能亟需解決哪些負(fù)面影響？身為 AI 技術(shù)和倫理專家，為何會(huì)在這封引發(fā)空前關(guān)注的公開信上簽名？圍繞這些話題，本報(bào)記者與曾毅進(jìn)行了對(duì)話。

文匯報(bào)：您為何認(rèn)為暫停 6 個(gè)月 AI 大模型研發(fā)是必要的？如何看待此次辛頓用離職發(fā)出的 AI 警告？

(資料圖片)

曾毅：生成式 AI 大模型的發(fā)展速度可以在幾周內(nèi)將潛在風(fēng)險(xiǎn)轉(zhuǎn)變?yōu)閷?shí)存風(fēng)險(xiǎn)，不負(fù)責(zé)任地研發(fā)和使用 AI 可能在短期內(nèi)對(duì)社會(huì)造成顯著而急迫的風(fēng)險(xiǎn)。

眼下，人工智能企業(yè)都在布局大模型，但很少有人說如何去防范風(fēng)險(xiǎn)。正因?yàn)槲覀儗?duì) AI 潛在的風(fēng)險(xiǎn)還沒有完全準(zhǔn)備好，但已經(jīng)開始過早且過于激進(jìn)地嘗試，所以我覺得暫停 6 個(gè)月是必要的，先去解決一些潛在風(fēng)險(xiǎn)，先好好思考一下。當(dāng)然，6 個(gè)月只是一個(gè)倡議，是一個(gè)可以嘗試的時(shí)段，能夠取得一定效果肯定比不做準(zhǔn)備要強(qiáng)得多。但是，6 個(gè)月之內(nèi)是否能夠充分思考相關(guān)風(fēng)險(xiǎn)，并做到防范？我覺得這是不夠的。

我認(rèn)為，應(yīng)對(duì) AI 潛在威脅與應(yīng)對(duì)氣候變化危機(jī)并不存在重要性的差別，AI 帶給人類的挑戰(zhàn)可能更緊迫。而且，AI 技術(shù)每往前發(fā)展一步，人類對(duì)于倫理安全方面的考慮也需要前進(jìn)一步。AI 治理對(duì)其未來發(fā)展而言已經(jīng)不是一道選擇題，而是必答題。

文匯報(bào)：人類歷史上有過很多次由新技術(shù)誕生而引發(fā)的危機(jī)時(shí)刻，您認(rèn)為此次生成式 AI 給人類帶來的影響和以往一樣嗎？

曾毅：生成式 AI 技術(shù)有能力合成虛假信息，極大降低了社會(huì)信任，該項(xiàng)技術(shù)的濫用、惡用，使得現(xiàn)今眼見、耳聽都難以為實(shí)。這對(duì)于人與社會(huì)之間的關(guān)系提出了前所未有的挑戰(zhàn)。從長(zhǎng)遠(yuǎn)來看，生成式 AI 大模型等技術(shù)正在試圖模糊人與 AI 之間的界限。

現(xiàn)階段的 AI 只是看似智能的信息處理工具，并不具有真正的理解能力和真正意義的智能。它可以用來輔助人類決策，卻不能代替人類決策，因?yàn)樗⒉皇秦?zé)任主體，也不具有生命。然而，諸多應(yīng)用領(lǐng)域正在嘗試用其替代人類，無法作為責(zé)任主體的 AI 工具被錯(cuò)誤地賦予責(zé)任主體的責(zé)任與義務(wù)，這將對(duì)人類與社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)而廣泛的影響。

文匯報(bào)：您認(rèn)為人類有可能始終掌控 AI，讓它永遠(yuǎn)只作為工具存在嗎？要實(shí)現(xiàn)這一目標(biāo)，人類有哪些手段？

曾毅：我們沒有選擇，對(duì)于作為工具的 AI，我們必須竭力做好倫理安全框架、測(cè)試和負(fù)責(zé)任的部署，同時(shí)引導(dǎo) AI 賦能可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。目前，AI 賦能的實(shí)踐主要在教育與健康領(lǐng)域，因?yàn)檫@兩個(gè)領(lǐng)域有更明確的經(jīng)濟(jì)收益。而對(duì)于一些全球性的議題，例如生物多樣性保護(hù)、氣候變化、公平公正等對(duì)于人類的生存與發(fā)展極為重要的問題，AI 的貢獻(xiàn)微乎其微，這是人類使用 AI 這一工具時(shí)必須意識(shí)到并采取行動(dòng)的。

我們應(yīng)從制度建設(shè)和技術(shù)護(hù)航兩方面引導(dǎo) AI 向善。從制度建設(shè)與實(shí)踐角度講，制定倫理安全原則、規(guī)范及相關(guān)立法是必要的社會(huì)保障。從技術(shù)護(hù)航角度看，通過 AI 技術(shù)實(shí)現(xiàn)倫理安全關(guān)切，落地法律法規(guī)要求，并根據(jù)目前的技術(shù)瓶頸及時(shí)與制度建設(shè)互動(dòng)，實(shí)現(xiàn)敏捷自適應(yīng)治理是關(guān)鍵所在。

文匯報(bào)：在您的設(shè)想中，未來人類與 AI 應(yīng)當(dāng)是一種什么樣的關(guān)系？

曾毅：現(xiàn)在，AI 正以一種試探、嘗試的方式去改變社會(huì)，人類社會(huì)則是以一種被動(dòng)的姿態(tài)去應(yīng)對(duì)，而不是我們所期待的主動(dòng)去迎接技術(shù)變革，更多人是疲于應(yīng)對(duì)。

如果把技術(shù)發(fā)展脈絡(luò)放到更長(zhǎng)的歷史當(dāng)中來看，人類應(yīng)該回歸其自身的位置，從事更多具有創(chuàng)造性的、情感交互的工作。比如在家照顧孩子和老人，關(guān)愛社會(huì)中的年長(zhǎng)者和弱勢(shì)群體，這些工作恰恰是 AI 最難替代的。在城市發(fā)展中，有必要給人留出沒有必要使用 AI 的空間，并且讓人們可以有選擇權(quán)，決定使用或者不用這項(xiàng)技術(shù)。

文匯報(bào)：不少專家認(rèn)為，AI 最大的影響在于教育。在您看來，AI 時(shí)代應(yīng)培養(yǎng)孩子的哪些能力？

曾毅：現(xiàn)在有很多家長(zhǎng)非常焦慮，總是在想我的孩子是不是應(yīng)該盡早地接觸人工智能。在我看來恰恰相反。如果真的學(xué)有余力的話，讓孩子去學(xué)一門心理學(xué)，接觸認(rèn)知心理學(xué)的基礎(chǔ)，讓他對(duì)人本身有更多的認(rèn)識(shí)——人類的智慧到底是怎么回事？我們的內(nèi)心是什么樣的？人如何為人？事實(shí)上，生成式 AI 讓人更明白 " 何以為人 "。因此，我覺得孩子們有必要學(xué)點(diǎn)哲學(xué)，在年輕的時(shí)候就去思考這些問題。

作者：沈湫莎

圖片：pixabay.com

* 文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。