(相關資料圖)

孫明春丨立方大家談專欄作者

ChatGPT的發布及快速迭代引發了全球對人工智能（AI）技術研發與應用的新一輪熱潮。與此同時，AI技術快速發展可能給人類社會帶來的風險與挑戰也日益引發關注。3月29日，以馬斯克為首的上千名業界人士聯合發出公開信，呼吁“所有人工智能實驗室立即暫停對比GPT-4更強大的人工智能系統的培訓至少6個月”，以便給業界一段時間來“開發和實施一套高級人工智能設計和開發的共享安全協議”，“并給社會一個適應的機會”。

許多業界人士擔憂，作為一項有可能對各行各業產生顛覆性影響的技術，AI除了有可能導致大量就業崗位消失、加大貧富差距與不平等現象，還會帶來技術安全、數據濫用、隱私泄露、信息造假、算法偏見、技術洗腦、機器人操縱等諸多問題；有些人甚至擔憂AI會超越人類智慧，進而控制或取代人類，威脅人類社會的生存。雖然對這些風險尚存在爭議和分歧，但AI技術進步如此之快，很可能會快速超越全球經濟、社會、政治、法律乃至倫理規范的承接與適應能力。鑒于AI技術有可能給人類社會帶來重大風險，也許AI技術的確有必要放慢創新與應用的步伐，給人類社會更多適應的時間，以便在認知（包括知識、道德、文化理念等）及制度（如法律、教育、社會保障體系等）等方面抓緊準備和盡快追趕。

其實，各國政府、國際組織、學術界及行業領軍機構早已關注此類風險，并通過制定監管政策、倫理規范及自律措施來應對。例如，聯合國教科文組織于2017年發布了《機器人倫理報告》，經合組織（OECD）于2019年發布了《OECD人工智能原則》，歐盟在同年發布了《可信賴的AI倫理指南》，中國政府也于2019年發布了《新一代人工智能治理原則——發展負責任的人工智能》；微軟、谷歌、百度、騰訊等業內領軍企業都已制定了自身的AI技術開發的倫理原則，將相關風險作為高科技企業ESG實踐的一個重點領域來對待。

然而，這些舉措能否有效控制AI技術快速發展所帶來的重大風險？馬斯克等人的呼吁能否奏效？與馬斯克等人的呼吁形成鮮明對比的是，最近一兩個月，全球各大科技公司先后宣布了下一步的AI研究和投資計劃，一批業界知名人士紛紛投入到AI領域的創業熱潮之中，各行各業都在抓緊研究和制定類似于“ChatGPT+”的人工智能技術增強策略。面對巨大的業界競爭壓力和誘人的發展機遇，很難想象一家企業會主動暫停自身在該領域的研究和應用。

從這個意義上講，政府監管也許是必需的，但政府監管也面臨兩大難題。

一方面，AI技術的競賽不只是發生在企業之間，也是當前大國競爭的重大前沿領域。鑒于該技術對經濟發展乃至國防安全的重要性，很難想象哪個國家的政府會真正限制本國在該領域的技術進步，反而更有可能為其提供各類軟硬件支持，以幫助本國企業在國際競爭中脫穎而出。這意味著，類似于對核擴散的管控及應對氣候變化的措施，對AI技術的監管約束必須在全球范圍內、通過國家間的合作與妥協來實現。然而，在當前的全球地緣政治形勢下，在這個領域開展實質性國際合作的前景并不樂觀。

另一方面，即便要加強政府監管，如何針對一個加速發展、充滿大量未知可能性、影響各行各業乃至倫理規范的技術領域進行有效監管，在價值取向及利益分配方面必然存在諸多分歧。從經濟學角度來說，要找到既能控制風險、彌補市場失靈，又不遏制技術創新及經濟發展的監管平衡點，也極其困難。

綜上所述，今后幾年，AI技術的飛速發展很可能是不可避免的，其所帶來的某些風險與挑戰也將迅速變為現實。尤其是對就業的沖擊，很可能在3~5年里就會非常明顯。面對這種可能性，我們需要多管齊下，政府監管、企業自律、學術研究、個人準備都不可或缺。當務之急是要提高全社會對相關風險的認知度和關注度，將該議題提升到與應對氣候變化、防止核擴散等重大全球風險議題相當的水平，以推動各利益相關主體抓緊采取行動，以期防患于未然。從這個意義上講，即便馬斯克等人的呼吁未能阻止任何AI實驗室的研發進展，它在全球引起的廣泛關注及對公眾的啟蒙教育也意義重大。ESG投資者更要關注這一議題，利用手中的資本及其影響力，對緩解相關風險作出自己的貢獻。

責編:史健 | 審校:張翼鵬 | 審核:李震 | 監制:萬軍偉