編者的話：伴隨著AI技術(shù)日新月異的發(fā)展，人類對AI的感受總是期待伴隨著焦慮，驚嘆夾雜著不安全感。近日，第二屆全球人工智能（AI）安全峰會在韓國首爾召開，來自全球政治、經(jīng)濟、科技界人士再次聚首，共話AI安全相關(guān)話題。本次峰會距首屆峰會召開和會議成果——《布萊奇利宣言》的簽署發(fā)布僅過去半年。各國在擔(dān)憂什么？有哪些AI安全議題值得關(guān)注？
潛在風(fēng)險加深不安全感
李志起
“AI風(fēng)險防范”始終是AI治理工作的重中之重。技術(shù)的“雙刃劍效應(yīng)”在AI領(lǐng)域尤為明顯，它為我們帶來便利的同時，諸多潛在風(fēng)險也在不斷加深作為普通用戶的不安全感：從個人隱私泄露到算法偏見，再到無法預(yù)料的決策失誤，對這些風(fēng)險的擔(dān)憂無處不在。正因如此，更為嚴(yán)格的風(fēng)險評估機制、可執(zhí)行性更高的風(fēng)險防范措施、全球各國更及時的合作交流才顯得更為重要。
風(fēng)險防范之外，全球AI治理還涉及多個重要議題，它們共同構(gòu)成了AI發(fā)展的多維框架。這些議題同樣需要重點關(guān)注，具體如下：
首先是AI技術(shù)的倫理道德、標(biāo)準(zhǔn)規(guī)范以及創(chuàng)新發(fā)展等。在倫理道德方面，應(yīng)推動制定全球通用的AI倫理準(zhǔn)則，規(guī)范AI技術(shù)的研發(fā)和應(yīng)用行為，確保其符合人類價值觀和道德標(biāo)準(zhǔn)。在標(biāo)準(zhǔn)規(guī)范方面，各國應(yīng)攜手制定AI技術(shù)的國際標(biāo)準(zhǔn)和規(guī)范，以提升技術(shù)的互操作性和降低應(yīng)用風(fēng)險。同時，鼓勵和支持AI技術(shù)的創(chuàng)新與發(fā)展也至關(guān)重要，通過政策引導(dǎo)、資金投入和人才培養(yǎng)等措施，推動AI技術(shù)在各個領(lǐng)域?qū)崿F(xiàn)突破與進步。
其次，AI技術(shù)帶來的就業(yè)與社會影響同樣是我們必須正視的重要問題。隨著AI技術(shù)的不斷發(fā)展和普及，越來越多的傳統(tǒng)崗位面臨著被自動化取代的風(fēng)險。這種取代不僅可能導(dǎo)致大量勞動力失業(yè)，還可能對社會的經(jīng)濟結(jié)構(gòu)和穩(wěn)定性造成深遠影響。例如，一些重復(fù)性高、技能要求相對較低的工作崗位，如數(shù)據(jù)錄入員、客服代表等，很可能會被智能機器人或自動化系統(tǒng)所替代。因此，在全球AI治理的進程中，各國政府必須高度關(guān)注AI技術(shù)對就業(yè)市場的具體影響。為了應(yīng)對這些挑戰(zhàn)，政府需要制定相應(yīng)的政策和措施，旨在保障勞動者的合法權(quán)益，減輕因技術(shù)進步而帶來的就業(yè)壓力。這可能包括提供職業(yè)培訓(xùn)項目，以幫助工人提升技能，適應(yīng)新的就業(yè)環(huán)境；創(chuàng)造更多與AI技術(shù)相關(guān)的新興就業(yè)崗位，以吸納因自動化而失業(yè)的勞動力；以及完善社會保障體系，為受影響的工人提供必要的生活保障。
再次，數(shù)據(jù)隱私與保護也應(yīng)該成為全球AI治理中的重要議題。AI技術(shù)的訓(xùn)練和應(yīng)用離不開大量數(shù)據(jù)，而數(shù)據(jù)的收集和使用往往涉及個人隱私保護的問題。因此，各國在參與全球人工智能治理時，應(yīng)加強對數(shù)據(jù)隱私的保護，制定嚴(yán)格的數(shù)據(jù)安全法規(guī)，以防止數(shù)據(jù)泄露和濫用。（作者是北京市政協(xié)經(jīng)濟委員會副主任，振興國際智庫理事長）
發(fā)展中國家需要更多參與
李 崢
短短半年，西方主要國家政府及全球頂尖AI企業(yè)已兩次專門就AI治理問題召開專門會議，體現(xiàn)出各國對于當(dāng)前AI全球治理發(fā)展進度緩慢的擔(dān)憂。近半年內(nèi)，AI技術(shù)又出現(xiàn)了一些新的變化，主要體現(xiàn)在三方面。一是生成式AI持續(xù)高速發(fā)展，在多模態(tài)領(lǐng)域取得顯著技術(shù)進步和應(yīng)用發(fā)展。多模態(tài)的生成式AI意味著該技術(shù)能夠在不同種類信息中自由切換，更自如地生成和理解數(shù)字社會和人類文明。AI生成的內(nèi)容更加豐富和準(zhǔn)確，這一進步將讓生成式AI顯著擴大其應(yīng)用領(lǐng)域。與此同時，甄別AI生成內(nèi)容的難度也在不斷增加，信息偽造更加泛濫。如果缺乏更加嚴(yán)格的治理和標(biāo)準(zhǔn)，管控生成式AI不被濫用將成為不可能任務(wù)。
第二，先進AI越發(fā)廣泛地運用于生物技術(shù)、化學(xué)材料、軍事安全等實體領(lǐng)域，AI與制造業(yè)的結(jié)合正變得愈發(fā)緊密。這一趨勢意味著AI的影響將不限于數(shù)字和虛擬空間，將成為一國生產(chǎn)力、軍事工業(yè)能力以及前沿技術(shù)發(fā)展的倍增器。這場AI革命對于各國而言機遇和挑戰(zhàn)并不相同。
三是AI產(chǎn)業(yè)開發(fā)的成本、基礎(chǔ)條件和制約因素愈發(fā)清晰。近半年來，業(yè)界愈發(fā)關(guān)注AI產(chǎn)業(yè)化后對能源、水資源、人才、環(huán)境、硬件等領(lǐng)域的需求和影響。業(yè)界普遍認為，AI高能耗、需要巨大初始投入、后期迭代成本高的特點將難以發(fā)生變化。這意味著建設(shè)AI產(chǎn)業(yè)集群的門檻較高，大多數(shù)國家難以支撐初始研發(fā)或完全技術(shù)自主的成本。AI產(chǎn)業(yè)的未來極有可能仍然是中心化形態(tài)，即少數(shù)企業(yè)和國家在全球AI技術(shù)生態(tài)中處于無法替代的地位。這種情況讓中等發(fā)達國家尤為擔(dān)憂，擔(dān)心該技術(shù)可能進一步拉大這些國家與主要大國之間的差距。
從首爾峰會的情況看，當(dāng)前AI技術(shù)進步顯著快于全球治理進度，AI安全主要依賴少數(shù)頭部企業(yè)自身承諾，以及廣大AI發(fā)展滯后國家的訴求未被充分接納是困擾當(dāng)前全球AI安全治理進程的三大問題。除了此次峰會上提出的所謂“底線原則”以及頭部企業(yè)的承諾之外，全球AI治理更需要盡量包容采納發(fā)展中國家的整體訴求，采取實際措施解決AI的發(fā)展鴻溝問題。該進程需要有更多發(fā)展中國家引領(lǐng)和參與。（作者是中國現(xiàn)代國際關(guān)系研究院美國研究所所長助理）
應(yīng)對“超速技術(shù)綜合征”
沈 陽
在AI如影隨形的時代，公眾對未來AI的安全性充滿不確定和焦慮。機器是否會取代人類的工作？個人隱私是否能得到保護？AI的決策是否可控？從去年11月首屆全球AI安全峰會到本周的第二屆峰會，人們對AI技術(shù)的關(guān)注已從單模態(tài)內(nèi)容生成（如文本數(shù)據(jù)）走到了多模態(tài)內(nèi)容生成（如視頻數(shù)據(jù)）。AI的發(fā)展可謂一浪高過一浪。這不僅僅是技術(shù)的躍進，更是一場全球性、人類共同應(yīng)對挑戰(zhàn)與機遇的雙重奏。
在后現(xiàn)代社會的人類焦慮中，技術(shù)的發(fā)展速度正在超越社會和法規(guī)的適應(yīng)能力，并引發(fā)倫理、安全及社會等層面的多維問題，針對這個現(xiàn)象，我們可以稱之為：超速技術(shù)綜合征。
在AI領(lǐng)域，“超速技術(shù)綜合征”可具體投射在如下維度：比如，AI的快速迭代不僅重塑了商業(yè)模式，帶來了前所未有的便捷，同時也暴露了數(shù)據(jù)安全、算法偏見及自動化引發(fā)的失業(yè)等問題。又如，AI的進步加速了數(shù)字鴻溝，技術(shù)紅利和風(fēng)險在全球范圍內(nèi)的不均衡分配，使得發(fā)達國家和技術(shù)巨頭可能進一步擴大與發(fā)展中地區(qū)的差距。再如，技術(shù)發(fā)展的雙刃劍效應(yīng)日益明顯，AI在優(yōu)化資源分配、提高生產(chǎn)效率方面的積極作用不言而喻，然而它也可能導(dǎo)致資源分配不公、勞動力市場的動蕩，等等。
如何應(yīng)對“超速技術(shù)綜合征”，為全球社會注入一針鎮(zhèn)定劑？跨國合作和全球統(tǒng)一的行業(yè)標(biāo)準(zhǔn)制定顯得尤為關(guān)鍵。全球合作與橫跨政治、經(jīng)濟和商業(yè)實體之間的安全承諾，實質(zhì)上是在為AI發(fā)展筑起了一道安全屏障，試圖營造一個更可預(yù)測、更安全的技術(shù)生態(tài)，以減緩由技術(shù)引發(fā)的社會焦慮。以近期在首爾召開的AI安全峰會為例，本次發(fā)布的《首爾宣言》就指出，人工智能安全、創(chuàng)新、包容是相互關(guān)聯(lián)的目標(biāo)，國際社會有必要將其列為全球AI治理結(jié)構(gòu)的首要議題。各方敦促通過以人為本的AI技術(shù)解決全球性難題，以增進民主、法治、人權(quán)、自由等價值，加大隱私保護力度，消除數(shù)字和AI鴻溝，提升人類福利水平。
消除“超速技術(shù)綜合征”需要更多全球技術(shù)企業(yè)和政府之間的對話，也需要科技與社會的妥協(xié)與合作。通過國際間的協(xié)作，我們可以更有效地應(yīng)對技術(shù)帶來的挑戰(zhàn)，確保AI成為推動人類社會進步的正能量