在機器人“三大法則”的限制下，人類與機器人和諧相處，但在一起離奇的兇殺案發生后，警探調查發現機器人產生了自我意識，隨時可能成為人類的“公敵”……近年來，隨著通用人工智能迅速發展，二十年前上映的電影《我，機器人》中的恐怖劇情，成為現實的概率正逐漸增加。但對于人工智能國際治理的具體準則，國際社會仍未達成共識。
清華大學文科資深教授、國家新一代人工智能治理專業委員會主任薛瀾
2024年3月7日，中共中央政治局委員、外交部部長王毅在全國兩會記者會上表示，人工智能進入爆發式發展的關鍵階段。我們主張發展與安全并重，既要擁抱新事物新機遇，也要裝好剎車再上路，共同推進人工智能全球治理。
實現人工智能全球治理難在何處？人類真的需要經歷一場危機才能意識到人工智能的安全風險嗎？怎樣幫助發展中國家在人工智能發展中不掉隊？近日，就這些問題，《中國新聞周刊》專訪了清華大學文科資深教授、國家新一代人工智能治理專業委員會主任薛瀾。
分歧與共識
中國新聞周刊：過去一年來，人工智能全球治理成為國際社會的熱門話題，中美領導人舊金山會晤就此達成重要共識，中國發布《全球人工智能治理倡議》，提出“確保有益，確保安全，確保公平”的基本原則。與此同時，歐盟、英國等也推動召開了多次關于人工智能議題的峰會。在此背景下，我們距離形成一個全球性的人工智能治理共識還有多遠？
薛瀾：一方面，各國對人工智能全球治理的宏觀原則存在基本共識。中國、美國、歐盟提出的人工智能治理原則，都以負責、包容、平等、安全等理念為核心。但另一方面，世界各主要經濟體還沒有進入到就人工智能全球治理的具體措施進行充分、深入交流的階段。各國各自出臺了人工智能國內治理的法律或措施，但還沒有把這些規則拿到桌面上進行對比，看看對共識性原則的理解在實踐中是否有差異、是否可以協調形成全球性規則。
關于未來可能達成的全球性共識，我們首先要明確，人工智能治理有兩個核心內容。一是發展問題，即如何構建良好的制度規則，推動人工智能創新發展，科技向善；一是安全問題，包括保證安全底線和防范其他風險。這是所有治理邏輯都必須依托的出發點。
在安全底線問題上，全球有明顯的共同利益。大家都擔心人工智能未來可能不受人類社會控制。所以，大家會尋找為了維護共同利益而必須遵守的規則。但在一般的社會應用層面的風險問題上，各國對不同風險的評判不同，價值觀念不同等，會存在不同的立場。比如爭議很大的人臉識別技術，有些社會反應比較強烈，擔心會侵犯個人隱私及泄露個人信息；但也有些社會感覺如果應用恰當并加上合理的規制，承擔一些不高的風險可以換取更加方便的社會應用。
在發展問題上，各方的差別更大一些。以美國為例，相比中國和歐盟，美國一般來說比較強調自由市場的力量，依靠市場推動科技創新。在人工智能發展和治理方面，態度比較寬松，沒有進行單獨立法，而是以白宮行政令的形式要求企業遵循一系列規則。所以在人工智能規則制定方面，美國表現不算積極。
考慮到種種分歧，各方最終能否形成治理人工智能的全球性規則，還要打一個問號。一個可能的結果是：各國在安全底線問題上達成共識并建立機制，但在其他問題上，各國會按照各自的治理邏輯進行規制，并在一定程度上協調。
何處停步？
中國新聞周刊：人工智能的安全問題，和歷史上新技術帶給人類的安全挑戰相比，有什么不同之處？歷史上是否有什么技術安全治理的經驗可以汲??？
薛瀾：人類社會走到今天，在科技發展方面始終面臨著一個關鍵問題，即需要對新科技的發展進行收益和風險的評估和權衡。有些技術固然可以幫助我們實現更好的生活，但也可能帶來更大的安全風險，所以我們必須考慮在什么地方停步。
以生命科學領域的基因編輯技術為例，像賀建奎事件所體現的那樣，對人類基因進行編輯改造的事情在技術上是可能的，但在其背后的倫理和社會責任問題想清楚之前，世界各國的學術共同體和醫務界都認為這個技術不能再“向前一步”。通用人工智能技術從本質上說也是潛在風險極高，一旦出錯其后果可能是無法挽回的，屬于人類社會必須面對的終極技術。
因此，對于有極高風險的技術，我們需要持續關注安全問題。這方面的典型案例是核技術。核技術的產生就與戰爭緊密相關，并且被直接應用于戰爭，讓全世界所有人都看到了它所帶來的巨大傷亡和毀滅性風險。之后，從切爾諾貝利事故到福島核事故，一系列核事故帶來的災難一再提醒人們關注核技術的風險防控。據說目前全球核技術領域95％的研發經費都被用在安全防控的研發上。
中國新聞周刊：核技術確實是一個很好的例子，但對其安全問題的重視是發生在災難發生后。人類社會是否必須經歷一場大災難，才能真正推動對某項新技術的安全風險防控？
薛瀾：社會對于新技術的風險認識確實存在滯后性。所以，如何讓社會公眾對新技術的潛在危害程度有更清晰的認識，是一個巨大的挑戰。
人工智能技術和其他技術的安全風險還不太一樣。即使是原子彈這樣的核技術應用，它帶來的危害還是在人類控制之下的。而如果通用人工智能系統產生了自我保護、自我發展的意識，不再受人類控制，乃至無法接受人類是它主人的現實，那我們所有人類的生存都將面臨危險，這種安全問題一旦失控就是不可挽回的。所以，我們希望千萬不要走到這一步。
當然，如何幫助全社會對新興技術的風險建立一個全面客觀的認識也是刻不容緩的事情。一些文學藝術作品或科幻作品對于人工智能技術的風險也有一些不切實際的夸大，使得社會部分人群也對人工智能技術產生不必要的恐懼，這樣的情況也是需要注意的。
中國新聞周刊：在人工智能自主武器的治理上，以美國為代表的部分技術先進國家和其他國家之間的觀點并不相同。一些國家為了自己的軍事優勢，不希望禁止對高風險技術的研發和應用。這種難題如何破解？
薛瀾：提到人工智能在軍事沖突中的應用，我認為禁止人工智能在軍事領域的應用是我們大家共同努力的方向。只有這樣，才能最大程度地降低安全失控的風險。中國自2014年以來積極參與《特定常規武器條約》締約國關于致命性自主武器系統的討論，是最早提出應禁止開發和應用完全自主的致命性武器的國家之一。
但是，一些世界主要國家，特別是聯合國安理會的其他常任理事國，并沒有加入中國這一呼吁。之后，國際社會又提出禁止應用完全自主的大規模致命性武器（但不禁止開發）等主張，依然沒有得到除中國以外的其他大國的響應。
國際政治的現實是，一些國家認為自主武器是在戰爭中減少人員傷亡的好辦法，是讓自己形成戰略優勢的好工具。所以對于應當如何限制自主武器的開發應用，各國還存在不同的判斷。但即使這樣，有些安全問題是大家需要共同面對的。
一旦人工智能系統不受人類控制，我們面對的問題就不再是國家和國家之間沖突的問題，而是“碳基和硅基的對抗”。此外，主權國家之間的沖突可能還會受到各種國際公約和規則的制約，但如果有極端組織或者個人出于對社會的不滿，使用人工智能技術報復社會，其后果將不堪設想。面對這些問題，全人類的利益一致，所采納的風險防控機制和政策也應一致。這就如同民航業的安全檢查，各國都會按照統一的國際標準執行。
復雜的“機制復合體”
中國新聞周刊：在人工智能全球治理的發展問題上，中共中央政治局委員、外交部部長王毅在兩會記者會上強調，要促進各方加強技術共享，努力彌合智能鴻溝，不讓任何國家掉隊。你認為應如何保證“全球南方”國家不在人工智能技術革命中落后？
薛瀾：首先，在風險防控問題上，要讓人類社會的所有成員表達自己的意愿。即使沒有掌握新技術的國家，也有權利和義務就技術安全問題作出自己的判斷，表達自己的意愿并參與規則制定。
其次，人工智能發展會帶來巨大的經濟社會利益，要保證發展中國家在技術革命的過程中也能分享紅利。發展中國家在這個問題上的意愿是非常強烈的。2022年，我在埃及作了一個關于中國人工智能發展的報告，埃及政府的許多官員、學者對此非常感興趣，特別希望和中國加強合作，希望埃及也能“趕上”。
在具體操作層面，這就需要中國、美國等人工智能“第一梯隊”國家在全球技術共享上采取更多的積極措施。這包括和發展中國家的相關機構、高校及企業合作，使他們盡快掌握和應用人工智能技術，為社會造福，同時也要保證他們能安全地使用新技術。
但是，目前技術轉移主要依賴市場手段，而國際技術轉移的市場還是有很多障礙的。我們未來也許應該考慮將更多的資源投入到發展中國家的科技創新能力建設上。如果沒有更好的教育、創新和研發環境，即使技術轉移到發展中國家，也難以發揮最大的作用。所以，人工智能全球治理，也包括推動發展中國家建立能接納人工智能技術落地的教育和創新體系。
中國新聞周刊：你曾提出，人工智能技術發展變化迅速，因此政府需要“敏捷治理”。但在國際層面，治理規則的形成、新的國際組織的建設總是曠日持久。如何破解國際多邊談判速度跟不上技術發展速度的難題？
薛瀾：是的，人工智能全球治理也需要“敏捷性”。之前國際社會缺乏這種緊迫感。在ChatGPT發布之前，人們覺得通用人工智能距離我們還比較遙遠。但現在，大家已經意識到通用人工智能實現的可能性已經越來越大，不受人類控制的、有自主意識的系統出現的可能性也越來越大。
所以，最近一兩年，在ChatGPT等產品發布后，人工智能的全球治理、特別是風險防控，得到的關注已經越來越多。最近，我參與了一些著名人工智能技術專家和治理專家的共同努力，撰寫一篇提交給《科學》（Science）的論文。這篇論文就指出，我們已經到了刻不容緩需要推動人工智能全球治理的階段。
但現實情況是，由于一些全球治理問題非常復雜，很多治理機制會同時參與、介入對其治理，形成“機制復合體”。人工智能就有這種問題。從聯合國到各個國際組織、各國政府、行業標準組織、非政府組織等都提出了不同的要求和規則。
這種情況的特點是，不同治理機制之間存在重疊和沖突，彼此又沒有清晰的從屬關系。聯合國不是“世界政府”，并非對所有參與者和社會主體都有普遍約束力。這使得問題的討論和解決變得更加復雜。在這種情況下，各方需要特別注意包容性，盡可能容納更多不同的社群和觀點，以尋找真正的共識。
我希望人類社會的智慧可以讓我們盡快找到建立國際機制的可行方案。同時，很多專家也在呼吁人工智能技術公司放慢發展步伐，在不能確保安全、缺乏規制的情況下不要輕易推進技術前沿。當然，未來人工智能安全本身可能也會形成一個市場，全社會也需要加強對人工智能安全領域的研發投入，使得有更多的技術公司參與監測和評估人工智能的安全性，政府監管部門也有更加有效的工具來防范相關風險。
加強中美對話
中國新聞周刊：過去幾年，中美雙方就人工智能全球治理進行了多個層次的交流對話。你覺得目前中美之間關于人工智能全球治理的討論是否充分？去年，美國在荷蘭舉行的“軍事領域負責任人工智能”峰會期間發布《政治宣言》，試圖和其全球伙伴先行商定一些人工智能全球治理共識，從而引領、主導國際社會的規則制定。中方應如何應對美國的“搶跑”活動？
薛瀾：在人工智能全球治理的交流上，2023年11月舉行的中美元首舊金山會晤達成了重要共識。此前，中美學術界和企業界關于人工智能全球治理有多層次的交流，去年7月基辛格先生訪華時，也就人工智能安全問題和各個方面進行了溝通。但總的來說，中美兩國在人工智能全球治理問題上缺乏系統性的、有組織的、全面深入的對話，也缺乏一軌對話機制。而現在，在中美元首舊金山會晤的共識中，雙方明確提出建立人工智能政府間對話機制，這是一個很重要的進展。
歷史上看，美國等西方國家在全球治理規則制定上一直希望占據主導地位，在人工智能治理領域也不例外。對此，中國應當加強對人工智能全球治理的研究，形成真正有價值的、站在人類命運共同體立場上的想法和建議，讓包括美國等西方國家的國際社會對中國的建議產生共鳴。
當然，如果美國等西方國家的規則確實反映了世界各國的意愿，我們也應該持支持態度。也就是說，在人工智能領域的全球治理規則上，不應該以國家或意識形態劃線，而應該以人類社會的共同利益作為判斷的基準。
近年來，中國政府為此進行了大量工作，發布了《全球人工智能治理倡議》等立場文件。現在，我們要在此基礎上進一步研究如何落實這些原則。不可否認的是，美國的學術界和政策界在規則研究方面做了大量工作，并在國際社會上非?；钴S地推動和宣傳他們的想法。而中國的學術界和政策界還應該解放思想，加強在這方面的研究和宣傳工作。
我們需要在一定程度上跳出熟悉的國內話語體系、跳出一些約束和限制，能夠站在人類命運共同體的立場上，形成推動全球各方達成共識的想法，讓世界能充分意識到“中國倡議”的價值。
此外，在國際政策輿論場中，西方國家的一些前政要、前官員、前商界領袖發揮著重要作用。他們有豐富的政策經驗，能提出切實可行的方案。中國也有很多非常有能力的政策界人士，可以在國際上發揮更大的作用。未來，如果形成人工智能的全球治理機構，他們也可以深入參與工作，擴大中國的話語權和影響力。
總的來說，我認為中國不必特別擔心所謂美國“搶跑”的問題。我們需要加強和美國等西方國家在人工智能領域的對話。一方面，大國競爭和地緣政治是現實問題，美國及其盟友在很多方面排斥中國或給中國施加壓力，中國需要在對話中明確我們的底線，捍衛我們的立場，不接受不平等的規則；另一方面，我們也要搭建更多平臺，加強對話，在有共同利益的問題上增進共識，推進人工智能全球治理框架的形成。
