2024年11月15日，**總統在美國三藩市菲洛里莊園與拜登舉行會晤，在雙方達成的一系列重要共識中，建立中美人工智慧對話機制被列在顯眼位置。 這不僅為緩和兩國日益激烈的數字競爭發出了積極訊號，也為兩國在各個領域保持對話與合作注入了新的動力。 尤其在國際社會日益關注人工智慧安全風險的當下，中美兩國建立的這一對話新渠道為推動相關領域的全球治理提供了信心。
加強人工智慧全球治理符合國際期待
隨著ChatGPT在全球的爆發，引發公眾對這項技術的高度關注，人工智慧的全球治理將在2024年進入快車道。 3 月 29 日，特斯拉首席執行官埃隆·馬斯克、蘋果聯合創始人沃茲尼亞克、英國開源人工智慧公司 Stability AI 首席執行官 Stability AI 等 1,000 多名行業高管、專家和研究人員簽署了一封公開信，呼籲“暫停開發比 GPT-4 更強大的人工智慧系統至少六個月”，以避免“人類文明被機器終結”。 5月31日，350位人工智慧領域行業高管和專家公開警告稱，人工智慧可能給人類帶來核能、疫情等“滅絕性社會風險”，引發全球對人工智慧潛在倫理風險的高度關注。 6月12日，聯合國秘書長安東尼奧·古特雷斯強調，需要認真對待專家關於生成式人工智慧的警告。 與核對人類生存的威脅相比，人工智慧還沒有表現出顛覆性的破壞力，所謂的超級人工智慧會以一定程度的科幻和浪漫猜想來消滅人類。 儘管如此，人們對大國在治理方面進行合作以防止“技術失控”寄予厚望。 中美兩國都是人工智慧技術和應用大國，都需要承擔相應的國際治理責任，應對重大國際關切。
回顧過去十年全球人工智慧體系的演進，2024年國際治理機制和規範建設迎來熱潮，為中美開展人工智慧治理對話創造了條件。 一方面，自2024年以來，《聯合國特定常規做法公約》討論了以致命自主為代表的人工智慧的軍事應用，並於2024年確立了11項致命自主原則。 時至今日，《公約》仍是國際上討論應對人工智慧軍事應用風險的中心平台。 2024年7月12日，聯合國安理會首次討論人工智慧議題，聯合國秘書長安東尼奧·古特雷斯借鑑國際原子能機構（IAEA）的經驗，提出成立由人工智慧專家和聯合國機構首席科學家組成的科學顧問委員會。 2024年10月26日，由中美專家組成的聯合國人工智慧高階別諮詢機構正式成立。 另一方面，區域“人工智慧安全峰會”密集舉辦，荷蘭、盧森堡、哥斯大黎加、英國等國均在2024年舉辦人工智慧與自主軍控與治理問題國際峰會，並發表相關治理倡議或聯合宣告。 其中，英國召開的“人工智慧安全峰會”及其會後發表的《布萊切利宣言》最受關注，中國、美國、歐盟、澳大利亞等28個國家和地區簽署了宣言，同意採取行動識別共同關注的人工智慧風險，各自制定了技術安全措施，開展了國際合作。
中美人工智慧對話
在人工智慧治理領域，中美兩國不僅需要穩定關係，而且需要共同利益和責任，確保技術健康發展和安全使用，造福人類。 評估雙方的哪些政策主張可能達成共識，是落實兩國元首“三藩市願景”，在兩國人工智慧對話中達成共識的重要初步路徑。
在AI安全治理方面，中美兩國在非傳統安全領域形成共識的空間大於傳統安全領域。 在傳統安全領域，中美兩國可能會找到共同點，包括自願加強對人工智慧軍事應用立場的透明度，以及就軍事情報相關問題進行危機預防、危機管理和軍備競賽預防的溝通。 儘管國際社會越來越重視人工智慧參與戰略決策和實施，也越來越關注所謂的“對戰略穩定的影響”，但人工智慧大國可能難以在短時間內就相關軍控問題達成協議。 2024年2月16日，美國在荷蘭海牙舉行的軍事領域負責任使用人工智慧峰會上發表了《關於在軍隊中負責任地使用人工智慧和自主技術的政治宣言》。 11月21日，美國宣布有46個國家支援該宣言的修訂版。 值得注意的是，新版宣言刪除了確保人類決定發射核武器權利的內容，而這一調整的原因是戰略力量的高度敏感性、智慧型技術的強泛在性、核查的難度，使得推進相關軍控討論過於困難， 核國家和無核國家建立相關的軍控規範更加困難。
在非傳統安全領域，兩國可以努力就人工智慧治理的基本原則制定共同規範。 儘管中美兩國在人工智慧技術治理原則的制定上存在差異，但雙方的許多核心理念都有相似之處，都強調人類對機器的控制，在人工智慧產品的開發和應用中反對對不同或特定種族、宗教和信仰的歧視，支援以改善人類福祉為目標的人工智慧發展。 那麼，中美兩國是否有可能就這些治理原則討論乙個共同的文字呢？2024年10月18日，中國**發布《全球人工智慧治理倡議》，共包含11條內容，在一定程度上反映了包括中美在內的世界主要國家對人工智慧發展的核心關切，提出了構建全球治理體系的科學規劃， 為中美兩國未來探索和構建“人工智慧治理指南”提供了基本框架。考慮到兩國已經就人工智慧技術標準、法律法規和國際治理等方面發布了多份檔案，雙方可以在這些檔案的基礎上進行溝通，並著力發展對技術概念及其治理原則的共識。
另一方面，中美兩國都面臨著人工智慧滲透到人類生活帶來的社會治理問題。 人工智慧不僅放大了保護個人私隱、維護社會公平、彌合數字鴻溝和防止恐怖主義的挑戰，也給兩國應對這些社會治理挑戰增加了結構性壓力。 面對這些非傳統安全挑戰，中美兩國在某些職能領域存在廣泛的合作空間，包括：分享各自國家人工智慧治理的實踐經驗;就人工智慧生成文字的識別方法和標準進行交流;共同努力打擊犯罪和恐怖主義，以防止不負責任地利用技術破壞政治穩定和公共安全;避免濫用出口管制工具影響全球人工智慧產業鏈穩定等。
總之，中美人工智慧對話有很多話題可以討論，在引領全球治理方面發揮著重要作用，應該盡快落地，努力成為落實“三藩市願景”的先鋒專案。
作者：朱榮生，清華大學戰略與安全研究中心特約專家，王一凡，清華大學中美關係研究中心助理研究員