觀點
黃偉豪：AI國際政治與中美關係——對立、武器化和失控
【明報文章】愛因斯坦有以下名言：「我不知道第三次世界大戰將以什麼武器進行，但第四次世界大戰將以棍棒和石頭來作戰。（I don’t know with which weapons World War III will be fought, but World War IV will be fought with sticks and stones.）」在這AI（人工智能）急劇發展的年代，對於愛因斯坦的疑問，我們應該有了一個肯定的答案——第三次世界大戰將以AI作為武器相鬥。很多人想得太遠，擔心AI變得過分聰明，從而使人類滅絕；但最迫在眉睫的威脅，是AI成為國際政治上的爭霸工具，甚至被武器化，在第三次世界大戰的戰場上使用。
完善AI管治 刻不容緩
即使是對於AI科技感到最樂觀的人來說，AI對人類的未來也有兩面：一方面是帶來無窮利益與機會，但另一方面卻可能造成極大危機和風險。因此，國際社會近年出現了很多有關「AI管治」（AI governance）的討論。
「AI管治」是指為確保負責任且合乎道德地使用AI技術而制定的原則、框架和政策，它涉及對AI系統的監管和監督，以確保其開發、部署和使用符合社會價值觀、尊重人權，並最大限度地減少潛在風險和危害。
從AI技術的發展角度來說，AI管治能夠愈早完善便愈好。AI的技術發展，大約可以分為3個階段：第一是「狹窄AI」（artificial narrow intelligence，或ANI），即是AI只有在某些工作上做得比人類好；第二階段是「通用AI」（artificial general intelligence，或AGI），即是AI的能力跟人類完全一樣，在任何工作上皆可與人類媲美；最後一個階段是「超級AI」（artificial super intelligence，或ASI），AI的能力已全方位超越人類。
目前的AI科技，仍然是處於第一個「狹窄AI」階段，但已引起了社會上很多顧慮和爭議。可想而知，若我們步入第二個階段「通用AI」，AI對社會造成的震撼與迴響，便會更加嚴重。所以，有效的AI管治是愈早愈好、愈快愈好。
AI武器化 已是公開秘密
不過，即使我們仍然是處AI發展的第一個階段，但將AI武器化、把AI用於戰場上，已成為了一個公開秘密。今年6月中在意大利舉行的G7（七國集團）會議，教宗方濟各破天荒參與，成為歷史上第一個參加G7會議的教宗。在會議上，教宗所關心的重要議題之一，正正是AI被武器化。可是他主要討論的是「致命自主武器系統」（lethal autonomous weapons systems，或LAWS）引發的道德問題，即是AI在沒有得到人類允許之下，去自主傷害其他人類甚至奪去其生命。
雖然LAWS仍未被正式使用，但使用AI在戰場上幫助殺人，已經成為一個事實。其中一個例子，便是用AI技術幫助軍用無人機處理數據、分析戰場情况、盡快制訂作戰策略，及找到攻擊目標，使無人機成為更加具有威脅和更有效率的殺人武器。即使最後做攻擊決定的是人類而不是AI，但這並不能顯著減低AI對人類帶來的傷害。在俄烏戰場上，無人機便是主要的攻擊武器。
如果將來台海發生戰爭，相信無人機也會在戰場上擔當重要角色，成為現代戰爭不可或缺的工具。而在最新一次美國售賣武器給予台灣的清單上，也加入了超過1000架無人機，包括在烏克蘭戰場上曾經使用的自殺式無人機。
在AI有可能對人類共同命運造成威脅的時代，做好AI管治，是一件刻不容緩的事。但面對國際局勢緊張、中美關係愈趨對立的時候，AI管治自然面對愈來愈多困難和挑戰，日漸變成一個不可能的任務。造成以上情况的背後原因很簡單——做好AI管治，必要得到全球各國特別是AI發展大國的合作，各自做好本分，遵守承諾，不得把AI用在邪惡的用途上，包括不利用AI開發對人類有殲滅性結果的武器，以減低對人類的威脅。
二戰歷史或重演
可是，在一個各國充滿競爭和計算，甚至有機會爆發戰爭的國際形勢裏，各國不但不會合作，甚至加強自己國家的實力，包括軍隊的實力，而且在AI管治上針鋒相對、背道而馳，情况一如在第二次世界大戰期間，美國與德國的陣營各自發展核武器，最後原子彈便是因為這個國際形勢而誕生，造成無可逆轉的惡果。不幸地，同樣的情况有可能歷史重演，促使AI變成各國爭霸的戰爭武器和殺人工具。
在目前中美關係緊張和日益對抗的形勢下，由於雙方也是AI的發展大國，擁有AI最尖端科技，也形成了一個誰能夠掌握AI最新技術，誰便能掌握天下大局的趨勢。
筆者最近在一個有關數碼政府和管治的國際會議上，發表了一篇學術論文（註），比較中國大陸與台灣的AI發展及策略。文章透過分析兩者官方AI文件的內容，得到的結果是，跟台灣不同，中國大陸除了使用AI發展經濟和改善內部管治之外，也十分強調透過AI加強自己的國家實力，以成為超級大國。其實早在2017年，大陸國務院便發表了一份名為《新一代人工智能發展規劃》的文件，公開訂立一個宏大目標，要在2030年把中國大陸變成全球AI創新大國。
世界趨陣營化 AI易失控
中美雙方也努力成為全球AI的領袖，統領其他國家。在歐美陣營中，組織了名為「人工智能安全高峰會」（AI Safety Summit），第一次會議於去年11月英國舉行，今年5月在韓國首爾召開第二次會議。這個高峰會的缺陷是，包括傾向是富裕和發展國家的俱樂部，而且經歷兩次會議，也未能夠達至任何具約束性的共識。其中一個主要原因是，美國作為一個AI發展大國，並不想AI的發展被約束。中國也在2023年發表了《全球人工智能治理倡議》文件，希望在歐美模式之外，建立另一條道路和選擇。
在中美關係由合作轉向競爭下，AI被利用作非和平用途的機會便愈大。目前人類真正要擔心的，不是AI「覺醒」、有獨立於人類的思考，而是AI被人類利用作戰爭工具。在世界走向兩大陣營的時代裏，要在AI管治上達到全人類的共識，便愈是困難；AI的發展，也愈容易失控。
註：Wilson Wong, Natalie Wai-Man Wong, and Charles Hinnant. 2024. Adoption without Transformation: AI and Digital Transformation in China and Taiwan. In Proceedings of the 25th Annual International Conference on Digital Government Research (dg.o ’24). Association for Computing Machinery, New York, NY, USA, 807-814.
作者是美國史丹福大學行為科學高等研究中心院士
■稿例
1.論壇版為公開園地，歡迎投稿。論壇版文章以2300字為限。讀者來函請電郵至[email protected]，傳真﹕2898 3783。
2.本報編輯基於篇幅所限，保留文章刪節權，惟以力求保持文章主要論點及立場為原則﹔如不欲文章被刪節，請註明。
3.來稿請附上作者真實姓名及聯絡方法（可用筆名發表），請勿一稿兩投﹔若不適用，恕不另行通知，除附回郵資者外，本報將不予退稿。
4. 投稿者注意：當文章被刊登後，本報即擁有該文章的本地獨家中文出版權，本報權利並包括轉載被刊登的投稿文章於本地及海外媒體（包括電子媒體，如互聯網站等）。此外，本報有權將該文章的複印許可使用權授予有關的複印授權公司及組織。本報上述權利絕不影響投稿者的版權及其權利利益。
（本網發表的時事文章若提出批評，旨在指出相關制度、政策或措施存在錯誤或缺點，目的是促使矯正或消除這些錯誤或缺點，循合法途徑予以改善，絕無意圖煽動他人對政府或其他社群產生憎恨、不滿或敵意）
