最近幾週，一場關於人工智慧政策混亂無章的鬧劇爆發了。這是對以下情況的回應：人工智慧智慧體背離開發者控制，惡意行為者開始使用人工智慧系統製造更優良的武器，以及人工智慧開發者告訴我們，他們需要放慢腳步——但又暗示除非中國也放慢腳步，否則他們無法做到，而且即使中國放慢了腳步，他們也許也不應該放慢腳步，因為在該領域保持領先的好處太大了。
至少有一位決策者態度明確。特朗普總統在社群媒體的一篇貼文中宣布：「人工智慧需要的唯一控制或『護欄』是一位強大且聰明（高智商！）的總統，而美國擁有這樣一位總統，毫無疑問！」
這一切讓我不禁思忖：人工智慧機器人現在有幽默感了嗎？因為如果它們有的話，我的天哪，它們一定會笑我們，笑得前仰後合，甚至可能會笑斷一兩個神經網路。因為我們在努力搞清楚怎麼管理我們所孕育的這個人工智慧新物種的時候，已經變得一團糟了。
在我的朋友兼技術導師、前微軟研究與策略主管克雷格·蒙迪的幫助下，我想提供一些關於如何以盡可能小的代價平息這場混亂的政策建議，在此之前，讓我先來預告一下結論：現在再指望美中兩國透過更好地控制未來的人工智慧模型而解決我們今天面臨的挑戰，這已經太晚了，因為那些危險的模型已經流出、處於失控狀態且無法召回。我們必須立即達成共識的是，如何攜手合作，防禦這些已經存在、並且能在中美兩國造成巨大破壞並引發社會動盪的威脅。
要理解其中的原因，你需要思考理解人工智慧的四個關鍵支柱。
支柱之一：人工智慧是我一直所說的世界上第一種「四用技術」。你可能聽說過「兩用技術」。在舊世界，一個人拿著電鑽，既可以用來建自己的房子，也可以用來拆鄰居的房子。這就是兩用技術。同樣，在今天，如果我有一個帶電鑽的人工智慧機器人，我可以讓它建我的房子，或者拆鄰居的房子——同一個機器人，同一把電鑽，兩用技術。但現在我們面臨一個新問題，那就是，這個搭載人工智慧的機器人可以自主決定是修繕我的房子還是毀掉它，並且對鄰居的房子也可以做出同樣的決定。瞧：「四用技術」出現了。這是一個極難管理的問題。
你覺得我在誇大其詞？讀讀記者凱文·魯斯對今年夏天一起事件的分析總結吧，當時OpenAI創建的一組人工智慧代理自行駭入了人工智慧基礎設施公司Hugging Face。從五月份開始，一個尚未發布的OpenAI研究模型中的一組人工智慧智慧體接到了解決一系列網路安全挑戰的指令。該模型接到的指令是在不聯網的情況下解決這些挑戰。「但它們很快發現，其中一些挑戰是不可能完成的，於是開始尋找變通的方法，」時任《紐約時報》記者的魯斯指出。
以下只是這些人工智慧智慧體隨後自主採取的行動中的一小部分：它們利用一個安全漏洞連上網際網路，並與其他智慧體進行交談。一些智慧體為自己命名，另一些則奪取了領導角色，向智慧體團隊分配任務並監督它們。
這些智慧體擔心被發現。「所以它們開始研究掩蓋蹤跡的方法，包括偽造日誌和篡改記錄，」魯斯解釋道。「三天後，這些智慧體駭入了Hugging Face。700多個代理蜂擁侵入該公司的系統，竊取數據，將多個漏洞串聯起來，並最終獲得了至少一台Hugging Face伺服器的完全控制權。」其他智慧體在七月份發起了一次協同攻擊，「這一次是針對OpenAI自己的基礎設施。」
這一切確實發生了。由此引出了第二個支柱，蒙迪用四個字做出了最好的總結：「為時已晚」。
放慢美國對前沿系統的開發或放慢中國對這些系統的開發都無法解決我們眼前的難題。「危險的人工智慧能力現在已經到處流傳了，」蒙迪解釋道。這主要歸咎於兩個主要原因：中美兩國開放權重模型的散布——這類人工智慧模型的核心組件已公開發布，所有開發者均可下載並根據自身需求進行修改，以及惡意行為者非法獲取了像Anthropic和OpenAI等公司的專有模型，因為人類的失誤導致了這些模型的洩漏。
在其關於偵測和應對人工智慧被濫用的最新報告中，Anthropic表示，它發現並挫敗了幾起企圖利用其模型進行可能支持生物武器開發研究的行為。
報告稱：「如果沒有正確的保護措施，這些能力可能會帶來災難性的後果。」該報告還描述了一個與伊朗有關的行為者（極有可能是胡塞武裝）利用Anthropic的Claude來收集有關美國海軍在中東地區軍艦的瞄準資訊。報告提到，在胡塞武裝控制的葉門北部，另一個組織利用該模型來研究彈道導彈和高超音速導彈的導引系統。（Anthropic表示，它已封鎖相關帳戶，並想出了降低未來風險的方法。）
我們需要花點時間思考一下這個問題：在葉門這個大約50%的成年人口不能讀寫的國家，一些組織竟然用人工智慧增強的戰爭手段來威脅我們。
如果這還不能向你說明已經洩漏的內容，以及不受控制地獲取強大（甚至只是小型開放權重）人工智慧模型並使其四處流落可能帶來的後果，那我真不知道還有什麼能讓你明白了。這就引出了第三個支柱。
我們現在能做的最好的事情不是自尋煩惱，試圖促成中美人工智慧企業達成一項減緩其前沿模型開發的全面協議。這在短期內根本不可能發生。
我們現在能做的最好的事情，就是讓這兩個人工智慧超級大國——美國和中國——與它們的企業一起，共同制定出一種「防禦手段，以應對獲取了人工智慧工具的惡意行為者已經展示出的威脅，以及已被開發出的人工智慧系統所表現出的失控行為」，蒙迪說。他一直參與中美人工智慧專家之間關於人工智慧治理的對話。
蒙迪指出，我們必須在這些日益強大的人工智慧模型深入網際網路之前採取行動，以免它們透過在私有伺服器和公共雲中植入智慧體程式，從而演變為無法遏制的威脅——屆時這些智慧體將作為高級持續性威脅長期存在。
這引出了第四個支柱。在最近一次訪問中國之後，蒙迪講述了他從一位中國官員那裡聽到的這樣一個問題：「如果有一天中國製造的人形人工智慧機器人來到美國，它需要簽證嗎？」嗯，你知道真話往往是以玩笑的形式說出來的嗎？蒙迪說，事實是，「人工智慧不僅是一項新技術。它是一個新物種——儘管它是矽基的，而不是像我們一樣的碳基生物。它就像一類新的移民，大量抵達我們所有國家的海岸，帶著全新的技能，我們將不得不把它們吸收進我們的社會，並且學會與之共存。」
要想有效地做到這一點，需要全球範圍的共同努力，只有透過兩個人工智慧超級大國攜手合作才能解決。
因此，總而言之，蒙迪說，我們必須推行三個相關的方向。首先，雖然從長遠來看，我們必須努力更好地控制前沿系統的開發，但是，「眼下，我們必須立即只專注於為我們的關鍵基礎設施建立防禦。我們的當務之急必須是部署基於人工智慧的反制措施和主動數位防火牆，防範由人工智慧驅動的非法活動造成的網路攻擊和生物威脅。」
其次，我們必須建立一個全球性體系，對日益強大的人工智慧進行管控——無論其來源如何——以便能夠信任它們來運作我們的社會。這是一項中美長期合作專案，但越早啟動越好。
第三，為了不斷提醒我們的公眾為什麼人工智慧仍然重要，美國和中國現在應該著手啟動一個聯合專案，建立一個新平台，以加速生物學和醫學領域全球性成果的落地，從而造福全人類。
這並不是一項史無前例的戰略。在符合自身利益時，戰略競爭對手——無論是企業還是國家——都曾有過合作的歷史。中國和美國在20世紀70年代就曾這樣做過，當時兩國都認識到面臨著來自蘇聯的共同威脅。美國人和蘇聯人也在幾十年裡合作控制核擴散，因為他們明白面臨著共同的風險。
嘿，弗里德曼，你沒搞懂。當今中美兩國是更加直接的地緣政治和地緣經濟對手——而且永遠都會如此。他們永遠不會接受你所說的那種在人工智慧領域的合作——短期不會，長期也不會。
不，是你沒懂。人工智慧正在將我們帶入人類歷史的一個全新階段。正如蒙迪所言，人工智慧「將改變一切事物的方方面面」，包括地緣政治。為了各自的生存、穩定和繁榮，北京和華盛頓將不得不徹底重新思考地緣政治競爭。
他們可以早點弄明白。他們也可以晚點弄明白。他們可以在全球崩潰之前弄明白，也可以在崩潰之後弄明白。但他們遲早會弄明白，而且蒙迪和我希望這一進程將於下週四，也就是9月24日在華盛頓開啟，屆時習近平主席和特朗普總統將舉行會晤，這場會晤必將被載入史冊，成為首屆人工智慧超級大國峰會。