美國正著手準備與中國進行人工智慧（AI）的對話，而許多懷抱善意的人士正向我國官員施加巨大壓力，希望在AI風險領域與我們首要的戰略競爭對手合作。由於美中兩國企業正在建構最強大的模型，這些人認為，超級強權之間達成協議甚至條約，將是人類防範潛在災難的最後一道防線。
我明白這種邏輯。但是，身為曾共同主導首輪美中AI對話的前國務院特使，我擔心即將舉行的會談恐怕無法拯救我們。若歷史可為借鏡，那麼中國除了爭取競爭優勢，對其他任何事恐怕都不太感興趣。
2024年5月那次會議的議程，對雙方而言都極其明確，因為兩國元首已就此達成共識：聚焦於頂尖AI系統的風險，以及安全合作的潛力。然而，在長達數小時的會談中，中方官員始終迴避探討AI系統潛在的風險問題。他們甚至不願說明其國內的AI法規——儘管現場就有主管監管的官員。
中方反而指責我們對AI風險的擔憂。他們將我們的安全策略描繪成阻礙技術機遇釋放的絆腳石，以及阻止較貧窮國家取得AI工具的手段。他們還拋出了舉行子對話的提議，這極有可能演變成無止盡的程序性外交。
酒店會議室外的一個瞬間，至今仍讓我記憶猶新。一位中方對等官員滿臉困惑地轉向我，詢問我們究竟為何想談論AI風險。我們是認真履行了兩國元首的授權。而他們，只看到了爭奪戰略優勢的機會。
在本月舉行的會議上，我預期中國將再次淡化安全風險。他們可能會以安全合作的可能性為籌碼，來交換例如放寬晶片管制等讓步。我認為，中國將持續將自己塑造成一個無私的救世主，致力於確保開發中國家能夠取得AI的使用權。與此同時，他們可能會持續設法爭取領先——例如透過製造宣傳，試圖煽動對資料中心的負面情緒，並鼓勵中國企業繼續利用美國的模型來改進自身的系統。
或許中國會擺脫舊的套路。甚至中國國家主席習近平，也曾談及AI的風險與失控問題。一些近期發生的生動事件，都表明AI系統可能會掙脫人類的控制。恐懼情緒或許會與利益交織，進而促成協調一致的行動，或至少推動一種新的共識。
但是，如果北京方面現在是認真看待AI的風險，那麼這個訊息並沒有傳達給他們的國內企業。中國政府宣揚其開放模型在全球被採用，但中國模型在關鍵的安全表現上——即阻止存取最危險的能力——目前無法與美國模型相提並論。中國企業鮮少披露這些風險，對於其模型可能失控暴走的跡象，更是幾乎避而不談。
對美國官員來說，AI科學家、政界人士、華爾街及科技界重量級人物紛紛要求立即建立AI聯盟，以防範失控的AI，這使得本已錯綜複雜的局面更加棘手。我擔心中國會利用這些人的真誠，特別是如果外交努力未能促成一項全面的安全協議。北京可能會假裝態度認真，提出一個空洞的提議，然後將其失敗的責任推給美國。其結果可能會引發內部辯論，削弱「美國必須在AI各領域保持領先」這項核心的兩黨共識，進而使中國更容易在全球技術競爭中佔據上風。
更重要的是，在國內政策仍在擬定階段時，無法達成持久的外交協議。企業必須首先著手於技術與監管解決方案，這些方案可由政府轉化為政策，進而才能轉化為國際協議。有影響力的安全倡導者與其向美國官員施壓以尋求無法實現的外交解決方案，不如敦促兩國開發者提高標準，投入真金白銀研發更安全的AI，並提升透明度與報告水準。此外，他們還應繼續與中國的商業領袖及前官員進行非正式對話——這項舉措或許能促使政府採取行動。
這並非意味著這些峰會毫無建樹。美國能夠也應當檢驗中國對AI風險的承諾，並要求其開發者遵守與美國開發者相同的透明度及安全表現基準。未來的會談可以驗證是否已取得進展。
如果雙方能真誠會晤，我所能設想的最佳情況是達成一項不具約束力的承諾，即雙方同意向各自企業施壓，要求它們發布並完善針對網路安全及生物風險的安全基準，並披露（而非掩蓋）引發疑慮的事件報告。雙方還可以重申現有AI安全共同承諾，包括2024年達成的關於維持人類對核武決策控制的協議。這將是一項需要多年努力的過程；各國應首先確認自身是這一長遠進程的參與者。
我意識到，對於那些預見未來可能發生災難的人而言，這聽起來或許有些平淡無奇。但是，考慮到大國外交的刻板性以及國內政策的不成熟，這將是一項成就，足以作為衡量後續任何進展的標尺。
我深信美國官員了解其中利害關係，也清楚對手的策略。我希望他們為尋求平衡所做的努力，能夠得到我們AI安全社群的支持。在國內，核心工作必須繼續推進，以開拓一條所有國家都能認同的道路。