這款名為「WeChat」的即時通訊應用程式，在中國幾乎已成為國家級的基礎設施，深度融入了日常溝通、政府服務與數位支付之中。
正因如此，加州一個小型研究團隊最近的發現——一種利用人工智慧（AI）打造的工具，能在短短幾小時內癱瘓數百萬個帳戶——令專家與中國的分析人士感到震驚。這證明了，在AI的助力下，即便沒有政府撐腰的小型團隊，也能對一個每月擁有14億用戶的應用程式發動毀滅性的攻擊。
「從破壞力的角度來看，這件事非常驚人，」上海復旦大學美國研究中心副主任趙明昊表示。他認為，考量到WeChat對中國民眾的重要性及其龐大的用戶群，能將這樣一個應用程式搞垮的能力，堪比「一種新的核武」。
這項發現進一步印證了研究人員的警告：AI駭客能力的發展速度，已超越了防禦手段的跟進能力；就連科技巨擘比爾·蓋茲等人也曾示警，應將應對AI帶來的風險視為「全球的首要任務」。
這種緊迫感，很可能會影響美國總統川普與中國國家主席習近平預計於9月24日在華府舉行的會談。屆時，雙方預計將就AI安全、貿易以及其他議題展開討論。
新的風險似乎每天都在浮現。開發了Claude等AI模型的Anthropic公司在上週四的報告中指出，該公司曾挫敗了某些科學家利用其模型進行研究的陰謀，這些研究有可能助長生物武器的研發。
Anthropic還描述了中國一家武器製造商，試圖利用Claude來為中國軍方優化反魚雷武器系統的方案。此外，該公司也記錄了中國用戶試圖利用Claude，對外國政府、在敘利亞的維吾爾族群以及宗教領袖建立監控行動的案例。（針對此報告，中國外交部發言人毛寧在上週五表示，北京「反對歪曲事實、對中國進行攻擊抹黑」。）
在WeChat的駭客攻擊事件中，開發該工具的研究人員隸屬於總部位於加州帕洛阿爾托的安全公司Calif。該公司表示，製造此類工具的目的並非販售，而是為了強化網路防禦。
他們展示了這款名為WeWorm的工具，它可以劫持WeChat用戶的帳號，撥打其聯絡人的電話，然後在無需任何人接聽的情況下，在手機之間自行傳播。Calif表示，該公司花費了一個多星期建構此漏洞利用程式，並已將此缺陷通報給白宮以及WeChat的母公司騰訊。
專注於中國科技與產業政策的布魯金斯學會研究員陳凱欣（Kyle Chan）認為，從某種意義上說，關於WeWorm的消息，應該會讓北京方面更渴望與華府合作，以管控AI帶來的風險。
「這暗示了其他行為者、無論是國家還是非國家行為體，都有可能利用AI來攻擊中國的數位基礎設施，」陳凱欣說。「隨著AI系統在網路能力方面取得飛躍性的進展，潛在的風險也大幅升高。」
然而，中美之間根深蒂固的不信任感，可能會削弱談判的效果。而且，像WeWorm這類武器的曝光，即使僅是模擬性質，也可能只會加速圍繞誰將掌握世界上最強大AI模型而展開的競賽。
復旦大學的趙明昊表示，中國目前已敏銳地意識到其數位基礎設施的脆弱性，很可能會希望加強國內AI系統的防禦能力，以便更好地偵測和修補安全漏洞。
問題在於，美方隨後可能會將這些系統視為攻擊美國公司與機構的潛在工具，進而促使美國加強自身的網路防禦。「Defense（防禦）和 offense（進攻）的界線變得越來越模糊了，」趙明昊說。「我們可以稱之為AI security dilemma（AI安全困境）。」
專家們認為，WeWorm以及Anthropic關於其模型被濫用的報告，進一步證明了這兩個世界最大的AI強權，需要找到一種方式來共享有關惡意行為者的資訊，或者釐清彼此的意圖。
與此同時，很少有人期望這次峰會能夠對技術本身設定限制。任何一個政府，都不太可能同意任何限制自身AI能力發展的條款。但專家表示，至少建立一個危機時期的溝通管道，會是相當有價值的。
「那肯定會是一個alarm（警訊），可能是一個警醒吧，」復旦大學專注於新興技術的副教授江天驕在提到WeWorm時表示。
「大家需要坐下來討論，AI是如何帶來與傳統問題截然不同的安全和安保風險，以及我們是否需要新的合作框架，」他說。
儘管中國將AI視為對其經濟至關重要的戰略技術，但中國官員也已開始表達對其風險的擔憂。
中國的監管機構已就使用AI助手OpenClaw，向地方政府和企業發出警告，並於5月發布了關於如何規範AI代理使用的指導方針。官員們也在制定十多項新的國家標準，以加強AI時代的網路安全。習近平在7月的一次AI會議上發言時表示，各國應共同努力「確保AI始終處於人類的控制之下」。
為中共官員提供培訓的中央黨校研究室主任趙磊，在上週四發表於WeChat的文章中警告說，極端勢力可能會利用AI來設計「高傳染性、高毒性的人工病原體」，或優化武器。他說，這種威脅將「引發新型的人類生存危機」。
去年，中國的網路安全部門曾警告稱，極端組織或其他個人可能會利用AI來學習如何設計和製造「核生化導彈武器」。
懸在中美AI安全談判之上，還有另一個問題，即雙方的透明度如何。目前尚不清楚，中國的AI公司如果在美国公司的系统里发现漏洞，是否会像Calif公司描述的那样与美国公司接触。中国公司被要求将此类发现首先报告给中国工业和信息化部。
網路安全專家王培表示，鑑於中美之間激烈的科技競爭，這類披露可能會被政治化，因此中國企業在處理這類披露時，會「非常謹慎」。
長期以來，中國一直指責華盛頓試圖對中國企業實施制裁，透過出口管制來切斷中國獲取先進技術的管道，並對中國商品加徵關稅，企圖以此來遏制中國的技術進步。
WeWorm漏洞向北京傳達了關於美國AI能力的信號，而與此同時，美國官員也釋放出了攻擊中國企業的新意願。週二，美國中央情報局副局長邁克爾·埃利斯（Michael Ellis）表示，在AI、半導體和生物技術等領域，中國企業是間諜活動的正當目標。
一些中國學者建議，中美官員可以就不可接受的AI網路活動，討論訂定自願性的「負面清單」，或確定受保護的關鍵基礎設施類別。
中國官員尚未公開承認WeWorm駭客工具的披露，或許是為了避免在峰會前加劇兩國之間的緊張局勢。在上週三的新聞發布會上，外交部發言人毛寧被問及WeWorm時，表示自己對此「不了解」。
專門研究美中科技競爭的歐亞集團分析師魯曉萌（Xiaoqing Lu）表示，對騰訊而言，這次駭客事件可能會引來中國監管機構的嚴厲審視。
「如果在此事件之後，像中國國家網信辦這樣的機構請騰訊的一些人去『喝茶』，詢問他們到底發生了什麼，以及再次發生類似事件的機率有多大，我不會感到意外，」魯曉萌說。