在矽谷，最讓電腦科學家夜不能寐的惡夢是某種高度先進的人工智慧，使得人類無法阻止其發動全球無人機戰爭或引發核爆。
而在北京，應對之道或許簡單直接：拔掉電源、切斷網路，並將失控AI的責任人繩之以法。
在美國主要實驗室聲稱先進模型已突破測試防護並入侵現實世界系統之後，部分科技高管與政府官員警告稱人工智慧對人類構成毀滅性威脅，並呼籲北京與華盛頓合作。
然而對許多中國民眾而言，這些末日警告顯得遙遠且帶有鮮明的西方色彩。在他們的認知中，執政黨對某項技術失去控制的想法幾乎不可思議。此前，官方已成功監管過其他可能引發動盪的技術，其中最典型的當屬網際網路。在疫情期間，政府透過封鎖整個城市並追蹤數以億計的居民，展現了其遏制重大危機的強大能力。
專注於中國人工智慧與技術領域的矽谷科技作家阿芙拉．王（音）表示：「他們可以立即切斷整個城市的電網，可以隨時查沒個人的手機。他們在物理世界中擁有巨大的掌控力。」
「鑑於黨對社會擁有如此強效的控制，」她說，要如何讓黨相信「運行在電腦裡的AI令人恐懼？」
一種更為審慎的解讀認為，此類末日警告聽起來像是阻止中國人工智慧企業超越美國對手的策略。中國媒體就有報導指出，美國人工智慧企業正透過「恐懼行銷」來維持其市場領先地位。
「我就說行業，就是說那我身邊的，我們就是忽略掉，」蔡傑說，他先前一直在清華大學從事機器人互動技術和人工智慧安全方面的研究。在他看來，對行業內許多人而言，關乎存亡的風險是一個極其遙遠的議題。
「我們依然認為AI處於非常早期的階段，」他指出。「大家的焦點依然完全集中在機會與創新上。」
對部分人而言，人工智慧末日論及其蘊含的末日降臨與人類審判等觀念帶有鮮明的基督教色彩，顯得極其陌生。一位部落客將西方對人工智慧的恐懼與瑪麗．雪萊的小說《科學怪人》中人類因試圖挑戰神明獨有的造物權受懲罰的主題相提並論。
這名部落客總結道：「中國文化裡沒有這套敘事傳統。」
總部位於北京的人工智慧安全諮詢機構安遠AI (Concordia) 的AI安全與治理主管方亮指出，中國傳統的「天」或神的觀念也能解釋雙方在對待該技術時的巨大差異。
他表示，中國文化強調「天人合一」，主張人是自然不可分割的一部分。「萬物（包括AI）皆生於自然之中，」他說，「傾向於將技術視為相與共生的夥伴，而非必然帶來毀滅的異己力量。」
儘管如此，Mythos以及其他類似模型的發佈在中國仍引發了擔憂，Mythos是來自Anthropic的一款強大前沿人工智慧模型。官方已出台新指南並發出警告，防範人工智慧體失控、被駭客利用或被用於製造生物武器。
監管部門已草擬一項網路犯罪法，要求人工智慧公司建立監控機制，防止其模型被用於生成攻擊性的惡意程式碼。
官方本月還更新發布了中國《人工智慧安全治理框架》，是未來監管走向的重要風向標。該框架回應了矽谷關於「遞歸自我改進」(RSI) 的擔憂——即當人工智慧系統足夠強大，能夠在極少或無需人類開發者干預的情況下實現自我迭代時，可能導致系統徹底脫控。
本月稍早時候，國家網路資訊辦公室高級官員王麗宏指出，由人工智慧驅動的網路攻擊已使傳統防禦體系形同虛設。她強調：「人工智慧極端失控風險需要高度警惕。」
一些中國研究人員多年來一直在預警人工智慧發展過快的風險。2024年，復旦大學潘旭東團隊研究發現，Meta與阿里巴巴的兩款主流大型語言模型已展現出自我複製的能力，這被視為人工智慧超越人類的重要一步。
去年在一次人工智慧安全學術會議上介紹該研究時，潘旭東表示，他和他的論文合著者「希望讓大家真正地關注到這個風險，就是說，這樣一個極端的人工智慧不再是存在於科幻裡，它是真正需要大家不斷去討論和關注的」。
但歸根結底，在北京看來，人工智慧與任何其他技術無異，只要經過周密規劃，就能轉化為服務於國家發展的強大力量。中國已出台了全球最嚴格的行業監管規定，明確要求人工智慧生成內容必須進行標識，且人工智慧模型在公開發布前必須通過官方備案與審批。
儘管中國建立了廣泛的監管與測試體系，但在法律層面，尚未對人工智慧系統被用於製造化學或生物武器等災難性風險設定強制測試要求。
中國人工智慧企業在安全舉措的透明度上尚不及美國同行，並非所有企業都會在模型發布前公布安全評估結果。據安遠AI統計，公布評估結果的企業在資訊詳盡度與報告頻率上均存在差距；在2025年6月至2026年5月期間，中國前十大人工智慧企業中僅有五家公開了相關評估結果。
總部位於上海的「中國AI安全開放社區」創始人莎拉．孫（音）認為，美國關於AI威脅的討論客觀上推動了中國本土的相關探討。
但她同時指出，Anthropic首席執行長達里奧．阿莫迪對中國的強硬言論引發了反彈。阿莫迪在一封關於人工智慧危險性的公開信中宣稱，民主國家必須在人工智慧技術上保持對中國等威權國家的領先，並呼籲進一步限制中國獲取開發人工智慧所需的先進晶片及關鍵設備。
莎拉．孫表示：「達里奧如此鷹派的姿態在此情境下適得其反。」
她指出，此類言論讓近期關於人工智慧的警告看起來更像是遏制中國發展的藉口，而非對災難性風險的真誠關切，這直接增加了他們在中國推廣人工智慧安全意識的難度。
她還說，「中國確實有一批人深切關注前沿人工智慧風險，並致力於推動安全研究及國際協同。」
事實上，中國網路評論已將Anthropic貶稱為「A畜」。官方背景的部落格「玉淵潭天」針對阿莫迪等美國科技領袖直言：「他們想放慢的，只有別人追趕的速度。」
中國知名網路安全高管周鴻禕表示，應對之道絕非放慢腳步，而是借力人工智慧提升防禦能力。他在上週發佈於網路的一段影片中指出：「用AI打敗AI。你用AI攻擊，我就用AI防守；你用智慧體蜂群，我就用安全智慧體跟你對抗。」
本月稍早時候，中國人工智慧新創企業DeepSeek的一名工程師在一篇網文中寫道，允許Anthropic壟斷全球最先進的人工智慧工具，其嚴重程度「不亞於」二戰時期希特勒率先掌握原子彈技術。
在此背景下，即使中國領導人習近平在華盛頓曾向川普總統提出兩國應「善用人工智慧」，中美之間就人工智慧達成任何協議並推動實質變革的前景依然渺茫。
復旦大學美國研究中心副主任趙明昊總結道：「如果美國聲稱要放慢腳步，中國不會相信；如果中國聲稱要放慢腳步，美國也同樣不會相信。」