本周一，一名從美國AI初創公司Anthropic離職的研究人員在社交平台上發布警告稱，未來具備自我改進能力、且智能水平超過人類的人工智能系統，可能構成一種生存層面的威脅。這一觀點迅速引發廣泛討論。
如果說在美國，研究人員擔心的是它有可能對人類文明構成毀滅性威脅。那麼在中國，當局則更關注近在眼前的現實層面的風險，例如深度偽造視頻，以及更加嚴重的國家安全議題，畢竟AI所具備的網絡攻擊與駭客入侵能力正不斷提升。
近期，一家美國公司宣稱，藉助AI開發出了一種能夠感染微信的「蠕蟲病毒」，理論上可危及數百萬個帳戶。微信是中國用戶廣泛使用的社交與支付應用，一旦出現安全漏洞，則波及甚廣。
分析人士指出，儘管這些問題在中國並未像在美國那樣引發廣泛的公眾討論，但隨著近幾個月陸續問世的新一代自主式AI代理（AI Agent）迅速發展，這類系統能夠在沒有人工監督的情況下自主完成任務，因此很可能已經成為中國政府最關注的問題之一。
北京清華大學國際安全與戰略研究中心研究員孫成昊表示：「中美兩國如今對這些風險擁有更加現實、也更加趨同的認識，這增強了雙方合作的緊迫感。」
下周，習近平即將訪美，外界呼籲中美雙方應該共同探討人工智能帶來的安全威脅。
然而在中美激烈競爭的背景下，希望在人工智能模型評估體系和預警機制等領域展開合作不是一件簡單的事。此前，特朗普就曾公開表示：「我們在人工智能領域領先於中國……坦率地說，我希望這種情況能夠持續下去。」
有分析稱，中國方面仍然擔心美國會以安全威脅作為藉口限制中國的技術發展。
除了國家安全外，事實上，中國已經在積極推動人工智能監管。例如，中國禁止未經本人同意製作他人形象的數位分身（AI虛擬人）。
北京人工智能安全諮詢公司Concordia AI首席執行官布萊恩·策（Brian Tse）指出，中國的治理思路「更加聚焦於當前已經存在的、對社會和個人造成實際傷害的問題」。他表示，中國對人工智能的看法有些類似於電力或汽車：「它是一種能夠為社會和工業發展帶來巨大益處的技術，可以透過監管進行管理，而不是一種因為本質上無法控制而必須被恐懼的事物。」
在他看來，人工智能近期能力的大幅躍升，以及一些被視為「警鐘」的安全事件，已經使AI問題「上升為北京最優先關注的議題之一」。
法新社採訪的市民均抱有相似的看法，談到微信可能遭受AI攻擊的問題時，有位市民認為：「這其實是一件好事。發現問題、解決問題、堵住漏洞，反而能夠提升網路安全水平。」