此舉究竟意味著什麼呢？AI企業真的準備踩剎車了嗎？深思之後，引出以下幾個方面的疑問：
第一個是：為什麼AI巨頭開始擔心「發展太快」？
首先提出警告的是Anthropic執行長達里奧·阿莫迪。他特別關注一個趨勢：人工智慧正在越來越多地參與下一代人工智慧的研發，也就是所謂的「遞歸式自我改進」。
如果AI不僅能夠完成任務，還能夠協助設計模型、撰寫程式碼和進行實驗，那麼未來AI能力成長的速度可能越來越快。以至於AI能力成長最終可能超過人類理解和控制這些系統的能力。而阿莫迪擔心的正是這一點。因此，他並不是主張停止研發，而是希望在AI跨越關鍵能力門檻之前，爭取一兩年的時間，加強安全研究、第三方評估、可解釋性研究和政府監管。他還建議，讓獨立的安全評估人員長期進入AI企業內部，並擁有接近員工的系統存取權限，從模型訓練到部署全過程進行監督。
這一觀點很快得到競爭對手回應。OpenAI執行長薩姆·奧特曼表示贊同，伊隆·馬斯克也直接表示：「達里奧·阿莫迪說得對。」
既然大家都承認風險，可為什麼沒有一家企業首先真正踩剎車？為什麼AI企業擔心風險，卻又不敢減速呢？這裡存在一個典型的「戰略困境」。
Anthropic、OpenAI、xAI等企業正在激烈爭奪下一代AI的技術優勢。對任何一家企業來說，如果自己放慢速度，而競爭對手繼續推進，就可能失去市場、人才和技術領先地位。換句話說：大家一起減速可能對所有人都有利，但如果只有自己減速，可能就意味著自己輸掉競爭。而一旦把這個問題提升到國家層面，情況更加複雜。美國不僅擔心AI失控，也擔心在人工智慧競爭中輸給中國。
阿莫迪因此強調，美國不能單方面放慢技術發展，而應該在保持技術優勢的同時，加強安全治理，並限制最先進的AI晶片和相關技術流向中國。
川普談到AI風險時，也明確表現出這種戰略邏輯：他真正擔心的，並不是AI導致人類滅絕，而是美國輸給中國。於是，一個矛盾出現了：如果AI很危險，美國為什麼還要爭奪第一？
這是因為在今天的國際競爭中，人工智慧既被視為潛在風險，也被視為決定未來經濟和戰略優勢的核心技術。
第三個問題：人工智慧會不會從科技問題變成政治和國際治理問題？
事實上，這種轉變已經開始。美國國會議員越來越多地要求加強對AI的監管，甚至有人提出暫停超級智慧開發。美國前總統歐巴馬上週四也警告，如果人工智慧沒有得到適當管理，可能變得「危險」。
據《紐約時報》報導，歐巴馬在一次私人募款活動中敦促民主黨制定人工智慧政策和治理框架，並建議如果民主黨在今年中期選舉中重新取得眾議院多數，應推動一場公開的AI政策辯論。他還呼籲，參加2028年總統大選的民主黨候選人，應把人工智慧列為重要議題，並提出應對AI安全和經濟影響的明確方案。這說明，人工智慧已經不再只是矽谷的技術問題，而正在進入美國政黨政治和國家治理的核心議程。
與此同時，阿莫迪提出了更大膽的設想：未來建立某種人工智慧領域的國際協調機制。例如，首先限制AI用於製造極端危險的生物武器；建立國際性的高風險模型測試標準；甚至討論是否能夠限制AI自我改進的速度。
這讓人聯想到冷戰時期的戰略武器限制。但AI軍控比核武器軍控困難得多。核彈頭、飛彈和核設施可以透過衛星偵察、現場檢查等方式進行核查；但一個國家是否正在秘密訓練下一代AI模型，外部很難知道。
因此，全面暫停AI發展短期內幾乎不現實。比較可行的道路，可能是從一些最危險、最容易達成共識的領域開始，逐步建立國際規則。這也意味著，人工智慧正在發生一個重要的政治轉變。過去的問題是：誰能開發出更強大的模型？現在的問題則越來越變成：誰來決定AI應該發展多快？哪些風險必須禁止？誰來監督這些企業？如果美國減速而中國不減速怎麼辦？
總之，這其實就是人工智慧時代的戰略困境。今天的AI巨頭開始意識到，技術競賽可能製造出任何一家企業都無法單獨解決的風險；但與此同時，任何一方又都不願意因為率先減速而失去技術和戰略優勢。所以，眼下真正出現的，並不是一場「停止人工智慧」的運動，而是一場圍繞人工智慧發展規則的重新談判。如果過去幾年AI競爭的關鍵詞是「更大、更快、更強」，那麼未來幾年，一個新的問題可能越來越重要：人工智慧究竟發展多快，才算足夠安全？