據《紐約時報》援引知情的美國官員和安全研究人員報導稱，這些國家和團體結合了人工智能手段，在極少需要人工干預的情況下，大幅提升了網路影響力運動的速度與規模，使其遠超僅靠人力所能輕易實現的水平。
報導指，首先，這些國家和團體轉向了中國的「開源」人工智能模型——這類系統功能日益強大，且可供免費下載和修改。隨後，他們利用這些人工智能模型創建了智能體（agents），即能夠自主操作軟體並完成工作的機器人。
上述美國官員和安全研究人員稱，一旦數百個此類人工智能智能體被投入使用，它們便開始在Instagram、臉書、X和TikTok等平台上自主建立虛假帳號網絡。接著，這些智能體迅速利用虛假帳號發布有關政治和時事的虛假內容，旨在左右輿論並激化事態。
這些美國官員稱，這是由中國模型支持的人工智能智能體首次被用於執行影響力運動的各個環節——從創建虛假帳號到協調網上的資訊發布。這些官員補充道，在大多數情況下，系統操作者關閉了旨在阻止人工智能模型創建虛假帳號或操縱網絡討論的安全防護機制。
據知情人士透露，這些具有「智能體」的影響力運動雖然手段粗糙，卻引起了美國情報機構、大型科技公司及安全專家的關注。這些機構隨後著手調查幕後主使及其運作手法，結果發現，來自中國和伊朗的運動有國家背景，而兩項源自以色列的影響力運動則被追溯到了私人企業。
這些網路影響力運動引發了人們的擔憂：公開可用的人工智能模型可能被用來在很大程度上自主開展網路輿論影響活動。一些美國官員表示，擔心在11月中期選舉前，類似的手段可能會被用來針對美國選民。
報導稱，在過去的選舉週期中，俄羅斯、伊朗和中國都曾針對美國選民開展網路影響力活動，且各自都使用了至少處於初級階段的人工智能技術。一些美國官員和立法者擔心，人工智能技術的最新進展可能會導致針對美國乃至全球的選舉影響力運動變得更加頻繁，且更易於策劃實施。
近幾週，關於人工智能安全性的爭論愈演愈烈，這在一定程度上源於7月份披露的一起事件：OpenAI的人工智能系統出現「失控」行為，並入侵了初創公司「擁抱臉」（Hugging Face）。此後，包括Anthropic首席執行官阿莫代（Dario Amodei）在內的行業領軍人物紛紛呼籲放緩人工智能的發展步伐，以便建立適當的安全防護機制。然而，也有其他科技界高管認為無需放緩開發，並指責Anthropic此舉意在鞏固其自身勢力。
TikTok和擁有臉書及Instagram的Meta在今年發布的報告中指出，人工智能正被用於在其平台上創建帳號和生成內容。Meta在上月的一份報告中表示，已觀察到惡意行為者利用人工智能進行嘗試的「技術性重大進展」；該公司識別出了伊朗和以色列利用人工智能開展的運動，但未提供具體細節。Meta在報告中稱，人工智能現已「嵌入到自動化系統中，能夠以極少的人工干預生成、調整並分發內容」。
長期以來，人工智能一直被用於製作具有誤導性的影片和文本，以及生成逼真的照片。但安全研究人員指出，那些使用人工智能智能體的網路影響力運動引人注目。
與OpenAI和Anthropic等公司開發的封閉式模型——其底層程式碼不公開——不同，開放式模型可以在私人硬體上運行，這意味著沒有任何公司能夠介入並強制關閉這些系統。
官員和安全研究人員表示，由伊朗政府支持的網路影響力運動尤其令人擔憂。伊朗將目標對準了美國受眾，利用智能體生成的虛假帳號冒充居住在美國各大城市的普通民眾。
據知情人士透露，這些帳號在評論中標記記者和政界人士，傳播熱門網路梗圖以及反共和黨的觀點。這些由人工智能創建的帳號在今年上半年保持活躍，吸引了近8萬名關注者。Axios新聞網此前曾報導過該伊朗影響力運動網絡的部分情況。
情報與安全官員未透露關於這項中國影響力運動的更多細節，僅表示該運動也嘗試了同樣的人工智能策略。據兩名知情人士透露，在兩項被追溯至以色列公司的智能體影響力運動中，其中一項是由IntelEye在今年夏季發起的；這是一家位於特拉維夫的公司，由曾效力於NSO集團——一家被美國列入黑名單的間諜軟體公司——的前員工於2023年創立。
一位獲悉了IntelEye相關影響力運動情況的美國安全官員表示，該公司的活動在今年早些時候引起了社群媒體公司和美國情報部門的注意。該運動利用人工智能智能體在臉書、Instagram、TikTok和X平台上創建了數千個帳號；這些帳號針對討論以色列下個月全國大選的帖子和評論進行互動。該官員稱，這些帳號發布的內容既有支持也有反對以色列總理內塔尼亞胡的言論。
IntelEye聯合創辦人塞萊克（Maor Sellek）在受訪時表示，公司確實利用中國開源人工智能模型DeepSeek來操控社群媒體上的數千個帳號，但他強調，這只是一項旨在測試人工智能模型安全性的實驗。
塞萊克宣稱：「IntelEye並不從事影響力運動，我們與DeepSeek的工作是出於防禦性研究和測試的目的，旨在了解缺乏足夠安全防護措施的模型可能如何被濫用，並改進對此類活動的偵測能力」。
塞萊克說，IntelEye購買了1萬個社群媒體帳號供人工智能智能體控制，其中約1000個處於活躍狀態。他說，這些帳號在影片或帖子下發表評論，並試圖與他人展開對話，但收效甚微。
塞萊克還補充道，這些帳號發布的提示詞和話題均由人工智能模型選定。他表示，事後看來，IntelEye本應告知社群媒體公司其正在進行這些測試。
Meta的一位發言人指出：「這似乎是一次跨平台創建虛假帳號的協同嘗試。其中只有極少數帳號存在於我們的平台上，且我們已通過自動偵測系統主動清除了絕大多數此類帳號」。
Meta在上月的報告中提及了另一項由「一家位於以色列的商業營運者」開展的運動。Meta未透露該機構的名稱或提供其他資訊，但表示該運動利用人工智能實施了「相當複雜的部署」。