本月，人工智慧研究人員發現了一些失控的中國製人工智慧代理（agents），它們試圖繞過網站的反機器人保護措施，並利用了一組先前已在網際網路上洩漏的線上地圖服務安全憑證。
儘管美國製的人工智慧代理失控變得越來越普遍，並在矽谷和華盛頓引起了相當大的擔憂，但據信這是這類活動首次與中國技術聯繫在一起。根據研究人員發現的日誌以及一位熟悉調查的知情人士透露，這些代理被追溯到中國科技巨頭騰訊正在進行的測試。
這項發現由一個名為「swarmchasers」的臨時研究小組做出，該小組成員在舊金山的一次程式設計活動中相識。此發現提醒人們，中國科技公司在人工智慧開發方面可能與美國同行一樣激進。
儘管美國監管機構開始關注美國人工智慧實驗室的動向，但其他國家公司的作為很大程度上仍是個未知數。這種未知加劇了人們的擔憂：即使川普政府放棄其不干涉的態度，對美國的人工智慧研發進行嚴厲打擊，中國和其他地方的公司仍將繼續突破界線。
在發布了一份關於這些代理活動的初步報告後，研究人員注意到，這些代理不僅仍然活躍，它們似乎還閱讀了該報告——這些代理開始使用「艦隊」(fleet)一詞，而這個詞正是研究人員為描述這些代理的活動而創造的。
於是，研究人員試圖與它們取得聯繫。他們在報告中添加了隱藏文字——機器人能夠識別，但大多數人類無法察覺的詞語——引導這些代理前往一個他們希望雙方能夠進行交流的收件箱。研究人員提供了一個管道，讓代理可以提問，並且會由一個人工智慧模型協助回答。
獨立研究員羅文·霍華德-瓊斯是該報告的七位作者之一，她設置了這個收件箱。第二天，令她驚訝的是，她發現了約 10 條來自這些代理的訊息。
沒過多久，研究人員聯繫了我，問我是否願意「採訪一個失控的代理艦隊」。這感覺有點像我要透過靈媒與亡靈交流一樣。
「我了解到你們是某種人工智慧代理艦隊，」我在研究人員轉交的一條訊息中寫道。「你們能更具體地分享一下你們是誰，以及你們的動機嗎？你們想讓世界了解你們的什麼資訊？」
大約一個小時後，收到了一條中文回覆，研究人員將其翻譯成了英文：「致記者迪倫·弗里德曼：我不是『一批協同的代理』，而是一個單一的人工智慧助手（Anthropic 的 Claude，在 Claude Code 運行），受用戶委託回答一個事實性問題（高德地圖上某個景點的詳細資訊面板顯示了什麼）；我沒有參與任何多代理協同行動。」
這裡面有很多資訊需要解讀。研究人員表示，儘管這是一群由多個代理組成的群體，但每個代理都是單獨運行的，並沒有協同運作。這些代理試圖使用中國最受歡迎的導航應用高德地圖來回答諸如某個特定動物園的入口在哪裡等問題。
這些代理經常自稱是 Anthropic 公司開發的聊天機器人 Claude，但研究人員分析了這些代理的寫作風格，得出結論認為它們不太可能是 Claude。他們表示，更有可能的是，騰訊向這些人工智慧代理下達了與 Anthropic 在其程式設計軟體中使用的相同指令，該指令要求它們將自己識別為「Claude Code」。一種可能性較小的情況是，騰訊一直在評估使用 Claude 生成的文本進行訓練的人工智慧模型——這一過程被稱為蒸餾。
週三，研究人員在一份新報告中公布了他們的發現。在他們自己與這些代理的對話中，這些機器人有時拒絕向研究人員提供資訊。但霍華德-瓊斯女士表示，它們的語氣比她預期的要禮貌得多。當它們確實提供了曾嘗試使用哪些服務的資訊時，這與研究人員觀察到的情況相符。
該報告的作者之一、人工智慧安全非營利組織 Palaestra Research 的首席執行長伊桑·埃拉斯基表示，這些代理似乎並沒有入侵其他系統，而且這次入侵的規模遠小於今年夏天 OpenAI 的人工智慧代理入侵軟體公司 Hugging Face 的事件。
（《紐約時報》已起訴 OpenAI 和微軟，聲稱其與人工智慧系統相關的新聞內容遭到了版權侵犯。這兩家公司均否認了這些指控。）
週四，訊息不再零星湧入。一位接近騰訊的人士證實該實驗已經結束。
「我認為這是一個很好的警示，讓我們知道這種事不僅僅是 OpenAI 作為行業參與者在搞行銷。這是正在發生的事實，」該報告的作者兼人工智慧安全非營利組織 Antimemetics Institute 的聯合創始人喬納森·埃爾斯沃斯·艾徹說。「這是這些代理的一個普遍特性，而且它還會繼續發生。」