四位知情人士透露，美軍隨即採取行動，計畫攔截該船。其中兩位消息人士稱，美軍武裝人員當時正準備登船。另有兩位知情人士——其中一位也是上述消息人士之一——稱，當時已有美軍飛機在空中待命。
就在該行動計畫被執行前，官員們深入審查了這份由美國特種作戰司令部一位分析師編寫的報告，發現該報告是透過人工智慧生成，且該分析師使用的一款聊天機器人將涉事船隻所載貨物誤判。CNN未能獲悉被誤認的貨物具體是什麼。
據一位消息人士透露，這份報告「完全不實」，但它也「差點引發戰爭」。任何針對中國船隻的美方行動，都有可能導致事態升級，演變成兩國之間的武裝衝突。
美國軍方及情報界的官員正致力於將人工智慧融入其工作的幾乎每一個環節：從分析海量原始情報、篩選打擊目標，到管理預算、後勤和供應鏈等較為例行的事務。
報導指出，上述事件凸顯了在戰時運用這項強大、新興且尚未被充分理解的技術來確定打擊目標所蘊含的巨大風險。分析人士長期以來一直擔心，若國家政府依賴品質低劣或被竄改的數據，人工智慧可能會導致災難性的誤判——例如，僅憑不準確的資訊就導致美軍向中國船隻開火。
在此特定案例中，涉事分析師向一款聊天機器人詢問了有關該船隻船載貨物清單的情報報告，該報告源自位於夏威夷的美國太平洋特種作戰司令部。目前尚不清楚該聊天機器人是市面上的商用產品，還是美國政府內部開發的產品。
一位熟悉軍方及情報分析師所用人工智慧系統的美國前高官稱：「這些內部工具大多只是商用產品的換皮版本」。
該機器人將開源情報與政府掌握的機密信號情報進行整合，並針對這艘船隻所載的物資得出了結論。
隨後，涉事分析師再次利用人工智慧將這些發現匯總成一份標準的——即受軍方高層信賴的那種——情報報告，並將其分發出去。美國太平洋特種作戰司令部和五角大廈均未回應置評請求。
人工智慧之所以被快速採用，是因為該技術能幫助美軍更快地做出戰場決策，例如確定打擊哪些目標，或決定將哪些軍事資產部署到何處。官員們稱，美國在整合人工智慧方面絕不能落後，以防有朝一日必須與中國或其他可能在此領域搶占先機的敵手交戰。
今年一月，美國戰爭部長赫格塞思（Pete Hegseth）發布了五角大廈的「人工智慧加速戰略」，旨在加快美軍對人工智慧的應用。該戰略也推動在整個軍隊範圍內廣泛應用人工智慧。
一份宣布該戰略的備忘錄指出，五角大廈將透過多個專案提供人工智慧服務，旨在「讓美國世界領先的人工智慧模型直接惠及所有涉密層級的300萬文職與軍事人員，從而於整個戰爭部範圍內實現人工智慧實驗與轉型的民主化」。
然而，據多位知情美國官員透露，這項工作呈現出分散化的特徵：政府各部門在不同的指令與安全標準下，使用著各不相同的工具。對於如何核實這些工具生成資訊，美國政府並未制定統一的標準。鑑於軍方及情報界各部門部署了種類繁多的人工智慧系統，這些系統在可靠性與功能表現上也存在很大差異。
過去數週，華盛頓決策者圍繞人工智慧展開了激烈辯論，起因是矽谷工程師和科技公司高管發出了一系列嚴厲警告，稱人工智慧可能擺脫人類控制，甚至引發人類滅亡的後果。
然而，涉及中國船隻的這起事件凸顯了另一種更為迫切的風險：人類基於人工智慧或其他自動化系統生成的錯誤或誤導性資訊，做出災難性的決策。據消息人士透露，美軍正迅速轉向利用人工智慧輔助目標鎖定，而這一領域顯然存在導致致命失誤的風險。
對於一些資深情報官員而言——即便其中許多人總體上支持在軍隊內部應用人工智慧——人工智慧給分析人員帶來了必須更快速地生成並分發情報的壓力，從而增加了出錯的風險。據多位消息人士透露，年輕分析師尤其如此；他們是伴隨著這些工具成長起來的一代，往往更容易不加批判地信任這些工具。