
研究人員指出,人工智慧聊天機器人不僅可以傳播錯誤的候選人資訊,還可能給出未經證實的指控,甚至轉述外國假訊息宣傳行動中的內容。一項針對八種人工智慧模型的調查發現,在有關美國期中選舉的問題中,對話式的人工智慧提供的回答當中,有將近40%至少包含一處事實性的錯誤。
綜合法國媒體報導,在此次選舉活動期間,社群媒體上出現了大量有關選舉舞弊的說法。例如,電子投票機可能篡改選票、民主黨向選民支付報酬,以及選民身份證件沒有經過查驗等指控。
美國假訊息分析機構(NewsGuard)的一項調查顯示,選舉遭到操縱的說法,是此次期中選舉競選期間引發誤導性內容最多的一項話題。部分相關指控還得到了美國知名政治人物和社群媒體平台負責人的傳播。一些保守派的Podcast節目和電視節目也在傳播這些選舉舞弊的指控。
社交平台也湧現了各種各樣的真假不一的訴求和聲音。紐約一名提前投票的選民曾在TikTok上發布影片。她聲稱,自己在投票站拿到了兩張選票,其中一張沒有列出所有的候選人。她聲稱,選票上,共和黨和保守黨的名稱被刪除了,並呼籲其他選民警惕這種「選舉欺騙」。這段影片在社群媒體上引發關注。不過實際情況是,兩張選票中的一張用於地方選舉,而在這場地方選舉中,根本沒有共和黨和保守黨的候選人。
人工智慧生成的影片也成為此次競選活動中的一個突出的問題。這些影片通常不到一分鐘,採用類似短劇的表現形式,將民主黨候選人塑造成故事中的主要人物,並透過虛構情節對其進行攻擊。喬治亞州民主黨籍參議員喬恩·奧索夫就成為其中一個目標。他被相關影片指控接受過整形手術,但他本人已經否認了這一說法。儘管如此,共和黨陣營仍然持續圍繞他的美容開支展開攻擊。
另一名受到假訊息攻擊的對象是參議員候選人阿卜杜勒·埃爾-薩耶德。由支持共和黨的團體出資製作的宣傳短片指控他希望「摧毀以色列」。
這些由人工智慧生成的錯誤資訊,正在相互交織。巴黎人報援引一項調查指出,聊天機器人不僅會弄錯候選人的個人經歷,還可能將其他人的言論或職業資歷錯誤地歸到某位候選人的名下。在投票程序方面,人工智慧同樣出現了嚴重錯誤。11月3日曾被人工智慧說成是賓夕法尼亞州申請郵寄選票的截止日期,而實際截止日期比這一天早一週。
外國假訊息陣營的影響也正在顯現。10月底,法新社曾對一段涉及德克薩斯州民主黨籍參議員候選人詹姆斯·塔拉里科的影片進行闢謠。這段影片聲稱,塔拉里科的一名前學生指控他性侵。法新社表示,這段影片很可能經過人工智慧的技術操縱,並且具有俄羅斯假訊息宣傳活動的特徵。微軟此後向法新社表示,其工具已經考慮到更新後獲得的資訊,並將這項指控識別為捏造的內容。