九合一大選在即,中國頻繁介入選舉。立委擔憂AI生成的「深偽」影片,可能影響台灣的選舉結果。

iChina.News 時事總覽:台灣九合一地方選舉腳步將近,中國的介選活動越來越頻繁,手法也層出不窮。民進黨立委林俊憲指出,近期出現利用AI深偽技術製作逼真影片抹黑參選人的情況,沈伯洋的團隊就曾受害。數位發展部長林宜敬則表示,未來AI生成的影音內容將強制標示,若上傳者未主動揭露,將須負擔法律責任。此外,也有境外勢力被指控透過假帳號和系統性操作介入花蓮選務,意圖操縱輿論。另一方面,中選會網站的個資外洩事件,據傳是廠商程式出現瑕疵所導致。

民進黨立委林俊憲9日指出,網路上出現不少用AI深偽(Deepfake)製作的影片,真假難辨,台北市長候選人沈伯洋陣營就曾遭到假影片攻擊。花蓮縣長參選人魏嘉賢也指控,有人組織性利用境外社群帳號介入花蓮選舉。

距離台灣九合一地方大選不到1個月,中共介選的態勢越趨頻繁。民進黨立委林俊憲9日指出,網路上出現不少用AI深偽製作的影片,真假難辨,民眾一不小心就會誤信甚至隨意傳播,影響選情。

他舉例,先前民進黨台北市長候選人沈伯洋的團隊在10月30日遭到假影片攻擊,但由於還需要經過報案等程序確認,直到11月5日影片才被下架,將近一週的傳播時間,已經讓假訊息傳得到處都是。

沈伯洋遭AI冒用聲音的事件在10月底於社群平台上流傳,內容捏造涉及「美國軍購回扣」等言論,並刻意包裝成私下談話外流。但假音檔中出現「島內」等中國慣用詞,遭網友與團隊識破,經調查發現帳號來自境外。

數位發展部長林宜敬9日在立法院交通委員會表示,影片上傳者皆須自行揭露為AI生成訊息,否則最終須自行負擔法律責任。另外,也已要求Meta、GOOGLE跟LINE等各大平台都必須在影片上標示為AI生成。若是一般民眾自製AI影片卻未標示為AI生成,那後續的刑責需自行負責。此外,林宜敬也表示,近來許多境外帳號運用大量殭屍帳號按讚或轉發留言。

花蓮縣長參選人魏嘉賢就曾在10月底指控,有人組織性地利用境外社群帳號介入花蓮選舉、操弄輿論,不排除涉及境外勢力。他指出,社群平台Threads在8月出現所在地顯示為香港的帳號,發布支持花蓮縣長特定候選人的助選訊息,遭網友發現後隨即下架。

另外,臉書粉絲專頁也突然湧入大量殭屍帳號,留下AI生成的重複、攻擊性留言及大量「怒」表情符號。經檢視這些帳號平時多發布與非洲、中東、東南亞等地相關的內容,名稱多使用外國文字,頭像也大多為外國人物。魏嘉賢質疑,背後恐有組織性操作,刻意利用這些境外帳號來操弄網路輿論。

值得一提的是,近來中選會網站也爆出候選人的個資外洩,國民黨立委洪孟楷批評這是嚴重的資安問題。不過,林宜敬指出這主要是因為廠商程式寫得太差,出現瑕疵,嚴格來說不算資安狀況。數發部也表示,他們已協助對該網站進行原始碼檢測。