隨著加拿大即將迎來六月份的補選，美國也正經歷期中選舉，加拿大選舉委員會正發出警報，稱人工智慧正在挑戰選民在選舉期間獲取準確資訊的方式。
「人工智慧不僅讓個人越來越難區分合成內容與真實圖像或聲音，」首席選舉官 Stéphane Perrault 週二上午在眾議院委員會上表示。
在過去的幾週裡，程序和眾議院事務委員會一直在研究人工智慧如何影響加拿大的民主機構及其在其中的應用。
Perrault 表示，加拿大人已經在使用這項技術來幫助他們做出投票選擇。
「加拿大人越來越多地轉向人工智慧聊天機器人，這些聊天機器人會整理和總結來自各種來源的資訊，直接精確地回答他們的問題，」Perrault 說。
「這包括有關選舉過程的資訊或候選人之間政治綱領的比較。」
Perrault 表示，除了難以辨別資訊是真是假之外，人工智慧還使得「難以理解資訊背後的發布者是誰、以及他們為何接收這些資訊，以及聊天機器人使用哪些來源來生成回覆。」
加拿大選舉委員會並非唯一看到這個問題的一方。Perrault 引用了上週的一起事件，當時西班牙主要反對黨發布了一則政治廣告，其中包含一段關於首相夫人的高度逼真的人工智慧生成影片——也就是深度偽造。
「人工智慧不僅可以極快且低成本地創建高品質內容，還可以分發和推廣資訊，無論資訊是真還是假，觸達目標受眾，並放大真實或合成的對話，」Perrault 說。
Perrault 還強調了機器人和社群媒體在其中的作用，特別是人工智慧如何利用這兩者。「如果你創建大量虛假帳號，模仿相似的世界觀，那麼選民就會陷入這種虛假的共識……這會損害信任。」
Perrault 重申了他 2024 年的建議，即在選舉宣傳（如廣告）中的合成（人工智慧）內容應強制要求透明度標籤。
他指出，這項建議現在已納入正在加拿大遺產委員會審議的 C-34 法案的範疇。歐盟已於 8 月份為其人工智慧提供商和營運商採納了類似的立法。
「如果合法言論與協同操縱之間的界線模糊不清，如果人工智慧工具的過濾不透明，那麼選民做出明智選擇和信任民主成果的能力將面臨風險，」Perrault 說。
「健全的民主進程需要對其所依據的資訊有最低限度的透明度。」
他還建議，在回應有關投票過程的問題時，聊天機器人應被要求指向官方權威來源。
「議會還應考慮，在回應有關政治立場的問題時，這是否應包括黨派綱領或候選人出版物等來源，」Perrault 說。
在聽取 Perrault 的證詞後，委員會成員、保守黨議員 Blaine Calkins 指出，此前的委員會證人曾表示，在魁北克省競選期間，一個人工智慧代理創建了一個供選民查閱的網頁。
加拿大廣播公司在 9 月份報導稱，一個包含錯誤的人工智慧生成網站，在 ChatGPT 被問及有關魁北克省選舉的問題時被頻繁引用。
魁北克省選舉委員會監督了那次選舉，但加拿大選舉委員會將在下個月在安大略省、魁北克省和薩斯喀徹溫省舉行六次補選。Perrault 說，魁北克省的問題被人工智慧代理無法存取「常規媒體」的事實所放大，因為網站可能會出於安全原因故意阻止人工智慧存取其數據，或者當網站認為該代理是數據抓取器時無意中阻止。
「我們擔心的是確保有關投票過程的資訊是準確的，」Perrault 說。「我們正在重新審視我們的內容，以確保它能夠被人工智慧代理存取，並且它提供的是來自加拿大選舉委員會的有關選舉過程的資訊。」
加拿大圖書館和檔案館助理副部長 Jennifer Schofield 也談到了人工智慧可能被用於加拿大檔案的風險，她補充說，該部門需要「明確」資訊來源。
「我們處理的歷史記錄……反映了不再使用的觀點和語言，如果用於訓練人工智慧模型，可能會延續偏見，」Schofield 說。
「如果沒有這種區分，人們就有可能接受人工智慧生成的解釋為歷史事實，而不知道資訊來源，也不知道證據是否支持它。」
委員會成員、自由黨議員 Arielle Kayabaga 提出了對人工智慧在詢問相同問題時提供不同答案的擔憂。
「我認為人工智慧系統在提供正確資訊方面尚未跟上，這可能會侵蝕我們的民主，」Kayabaga 說。「包括在歸檔資訊時。」
Perrault 表示，目前最大的挑戰是「為選民提供他們需要的工具，以應對這個非常複雜且快速演變的資訊環境」。
「正如我在發言中所說，他們目前沒有工具來確切知道某件事是來自人工智慧代理還是人類，」Perrault 說。「無論是合成內容還是真實內容。我認為需要更多的透明度，以便他們能夠應對。」