随着加拿大即将迎来六月份的补选，美国也正经历中期选举，加拿大选举委员会正发出警报，称人工智能正在挑战选民在选举期间获取准确信息的方式。
“人工智能不仅让个人越来越难区分合成内容与真实图像或声音，”首席选举官 Stéphane Perrault 周二上午在众议院委员会上表示。
在过去的几周里，程序和众议院事务委员会一直在研究人工智能如何影响加拿大的民主机构及其在其中的应用。
Perrault 表示，加拿大人已经在使用这项技术来帮助他们做出投票选择。
“加拿大人越来越多地转向人工智能聊天机器人，这些聊天机器人会整理和总结来自各种来源的信息，直接精确地回答他们的问题，”Perrault 说。
“这包括有关选举过程的信息或候选人之间政治纲领的比较。”
Perrault 表示，除了难以辨别信息是真是假之外，人工智能还使得“难以理解信息背后的发布者是谁、以及他们为何接收这些信息，以及聊天机器人使用哪些来源来生成回复。”
加拿大选举委员会并非唯一看到这个问题的一方。Perrault 引用了上周的一起事件，当时西班牙主要反对党发布了一则政治广告，其中包含一段关于首相夫人的高度逼真的 AI 生成视频——也就是深度伪造。
“人工智能不仅可以极快且低成本地创建高质量内容，还可以分发和推广信息，无论信息是真还是假，触达目标受众，并放大真实或合成的对话，”Perrault 说。
Perrault 还强调了机器人和社交媒体在其中的作用，特别是人工智能如何利用这两者。“如果你创建大量虚假账户，模仿相似的世界观，那么选民就会陷入这种虚假的共识……这会损害信任。”
Perrault 重申了他 2024 年的建议，即在选举宣传（如广告）中的合成（AI）内容应强制要求透明度标签。
他指出，这项建议现在已纳入正在加拿大遗产委员会审议的 C-34 法案的范畴。欧盟已于 8 月份为其人工智能提供商和运营商采纳了类似的立法。
“如果合法言论与协同操纵之间的界限模糊不清，如果人工智能工具的过滤不透明，那么选民做出明智选择和信任民主成果的能力将面临风险，”Perrault 说。
“健全的民主进程需要对其所依据的信息有最低限度的透明度。”
他还建议，在回应有关投票过程的问题时，聊天机器人应被要求指向官方权威来源。
“议会还应考虑，在回应有关政治立场的问题时，这是否应包括党派纲领或候选人出版物等来源，”Perrault 说。
在听取 Perrault 的证词后，委员会成员、保守党议员 Blaine Calkins 指出，此前的委员会证人曾表示，在魁北克省竞选期间，一个人工智能代理创建了一个供选民查阅的网页。
加拿大广播公司在 9 月份报道称，一个包含错误的人工智能生成网站在 ChatGPT 被问及有关魁北克省选举的问题时被频繁引用。
魁北克省选举委员会监督了那次选举，但加拿大选举委员会将在下个月在安大略省、魁北克省和萨斯喀彻温省举行六次补选。Perrault 说，魁北克省的问题被人工智能代理无法访问“常规媒体”的事实所放大，因为网站可能会出于安全原因故意阻止人工智能访问其数据，或者当网站认为该代理是数据抓取器时无意中阻止。
“我们担心的是确保有关投票过程的信息是准确的，”Perrault 说。“我们正在重新审视我们的内容，以确保它能够被人工智能代理访问，并且它提供的是来自加拿大选举委员会的有关选举过程的信息。”
加拿大图书馆和档案馆助理副部长 Jennifer Schofield 也谈到了人工智能可能被用于加拿大档案的风险，她补充说，该部门需要“明确”信息来源。
“我们处理的历史记录……反映了不再使用的观点和语言，如果用于训练人工智能模型，可能会延续偏见，”Schofield 说。
“如果没有这种区分，人们就有可能接受人工智能生成的解释为历史事实，而不知道信息来源，也不知道证据是否支持它。”
委员会成员、自由党议员 Arielle Kayabaga 提出了对人工智能在询问相同问题时提供不同答案的担忧。
“我认为人工智能系统在提供正确信息方面尚未跟上，这可能会侵蚀我们的民主，”Kayabaga 说。“包括在归档信息时。”
Perrault 表示，目前最大的挑战是“为选民提供他们需要的工具，以应对这个非常复杂且快速演变的信息环境”。
“正如我在发言中所说，他们目前没有工具来确切知道某件事是来自人工智能代理还是人类，”Perrault 说。“无论是合成内容还是真实内容。我认为需要更多的透明度，以便他们能够应对。”