放任不管，人工智能可能会让我们所有人丧命——这是这项技术的一位“教父”约书亚·本吉奥（Yoshua Bengio）多年来一直在反复发出的严峻警告。
周三，在加拿大和德国政府代表的陪同下，他们共同宣布投入超过2.5亿美元，以帮助这位加拿大人工智能研究员对抗这种威胁。
本吉奥正试图创造一种新型人工智能模型。这款名为“科学AI”（Scientist AI）的模型，旨在通过设计使其更安全：纯粹关注客观事实，理解事实但不追求自身目标——例如取悦人类用户。它还可以作为其他人工智能模型的“护栏”。
联邦政府向LawZero注资1.5亿美元，LawZero是本吉奥去年在蒙特利尔成立的非营利组织，旨在构建“科学AI”等模型。这是联邦资金首次流向该公司。德国则额外提供了1亿欧元。
本吉奥在本周于蒙特利尔举行的AI行业领袖重要会议All In上表示：“我怀着发自内心的紧迫感这样做，因为我希望我的孩子们和孙子孙女能拥有未来。”
对AI风险的担忧日益加剧，在Anthropic（一家被认为是处于该技术前沿的人工智能公司）的一位离职研究员警告称，AI有可能在未来十年内让人类灭绝后，这种担忧达到了顶峰。
本周早些时候，总理马克·卡尼（Mark Carney）在接受彭博社采访时也呼吁成立一个独立的、非行业性的全球机构来监督和缓解该技术的风险。
人工智能部长埃文·所罗门（Evan Soloman）表示，对LawZero的投资是加拿大推动负责任人工智能发展更广泛努力的一部分。
他说道：“我们今天在这里，不是因为我们对昨天的头条新闻做出回应，而是因为我们对我们所持有的哲学立场做出回应，那就是负责任地、安全地进行建设。”
设计更安全？
专家们表示，在许多方面，木已成舟：遏制AI“幻觉”和传播错误信息，或者在未经明确人类许可的情况下采取行动等危险，将面临巨大的挑战。
多伦多大学蒙克全球事务学院人工智能政策与应用专家贾克森·汗（Jaxson Khan）表示：“目前这个问题没有灵丹妙药。我们拥有非常强大，甚至是变革性的人工智能系统。”
他表示，美国和中国的公司拥有极其强大的人工智能系统，而且这种趋势可能会继续下去。
他说道：“加拿大正处于一个时刻，我们感觉，在人工智能方面，我们可能没有多少控制权。”
但汗表示，与德国合作投资LawZero仍然有意义。
“你必须能够开发出设计上更安全的选择。”
“我很想看看这是否会奏效，但我确实认为这是政府一项值得的投资，也是与德国的良好合作。”
国内能力和伙伴关系
专家们说，拼图的另一重要部分是与拥有相似目标和价值观的国家合作。
在此项声明公布数小时前，加拿大的Cohere和德国的Aleph Alpha两家人工智能公司签署了合并协议。
加拿大Shield Institute智库执行董事瓦斯·贝德纳（Vass Bednar）称此次合并是“能力建设”。
“我们确实有能力追赶并建立替代方案。我们也必须相信这一点。”
“我们不能……成为技术或其危害的受害者。”
汗表示，采取多管齐下的方法可能会带来改变。
本吉奥表示，放弃不是一种选择。
他说道：“实现我们的目标将不是件容易的事。但如果我们能改变世界，哪怕只是把它稍微推向一个对人类更美好的世界，我们都必须去尝试。”