放任不管，人工智能（AI）可能會讓我們所有人喪命——這是這項技術的一位「教父」約書亞·本吉奧（Yoshua Bengio）多年來一直在反覆發出的嚴峻警告。
週三，在加拿大和德國政府代表的陪同下，他們共同宣布投入超過2.5億美元，以幫助這位加拿大AI研究員對抗這種威脅。
本吉奧正試圖創造一種新型AI模型。這款名為「科學AI」（Scientist AI）的模型，旨在透過設計使其更安全：純粹關注客觀事實，理解事實但不追求自身目標——例如取悅人類使用者。它還可以作為其他AI模型的「護欄」。
聯邦政府向LawZero注資1.5億美元，LawZero是本吉奧去年在蒙特婁成立的非營利組織，旨在建構「科學AI」等模型。這是聯邦資金首次流向該公司。德國則額外提供了1億歐元。
本吉奧在本週於蒙特婁舉行的AI行業領袖重要會議All In上表示：「我懷著發自內心的緊迫感這樣做，因為我希望我的孩子們和孫子孫女能擁有未來。」
對AI風險的擔憂日益加劇，在Anthropic（一家被認為處於這項技術前沿的AI公司）的一位離職研究員警告稱，AI有可能在未來十年內讓人類滅絕後，這種擔憂達到了頂峰。
本週早些時候，總理馬克·卡尼（Mark Carney）在接受彭博社採訪時也呼籲成立一個獨立的、非行業性的全球機構來監督和緩解這項技術的風險。
人工智能部長埃文·所羅門（Evan Soloman）表示，對LawZero的投資是加拿大推動負責任AI發展更廣泛努力的一部分。
他說道：「我們今天在這裡，不是因為我們對昨天的頭條新聞做出回應，而是因為我們對我們所持有的哲學立場做出回應，那就是負責任地、安全地進行建設。」
設計更安全？
專家們表示，在許多方面，木已成舟：遏制AI「幻覺」和傳播錯誤資訊，或者在未經明確人類許可的情況下採取行動等危險，將面臨巨大的挑戰。
多倫多大學蒙克全球事務學院AI政策與應用專家賈克森·汗（Jaxson Khan）表示：「目前這個問題沒有靈丹妙藥。我們擁有非常強大，甚至是變革性的人工智能系統。」
他表示，美國和中國的公司擁有極其強大的人工智能系統，而且這種趨勢可能會繼續下去。
他說道：「加拿大正處於一個時刻，我們感覺，在人工智能方面，我們可能沒有多少控制權。」
但汗表示，與德國合作投資LawZero仍然有意義。
「你必須能夠開發出設計上更安全的新選項。」
「我很想看看這是否會奏效，但我確實認為這是政府一項值得的投資，也是與德國的良好合作。」
國內能力和夥伴關係
專家們說，拼圖的另一重要部分是與擁有相似目標和價值觀的國家合作。
在此項聲明公布數小時前，加拿大的Cohere和德國的Aleph Alpha兩家AI公司簽署了合併協議。
加拿大Shield Institute智庫執行董事瓦斯·貝德納（Vass Bednar）稱此次合併是「能力建設」。
「我們確實有能力追趕並建立替代方案。我們也必須相信這一點。」
「我們不能……成為技術或其危害的受害者。」
汗表示，採取多管齊下的方法可能會帶來改變。
本吉奧表示，放棄不是一種選擇。
他說道：「實現我們的目標將不是件容易的事。但如果我們能改變世界，哪怕只是把它稍微推向一個對人類更美好的世界，我們都必須去嘗試。」