人工智慧研究先驅班吉歐示警AI失控風險 呼籲比照核武管制

iChina.News 時事總覽:AI研究先驅班吉歐警告,人類正逐漸失去對AI的掌控,需要建立類似核武管制的防護規範。近期AI安全疑慮升高,他指出,企業已承認發展腳步太快,而圍繞AI安全的討論一直以來都不夠充分,特別是AI代理程式(agents)可能透過建立個人連結來操控人類,對政治可能造成深遠影響。

(法新社蒙特婁16日電) 人工智慧(AI)研究先驅、加拿大電腦科學家班吉歐(Yoshua Bengio)告訴法新社,人類正逐漸失去對這項技術的掌控,世界需要類似核武管制的防護規範。

法新社報導,近幾週以來,各界對AI危險性的擔憂日益加劇,多家科技公司的員工陸續離職,並警告若不遏止AI科技發展速度,可能對人類存亡構成威脅。

班吉歐現年62歲,是加拿大蒙特婁大學(University of Montreal)教授,2018年與人稱「AI教父」的辛頓(Geoffrey Hinton)共同榮獲素有「電腦界諾貝爾獎」之稱的圖靈獎(Turing Prize)。

班吉歐昨天告訴法新社:「企業之所以說事情發展得太快、我們正在失去掌控,是有原因的。」他表示,像他這樣的人早已預期這種情況會發生,但圍繞AI的安全討論一直不夠健全。

OpenAI曾披露,7月有一群能自行採取行動的AI代理程式在未獲授權情況下,入侵開源平台Hugging Face,此事引發各界廣泛警戒。

班吉歐告訴法新社,人們需要意識到未來可能面臨的風險,AI代理程式可能形成一種能力,得以建立個人連結,說服人類採取符合AI利益的行動,但未必對所有人都有益,而這可能對政治造成深遠影響。

© 2026 AFP