AI 競賽,美中陷入「囚徒困境」?

iChina.News 時事總覽:人工智能(AI)的飛速發展,引發了人們對其潛在風險的擔憂,甚至出現了「末日論」,認為AI在不久的將來可能毀滅人類。對此,Anthropic執行長Dario Amodei呼籲放緩AI模型的效能提升速度,此提議獲得了競爭對手OpenAI的創辦人Sam Altman以及Elon Musk的支持。不過,美國前總統川普卻以美中競爭為由,拒絕暫停AI競賽,認為美國必須保持領先地位。這場AI發展的角力,因AI技術的巨大進展、美中競爭白熱化、高昂的研發成本以及美國期中選舉將近,而變得更加複雜。中國方面則認為美國的呼籲是想藉由技術壁壘來遏制中國發展,並強調AI發展帶來的安全風險,同時也指責美國的AI企業可能威脅中國的關鍵資訊基礎設施。

上週,全球人工智慧龍頭企業Anthropic公司的兩位研究人員預測,這項快速發展的人工智慧技術可能會在不久的將來毀滅人類,這項「末日論」引發的恐慌已超越網路論戰與矽谷,公眾對人工智慧潛在風險的擔憂驟然加劇。

9月12日,Anthropic執行長Dario Amodei提議:「我們必須放慢提升人工智慧模型能力的腳步。」不同尋常的是,他的競爭對手,OpenAI創辦人兼執行長Sam Altman以及同樣身為OpenAI創辦人的Elon Musk也對此表示贊同。

Altman在X平台上寫道:「我同意Dario的看法:我們必須管控技術前沿的發展節奏。」Musk附和道:「Dario說得對。」並表示他在「很久以前就開始對人工智慧敲響警鐘」,同時轉發了一條2014年的推文,他在其中表示:人工智慧「可能比核武器更危險」。

矽谷各大企業的領導人紛紛陷入恐慌之際,正在愛爾蘭訪問的川普(特朗普)卻以中國競爭為由,拒絕暫停人工智慧競賽。「川普在Doonbeg的高爾夫球場表示:「聽著,我們在人工智慧領域領先中國……而且,坦白說,我希望這種局面能持續下去,因為誰贏得了人工智慧競賽,誰就是最終的贏家。」他還稱:「我們可以設立護欄,做這做那,但我認為有很多負面勢力在無端炒作這個話題,而他們本不該這麼做,還描繪了一些根本不會發生的場景」。

9月14日,他甚至譴責了「針對人工智慧和資料中心的險惡陰謀」,並斷言:「人工智慧所需的唯一監管或『護欄』,就是一位強大且聰明的總統(智商很高!),而美國這樣的總統多得是!」

事態突然間急轉直下,分析認為大約有四個因素:人工智慧的巨大進步;隨著中國國家主席習近平即將訪問華盛頓,中美競爭再度加劇;這項技術研發所需的巨額成本;以及在定於11月3日舉行的美國期中選舉臨近之際,科技巨頭們面臨著巨大的民意壓力。

今年夏天,人工智慧的發展步伐進一步加快:OpenAI在9月7日宣布,已成功解決了被認為無法破解的數學難題——「納維-斯托克斯方程式」。儘管這一突破尚未得到官方證實,但這些進展讓科技界領袖們認為,人工智慧正逐步發展出超越人類的智能,同時也伴隨著相應的風險。

與中國的競爭使局勢變得更加複雜。正如川普一再強調的那樣,美國希望保持其在該領域的領導地位。美國的這一領導地位無可否認,但它十分脆弱,通常估計僅能維持六個月。9月11日,德州共和黨參議員克魯茲(Cruz)對《政壇》(Politico)網站表示:「我們不可能停下腳步,因為你知道誰不會停下嗎?中國。他們不會停下來的。如果非要出現殺人機器人,我寧願它是美國的殺人機器人而不是中國的」。他還表示:「我們並沒有一年的領先優勢,頂多只有大約六個月。」「中國政府可能會介入,直接扼殺美國的AI產業。中國將在六個月內迎頭趕上,並取得巨大的領先優勢。」

美國和中國正陷入「囚徒困境」,雙方雖然可能希望達成妥協,但在缺乏溝通與信任的情況下,妥協卻難以實現。華爾街日報專欄作家Peggy Noonan試圖呼籲雙方保持理性。「就連中國人也不希望世界末日來臨;他們只是想主宰世界。問題就在這裡。」他認為「川普總統和習近平應舉行峰會,以制定保障措施和安全機制,並明確不可逾越的底線。」

人工智慧企業同樣面臨著同樣的兩難境地,實際上它們都不願做出任何讓步,生怕被時代淘汰。Dario Amodei自反對五角大廈以來已成為反川普的英雄,他於2021年出於倫理和安全考量正式離開OpenAI,創立了Anthropic。儘管自今年年初發表一篇長文以來,他一直在不斷警示人工智慧的危險,但這並未阻止他繼續憑藉越來越大膽的模型領跑行業。在週六的發言中,他並未單方面提議停止研究,而是期待在獲得相應補償的前提下暫停。

對於美國頂尖人工智慧公司的倡議,北京立刻懷疑美國這是試圖利用技術壁壘和監管壟斷遏制中國人工智慧的發展。中國官媒《環球時報》直指美國Anthropic執行長Amodei呼籲放緩人工智慧發展的主張,表面上是對安全風險的理性回應,實際上是針對中國的「冷戰思維」。

中國國家安全部長陳一新週一在《中國網信》發文警告,人工智慧發展帶來六大風險挑戰,包括被敵對勢力利用,威脅中國的政治安全、制度安全、意識形態安全等。

他並未提及需要遏制這些人工智慧技術的發展,卻把矛頭指向美國人工智慧企業,稱其具備先進的駭客攻擊能力,可能「對中國關鍵資訊基礎設施構成嚴重威脅」。他在文章中寫道:各種敵對勢力正在濫用生成式AI技術,炮製政治謠言、傳播有害資訊、煽動對立情緒,對中國「實施輿論戰、認知戰」。

週一,當記者問及中方如何看待Altman和Musk近日呼籲「放緩」人工智慧發展等言論時,中國外交部發言人郭嘉昆稱,「散播各種威脅敘事、搞對抗和惡意競爭,只會干擾人工智慧全球治理進程,不符合任何一方利益。」