此前，OpenAI的競爭對手Anthropic公司的兩名研究人員發出嚴峻警告，稱人工智能的快速發展可能在不久的將來導致人類滅絕。此後，越來越多的美國立法者敦促制定新的規則來監管人工智能系統。
奧特曼在接受《財富》雜誌採訪時說道：「考量到目前人工智能的安全問題，我認為現在上市並非明智之舉，我們也沒有感受到任何上市的壓力」。
當被問及人工智能導致人類滅絕的機率是否達到10%時，奧特曼表示他不知道這樣的估算是如何做出的，但他警告說，這種風險非常嚴重，人工智能公司和政府應該將其視為是不能容忍的。
周二，Anthropic研究員考克森（Jacob Coxon）表示，他將離開該公司，因為擔心Anthropic及其競爭對手OpenAI正在「拿我們的生命去賭博」。
曾在上述兩家公司擔任研究員的考克森稱，那些開發人工智能的人「真心相信，到本十年末，它可能會殺了我們所有人」。「千萬不要低估這項技術的力量，」考克森寫道，「它們很快就會成為超越人類能力的系統，能夠入侵任何事物，一夜之間徹底變革任何領域，並獲取真正的權力和資源」。
Anthropic的科學家胡賓格（Evan Hubinger）也加入討論，表示考克森的說法是正確的。胡賓格在X平台上寫道：「我們確實由衷地認為，人工智能可能會殺死全人類，我個人認為，未來十年內發生這種情況的機率大於10%」。
奧特曼補充道：「無論是10%、8%還是6%，關鍵在於，我們都肩負著巨大的責任，不能讓自我、逐利或其他任何因素阻礙我們（做出正確決定）。奧特曼續指，「我們需要採取行動，避免承擔任何此類風險，我相信我們能夠做到」。
奧特曼指出，OpenAI將在業務準備就緒且公司就「社會對這項技術的接受程度」做好準備時上市。當被問及是否已排除2026年而選擇2027年時，奧特曼回答說：「我認為不會是2026年。是的，我們有很多事情要做，比如滿足當前安全和對齊的要求，以及產業和政府如何能攜手合作」。在人工智能領域，對齊是指開發者為確保系統行為符合人類價值觀和意圖而進行的工作。
今年6月，《紐約時報》曾報導稱，OpenAI傾向於將其首次公開募股（IPO）推遲到明年，屆時其估值可能達到1兆美元。當時，人們主要關注的是SpaceX的首次公開募股，這家馬斯克的火箭和人工智能公司籌集了850億美元。SpaceX股價最初飆升，估值一度達到1.8兆美元，但隨後迅速回落。
Anthropic執行長阿莫迪（Dario Amodei）周六則宣布，其公司正在致力於一項新的安全措施——給予獨立評估人員永久的、員工級別的公司內部存取權——這是他所提倡的減緩人工智能發展速度的更廣泛計畫的一部分。
奧特曼則暗示，OpenAI和其他領先的人工智能公司可能即將宣布一項協議，以放緩人工智能的發展速度，共同應對日益增長的安全風險。據彭博社報導，在本週稍早與OpenAI員工的一次會議上，奧特曼表示公司正考慮放緩其最前沿人工智能技術的研發。
奧特曼在周五的專訪中說，樂於推遲OpenAI的首次公開募股，以便採取必要的安全措施。他解釋說：「社會需要應對這些模型在不同能力水平下的發展」。
奧特曼表示，OpenAI已討論過，隨著模型能力的提升，可能會暫停上市，以便在安全性和對齊方面取得更多進展。奧特曼認為，整個人工智能產業，理想情況下也包括外國政府，都應該就此問題達成共識。
此外，在周五的專訪中，奧特曼被問及人工智能產業因安全問題而放緩，以及這種情況是否也延伸到美中競爭中。奧特曼指出：「我認為，如果特朗普總統和習主席能夠就一些應該是容易達成共識的事情達成一致，他們就應共同獲得諾貝爾和平獎，而那將是一件極好的事情」。
奧特曼補充說，美中領導人應同意，在人工智能發展過程中，雙方都不應該承擔一定程度的風險。他解釋說：「即使僅僅是美中兩國能夠就這項技術的發展達成一些共同標準和測試方法，我認為這也是他們二人能夠取得的一項了不起的成就」。
當被問及禁止「遞歸式自我改進」（RSI）——即人工智能能夠不斷升級自身並增加更多功能——是否足夠時，奧特曼回答說，這可能還不夠。不過，他仍認為，美中兩國就人工智能達成一項設想中的協議並不難，甚至可以用一頁紙的文件概括。
關鍵在於建立相應的保障機制，以降低失去對人工智能的控制的風險，同時避免安全措施使任何一方處於不利地位。
奧特曼解釋道：「在極端情況下，美國和中國都擔心，如果一方率先掌握超級智能，將導致兩國關係中力量嚴重失衡。另一方面，在爭奪領先地位的競賽中，我們雙方都不應該冒失去控制的風險」。
在他看來，美中兩國簽署人工智能協議的最佳條款可能如下所示：「以下是我們在開展任何工作之前，需要制定的關於開發、測試和監控對齊標準的規則。此外，還需要兩國或某個國際機構進行監督，以確保避免出現一方過度集中權力因素或從一開始就違反規則的情況」。
美中兩國就人工智能條約展開討論之際，人工智能競賽的利害關係已經達到了「生存性」的程度，堪比冷戰時期的核軍備競賽。
Anthropic的阿莫迪在其周六發表的題為「我們必須調控這一邊疆的節奏」的文章中提到，「對遞歸式自我改進的速度進行某種『速度限制』。隨著模型建構未來模型，改進速度可能會變得驚人。將速度從『極快』降低到『略快』只會損失相對較小的戰略優勢，卻有可能大幅提升安全性。這可以類比於《戰略武器限制條約》（SALT）——限制飛彈數量既限制了潛在的破壞力，又維護了各國的威懾力。我認為達成這樣的協議雖然困難，但並非完全不可能」。
阿莫迪稱：「全球範圍的節奏調控需要與中國合作，而這個專制國家卻擁有遠超其他 最先進的人工智能能力」，並指「任何協議都必須具備如鋼鐵般牢固的可驗證性，或者必須限制在一定範圍內，以確保背約不會在軍事上構成生存威脅。我認為，不僅美國，中國也會有這些擔憂和焦慮」。