组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管局的机构，由人工智能行业进行自我监管。
美国金融业监管局的设立获得联邦法律授权，并接受美国证券交易委员会监督。
近几个月来，人工智能行业主要企业不断呼吁美国政府制定行业规范，并对人工智能安全实施监管。
特朗普政府8月初启动了一项针对新型人工智能模型的评估程序，但该程序采取企业自愿参与原则，具体运行机制尚未公布。
Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）日前呼吁放慢人工智能的发展速度。此后，美国总统特朗普及多名执政党官员再次表示，不希望对这一行业施加过多限制，理由是担心中国借机取得领先地位。一周前，人工智能开发人员雅各布·考克森曾警告，人工智能可能对人类构成威胁，特朗普将这类说法斥为“骗局”。
由人工智能行业自行设立监督机构，很可能需要获得立法授权，尤其是为了避免相关企业被指相互串通、违反市场竞争规则。
谷歌“深层思维”公司前首席执行官哈萨比斯7月中旬在网上发表文章，设想由行业企业出资成立这一机构，其理事会成员应包括独立专家以及开放人工智能生态系统的代表。所谓开放人工智能生态系统，主要由开放式人工智能模型的开发者组成。
根据这一设想，监督机构成立后，技术最先进的人工智能企业在推出新模型之前，必须将模型送交审查，审查重点尤其包括安全问题。
哈萨比斯表示，如果人工智能安全研究跟不上技术发展的速度，这一监督机构可以协调各家公司共同放慢研发步伐。
美国民主党籍联邦参议员伯尼·桑德斯对此表示，事关人类未来，不能只依靠企业自愿遵守的行业标准，而需要制定具有约束力的国际规则。
哈萨比斯认为，这一机构可以成为制定先进人工智能国际标准的起点。
不过，一些观察人士担心，人工智能巨头可能借监管之名联手制定有利于自己的规则，排挤竞争对手，形成所谓的“人工智能卡特尔”。
特朗普的重要顾问戴维·萨克斯因此主张，各家公司应自行采取安全措施，必要时单独放慢研发速度，而不应相互协调。但在人工智能竞争激烈、企业投入巨大的情况下，任何一家公司都很难率先减速。