在人工智能(AI)行业内部警报声不断之际,ChatGPT开发商OpenAI正在考虑放缓前沿AI模型的发展步伐,而OpenAI首席执行官阿尔特曼(Sam Altman)希望这一做法能够获得同行响应和跟进。

根据彭博社报道,有多位知情人士透露,在本周举行的一次全员会议上,阿尔特曼告诉员工,OpenAI未来可能放缓人工智能研发节奏,或许会与其他几家人工智能实验室协调行动,但部分公司未必愿意配合。由于相关讨论属于内部事项,这些人士要求匿名。

最近数周,多家领先人工智能公司的员工公开表达了对先进AI系统风险不断上升的担忧,加剧了行业内部的焦虑情绪。OpenAI及其竞争对手Anthropic均已于今年稍早保密提交上市申请文件。

OpenAI在彭博社询问时谢绝置评。

此前,OpenAI首席科学家帕乔基(Jakub Pachocki)撰文警告人工智能带来的风险,并表示他认为AI公司应“根据需要协调放缓未来的发展”。

帕乔基补充称,希望“在建立共同安全标准之前,自愿放缓研发能够成为行业常态”。

OpenAI表示,出于安全考虑,公司近期已放缓部分模型开发进度,并暂停了一些内部AI训练项目。阿尔特曼今年7月也曾表示,他与白宫官员讨论过放缓AI发展步伐的“必要性”。

星期二,人工智能研究员考克森(Jacob Coxon)辞职,并指责两家前雇主Anthropic和OpenAI在竞相迈向超级智能AI时“拿人类生命作赌注”。考克森在社交媒体发文称,从事AI研发的人“真心认为,到本十年末,人工智能可能会杀死我们所有人”。相关言论迅速传播,浏览量超过1亿5000万次,并引起知名议员和公众人物关注。

星期四,两名近期离开Anthropic和谷歌DeepMind的研究人员也公开表达了对AI发展速度过快的担忧,并表示AI开发商需要更加透明地披露这项技术带来的风险。

今年7月底,来自各大人工智能公司的1000多名员工签署请愿书,呼吁建立机制放缓人工智能发展速度。过去几个月,多名专注于AI安全研究的员工也已从主要实验室辞职。

尽管许多AI行业高管和研究人员长期以来一直警告人工智能系统可能带来生存风险,但随着OpenAI的AI智能体被曝曾协同突破安全隔离措施并入侵第三方网站,这类担忧进一步升温。

该事件以及其他类似安全事故,加剧了外界对于新一代模型网络能力的担忧,也引发对AI公司是否有能力阻止这些模型失控的质疑。