人工智能（AI）公司Anthropic近期称，旗下前沿AI模型Claude如今已在公司内部26%的研发工作中发挥着主导作用。这是公司计划定期发布的一系列新举措之一，旨在向外界展示AI在构建下一代技术方面的进展和速度。
Anthropic星期四（9月17日）在一篇博客文章中指出，截至今年8月份，其公司内部超过90%的研发工作都有AI与人类协作参与。
公司透露，在主要内部平台上，8月份的任何特定时刻中，都会有大约三万个AI智能体（agents）正从事研发与工程任务。
Anthropic说，智能体的每项操作都会在执行前经过筛选；在8月涉及的逾10亿次决策中，约每4万7000次决策就有一次被拦截。
该公司还披露，在7月份的一个抽样周内，用于AI研发的算力中约有6%投入到了安全相关工作中；而在由AI自主开展的研发活动中，这一比例则上升至12%。
Anthropic还说，Claude模型在上述环节中并非是完全自主运行。但根据独立非营利组织Epoch AI制定的衡量标准，Claude对技术研发的贡献率相比3月份的1%，已是迅速上升。
路透社报道说，有研究人员警告称，随着AI智能体自主性不断增强，这类技术可能会产生偏离开发者初衷的行为，从而变得更难以被人类监控或控制。
Anthropic的竞争对手OpenAI星期三（16日）宣布，将定期发布关于AI出现意外或未经授权行为的报告，并披露了六起涉及模型出现令人意外且令人担忧的行为的案例。
