通用人工智能（AGI）——即能够执行任何人类认知任务的系统——的前景既带来希望，也引发焦虑。虽然AGI可能推动全球生活水平实现前所未有的提升，但也可能大幅减少对人类劳动力的需求，进而加剧失业、社会动荡和冲突。近年来，关于人工智能的大部分争论，都在这两种极端观点之间摇摆。
引人注目的是，关于AGI前景与风险最具洞见的分析之一，来自OpenAI首席执行官阿尔特曼。在一篇最初发表于2023年、2025年更新的博客文章中，阿尔特曼展现出一种在科技乐观主义者中并不常见的哲学式怀疑态度。 他写道：“我们希望AGI能赋能人类，使其在宇宙中获得最大程度的繁荣”，同时承认要实现这一目标，必须“成功应对巨大的风险”。
诚然，在评估技术进步的潜在益处时，保持一定程度的怀疑态度是合理的。自启蒙运动以来，人类日益摒弃迷信和教条，转而拥抱科学探究的怀疑精神，并随着时间的推移，逐渐形成“科学进步本质上是有益的”这一信念。 这种思维方式认为，尽管像原子弹这样的个别发现可能具有破坏性，但科学作为整体——它使我们对自然有了更深入的理解——是一股毫无疑问的向善力量，进而能促进人类的更大福祉。
