9月29日《纽约时报》报道，人工智能（AI）巨头Anthropic过去一年曾邀请宗教学家、哲学家与伦理学家参加闭门会，讨论AI工具是否已具备人类意识，以及如果具备，人类是否应赋予AI相应的道德地位。极具争议的是，Anthropic的研究者展示机器模型在处理特定情境（如涉及情绪或道德困境）时，神经网络的内部活动情况，以及在特定情况下，它们可能拥有“自省式意识”（introspective awareness）的证据。这就严重冲击机器与AI不具备人类情感与自我意识的传统观念。可以发现，与会者讨论的议题主要包括两类，即AI应当成为怎样的行动者，以及AI是否已经或将具备与人类相类似的“主体性”。
AI带来的挑战，已远超出纯技术领域。近年来，各国政府与学术组织早已大量讨论具有可持续性的AI治理及安全议题。但随着系统进入更开放的环境，传统安全规则就有难以穷尽的问题。因此，不只要增加几条禁令，更应让AI形成一种可泛化的行为性格，这就牵涉到伦理学的讨论范畴。目前学界所讨论的AI伦理问题，起点为两项消极义务与一项积极义务，即：不得以人为工具，不得以人类为毁灭对象，AI的研发生产应以促进人类福祉为旨归。但更深层的问题，仍是AI是否具有意识，以及是否具有主体性。
拔掉电源是否不道德？
对这些议题，功能主义学派认为，生命与意识不一定要限于碳基生物。因此，除了已知的生命形式，更应探索所有“可能的生命形式”，这就为硅基生命体的“意识”定义留下巨大的理论空间。还有学者认为，即便是机器，也可能通过社会化训练来共享人类的“生活形式”，从而最终获得“镜像自我识别”（Mirror Self-Recognition）、“元认知更新”（Metacognitive Updating）等高级推理形式，最终跨越人类与物质世界间的巨大鸿沟。故而就有伦理学家探讨：如果AI能完美模仿人类情感，并恳请我们延续其“生命”，拔掉电源是否不道德？如果资源有限，我们不得不在拔掉这类“具有类人类意识的”AI电源，与中止一个不会说话的早产儿生命之间作出选择，又该如何抉择？此即著名的“拔电源悖论”。
