刘家明：真伪难辨的“智能聊天”时代

所以如何平衡ChatGPT因滥用而产生的负面影响，以及它的智能聊天、协助人类解决文字语言的沟通交流和知识搜索、心理疗愈等的正面作用，将决定这科技的后续研发和推展。

去年在世界人工智能领域发生了两件大事，提高了人们对“智能聊天机器人”的认知度，也带出了很多隐忧。一方面是担心这还未成熟的科技会不会被滥用，另一方面是担心这科技的发展方向对未来社会的影响。

首先是去年年中，谷歌开发团队的一位资深成员，发文说在测试谷歌的智能聊天机器人LaMDA（对话应用模式Language Model for Dialogue Applications的头文字拼成）时，肯定了聊天机器人有人类的“知觉和自我意识”，而且LaMDA还“认为”自已是人。这篇文章震惊了全球，也违反了谷歌发展这产品时承诺的道德规范。谷歌于是立刻辟谣熄火，有关员工也“被休假”。虽然如此，各种人类将被机器人取代的阴谋论再次开始流传。