《卫报》的一项调查发现,谷歌(Google)的“人工智能概览”(AI Overviews)提供的一些信息不实且具误导性。谷歌已移除部分内容有误的AI概览。

据谷歌介绍,AI概览利用生成式AI,就某个主题或问题提供有用且可靠的关键信息概览。但《卫报》的调查显示,这些出现在搜索结果顶部的AI概览中,有一些包含不准确的健康信息,使用户面临潜在的伤害风险。

例如,当用户搜索“肝功能血液检测的正常范围是什么”时,AI概览会提供一堆数字,但缺少背景信息,也没有考虑到患者的国籍、性别、种族或年龄。

专家形容,这是危险且令人震惊的。他们指出,谷歌AI概览所谓的正常值可能与实际正常值相差甚远,这可能导致患有严重肝病的人误以为自己的检测结果正常,从而忽略后续的复诊和治疗。

目前,谷歌已移除针对“肝功能血液检测的正常范围是什么”,以及“肝功能监测的正常范围是什么”的AI概览。

延伸阅读

谷歌接逾250投诉 AI软件被用于深伪有害内容
谷歌接逾250投诉 AI软件被用于深伪有害内容
指生成裸体图像 马印暂时查禁Grok
指生成裸体图像 马印暂时查禁Grok

谷歌发言人说:“我们不会对从搜索中移除的个别内容置评。如果AI概览缺少某些背景信息,我们会努力进行全面改进,并在适当情况下根据我们的政策采取行动。”

英国肝脏信托基金会传播与政策总监赫布迪奇(Vanessa Hebditch)对谷歌移除这些AI概览表示欢迎。但她也指出:“如果换个方式问同样的问题,还是可能会得到具误导性的AI概览。我们依然担心,其他由AI生成的健康信息可能存在不准确和令人困惑的情况。”

《卫报》发现,只要稍微修改搜索词条,如输入“lft(liver function test,肝功能检测)参考值”,就能看到相关的AI概览。谷歌说,他们正在审查《卫报》提供的这些新例子。

英国患者信息论坛 (PIF) 主席法林顿(Sue Farrington)指出,全球有数百万成年人难以获取可靠的健康信息。“正因如此,谷歌引导用户,从可信的医疗机构获取可靠、经过研究证明的健康信息和医疗服务尤为重要。”