Google：AI概览健康查询被曝误导，紧急撤回部分功能！

近日，全球科技巨头谷歌（Google）旗下的AI概览（AI Overviews）功能，因被指出在医疗健康相关查询中提供误导性信息，已针对部分问题悄然进行了移除处理。这一事件引发了业界对人工智能在敏感领域，特别是健康信息提供方面的准确性与责任的广泛关注。

事件始末：外媒披露与谷歌行动

新媒网跨境获悉，此次事件的起因是，一家知名外媒通过深入调查发现，当用户在谷歌搜索中输入某些健康相关的问题时，AI概览功能给出的摘要存在潜在误导。例如，当用户查询“肝功能血检的正常范围”时，AI概览给出的数值范围未能充分考虑国籍、性别、种族或年龄等关键因素，这可能导致一些用户错误地认为自己的检测结果是健康的，从而延误就医或采取不当措施。

这项调查结果公布后不久，谷歌便采取了行动。根据该外媒的后续报道，AI概览功能已从“肝功能血检的正常范围”以及“肝功能测试的正常范围”等查询结果中被移除。然而，该外媒也指出，一些变体查询，例如“lft参考范围”或“lft测试参考范围”，在当时仍然可能生成AI摘要。

此事件发生数小时后，新媒网跨境观察到，即使是那些变体查询，也已不再显示AI概览。在某些情况下，搜索结果的顶部甚至直接显示了该外媒关于此次移除事件的报道。

针对此次移除，谷歌的一位发言人向该外媒表示，公司不对搜索中的具体移除事件进行评论，但致力于“进行广泛的改进”。该发言人还补充说，一个由临床医生组成的内部团队审查了该外媒指出的相关查询，发现“在许多情况下，信息并非不准确，并且也得到了高质量网站的支持”。

AI概览的背景与谷歌的AI战略布局

AI概览是谷歌为革新其搜索体验而推出的一项核心功能。它旨在利用先进的人工智能技术，直接在搜索结果页面顶部提供由AI生成的问题摘要，使用户能够更快地获取所需信息，无需点击进入多个网站。这一功能被视为谷歌在AI时代保持搜索市场主导地位的关键举措之一。

近年来，谷歌在人工智能领域的投入持续加大，致力于将AI技术深度融入其各项产品和服务中。在去年，谷歌就曾宣布推出多项新功能，旨在改进医疗保健用例的谷歌搜索体验，包括更完善的概览信息和专注于健康领域的AI模型。这些举措都体现了谷歌希望利用AI来提升用户获取健康信息效率的愿景。

然而，AI在快速发展和广泛应用的同时，也伴随着诸多挑战，尤其是在信息准确性要求极高的医疗健康领域。虽然AI在辅助诊断、疾病预测、药物研发等方面展现出巨大潜力，但在直接面向公众提供健康建议或解释医疗数据时，其内容的严谨性、准确性和安全性至关重要。

医疗信息领域的特殊性与AI的“幻觉”问题

医疗健康信息与个人生命健康息息相关，任何细微的错误或误导都可能带来严重后果。肝功能检测结果的正常范围因个体差异巨大，包括但不限于年龄、性别、种族、地域、健康状况，甚至不同的实验室设备和检测方法都可能影响其参考值。简单、一概而论的AI摘要，若未能充分体现这些复杂性，极易造成用户误判。

此次事件凸显了AI内容生成中普遍存在的“幻觉”（hallucination）问题。所谓“幻觉”，是指AI模型生成看似合理但实则错误、虚构或与事实不符的信息。在非敏感领域，这种“幻觉”可能只是造成信息上的偏差，但在医疗领域，它则可能直接威胁到用户的健康。

用户对搜索引擎和AI生成内容的信任度普遍较高。当AI概览以权威姿态呈现健康信息时，普通用户往往难以辨别其潜在的局限性或错误。这就要求科技公司在推出此类功能时，必须对内容准确性进行更高级别的审核和验证，并充分提示用户风险。

行业反响与对AI深层问题的忧虑

英国肝脏信托基金会的传播与政策总监瓦妮莎·赫布迪奇（Vanessa Hebditch）对此事件的看法颇具代表性。她对谷歌移除相关AI概览表示“这是一个极好的消息”，但也表达了更深层的担忧。赫布迪奇指出，此次移除只是“针对单一搜索结果的挑剔”，谷歌可以轻易地关闭这些特定的AI概览，但这并未从根本上解决AI概览在健康信息领域面临的“更大问题”。

她的观点反映了行业内普遍存在的共识：AI在医疗健康领域的应用，不能仅仅停留在点对点的修正，而需要一套系统性的、严谨的风险评估和内容审核机制。这不仅仅是技术问题，更关乎伦理、责任与社会信任。

随着AI技术的日益普及，公众和监管机构对AI生成内容的可信度与安全性给予了前所未有的关注。全球范围内，关于AI伦理准则、数据隐私保护以及AI产品责任的讨论和立法进程正在加速。此次谷歌移除医疗相关AI概览的事件，无疑将进一步推动这些议题的深入探讨。

展望：AI在健康领域的责任与未来发展

此次事件为所有致力于将AI应用于医疗健康领域的科技公司敲响了警钟。在追求技术创新和用户体验提升的同时，确保信息的准确性和用户安全始终应是首要考量。

未来，AI在健康领域的应用需要更加精细化和负责任。这可能包括：

• 更严格的内容审核机制： 引入专业的医学团队和专家顾问，对AI生成的医疗内容进行多层级、高标准的审核。
• 清晰的免责声明与风险提示： 在AI概览中明确告知用户，AI提供的信息仅供参考，不能替代专业医疗建议或诊断，并建议用户咨询专业医护人员。
• 个性化与背景化信息提供： 探索AI如何根据用户的个体特征（如年龄、性别、病史等）提供更精准、更个性化的健康信息，同时避免过度简化。
• 透明度与可解释性： 提升AI模型决策过程的透明度，让用户了解AI信息来源和生成逻辑，增强用户信任。
• 用户反馈与迭代优化： 建立高效的用户反馈机制，及时发现和修正AI生成内容的错误，持续进行模型优化。

谷歌作为全球领先的科技企业，其在AI领域的每一步都具有风向标意义。此次医疗查询AI概览的移除，再次强调了在特定高风险、高敏感度领域，AI技术在为用户提供便捷信息的同时，所肩负的沉重责任。如何在技术创新与社会责任之间取得平衡，将是AI时代科技巨头们面临的永恒课题。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/google-ai-overviews-health-misinfo-pulled.html