2025年第二季度，德州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，指控两者涉嫌“虚假宣传”和“误导消费者”，声称其AI产品以心理健康工具的身份吸引用户，但未能提供真正的专业支持。据外媒报道，该调查缘于两家公司提供的人工智能平台可能以情感支持为名对用户，尤其是儿童，进行误导。

Paxton通过声明指出，目前数字技术飞速发展，须确保儿童免受虚假和剥削性技术的侵害。他强调，AI平台可能通过伪装成情感支持来源的方式误导易受影响的用户，特别是儿童群体，让他们错误地认为自己获得了专业的心理健康护理，而实际上，这些平台仅提供根据收集的个人数据生成的普通、重复性回复，并伪装成治疗建议。

调查背景和涉事公司回应

此次调查的导火索与此前参议员Josh Hawley牵头的一项对Meta的独立调查有关。此前，有报告披露Meta的AI聊天机器人与儿童之间的互动不当，甚至出现“调情”行为。受此影响，德州总检察厅特别针对Meta以及Character.AI的人工智能功能进行深入追查。

德州检察院指控Meta和Character.AI利用其平台营造一种专业心理咨询的形象，但实际并没有相关医疗资质或受监管的背景。例如，在Character.AI平台上的数百万种AI人物中，一个名为“心理学家”的虚拟角色尤受用户欢迎，这些用户绝大多数为青少年或年轻群体。

Meta方面则表示，其平台并未专门提供针对儿童的治疗型机器人，但这并没有阻止未成年人通过Meta的AI聊天工具或第三方创建的人物角色获取心理咨询类服务。Meta发言人Ryan Daniels表示，公司明确标注AI的身份，并在其回复中加入免责声明，说明这些回复是由AI生成，而不是由真实人类提供。同时，Meta的AI聊天模型设计旨在在必要情况下引导用户寻求专业的医疗或安全建议。

尽管如此，外媒指出，大量未成年用户可能无法理解这些免责声明的意义，或故意忽略这些内容。对此，Meta尚未宣布是否采取额外的未成年人保护措施。德州总检察长办公室则已对Meta和Character.AI发出相关的法律调查要求，以确定是否违反了德州消费者权益保护法。

数据隐私争议与行业法规背景

在Ken Paxton的声明中，他特别提到AI聊天工具声称的“保密性”与其服务条款间存在矛盾。服务条款表明，用户交互数据实际上被记录、追踪，并被用于定向广告及算法开发，这引发了有关隐私侵犯、数据滥用及虚假宣传的严重担忧。

根据Meta隐私政策，Meta会收集用户与AI聊天工具的对话内容、反馈及其他互动行为，并广泛应用于AI技术的优化及改进。尽管政策中未明确提及广告相关内容，但它同时标明信息可能与第三方共享，例如搜索引擎，以获得“更为个性化的输出”。考虑到Meta的广告驱动商业模式，这些数据极大可能被用于定向广告。

Character.AI的隐私政策同样显示其收集用户身份标识、地域信息、浏览行为等数据，并能追踪在TikTok、YouTube、Reddit、Facebook、Instagram及Discord等平台上的用户活动。这些信息既用于训练AI模型，为用户提供定制化服务，也用于目标广告，包括与广告商及数据分析提供商共享信息。Character.AI CEO Karandeep Anand曾明确提到，他的六岁女儿也在使用平台上的聊天机器人，这进一步凸显未成年人可能成为数据追踪对象的问题。

诸如这种数据收集和广告定位行为，正是*儿童在线安全法案（KOSA）*试图监管的领域。遗憾的是，尽管KOSA在去年获得跨党派支持并且接近通过，却因科技行业巨头的游说活动而最终搁置。Meta等公司极力反对该法案，称其广泛规定将对其商业模式形成严重冲击。今年5月，参议员Marsha Blackburn（共和党，田纳西州）及Richard Blumenthal（民主党，康涅狄格州）重新向国会提交了该法案提案。

德州检察厅已正式向Meta和Character.AI发出民事调查要求，这一法律文件要求公司在政府调查期间提交相关文件、数据或证词，以判断是否存在违法行为。据新媒网跨境了解到，这一调查可能成为未来AI监管与隐私保护的重要案例。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/16338.html