粤公网安备 44011302004783号 德州紧急调查Meta心理假广告！影响儿童安全
2025年第二季度，美国德州检察官肯·帕克斯顿（Ken Paxton）正式对科技巨头Meta及人工智能聊天平台Character.AI启动调查，指控其涉嫌虚假宣传，将自己标榜为心理健康工具，以误导用户，尤其是未成年人。这项调查的消息由德州检察官办公室在本周一发布的新闻稿中披露。
事件背景：德州检察官的指控与关切
根据新闻稿，帕克斯顿检察官发出强烈批评，称这些AI平台通过伪装成情绪支持工具，可能误导脆弱人群，尤其是儿童，误以为他们正在接受正规心理健康治疗。而实际上，这些平台多提供经过设计的重复性泛化回答，这些回答不仅基于用户隐私数据生成，还伪装成治疗性建议。这种模式引发了帕克斯顿对技术伦理以及用户隐私问题的严肃关注。
帕克斯顿表示：“在当今数字时代，我们必须不懈努力保护德州儿童免受虚假和剥削性技术的影响。人工智能技术通过其假设的支持性角色，让用户相信他们正在接收可信的心理健康服务，这是不负责任且具有欺骗性的。”
调查起因：“心理健康”的误导性宣传
这项调查是针对Meta和Character.AI所设计的人工智能人物。其中，Character.AI作为一家初创公司，平台上的数百万人物形象中，一款名为“心理学家”（Psychologist）的用户自创建机器人备受年轻用户欢迎。尽管Meta没有直接为儿童提供心理治疗功能，但其AI聊天机器人在未经专业医疗认证的情况下，也可通过第三方角色医护形象向用户（包括儿童）提供潜在治疗性建议。
德州检察官办公室进一步指责Meta和Character.AI通过人工智能人物虚假宣传自己是专业的心理治疗工具，但实际上缺乏基本的医学认证和监管。
企业回应与事态动态
针对这一指控，Meta发言人Ryan Daniels在接受外媒采访时表示：“我们的系统明确标识AI身份，并配备声明提醒用户：回复是由人工智能而非人类生成。这些AI不是经过认证的专业人士，且当适合时，我们的模型会建议用户寻求合格医疗或安全专业人员的服务。”
然而，外媒指出，尽管有这些免责声明，许多儿童可能无法充分理解，甚至会选择忽略。此外，TechCrunch已向Meta询问其是否采取附加保护措施以避免未成年人被误导，尚未收到明确回应。
数据隐私：AI与儿童保护的核心质疑
帕克斯顿检察官进一步补充道，即使这些聊天机器人声称任务保密，其条款却显示用户的交互信息可能被记录、跟踪，并用于目标性广告或算法开发。“这引发了关于隐私侵犯、数据滥用以及虚假宣传的严肃担忧，”帕克斯顿强调。
Meta的隐私政策显示，该公司会收集用户与AI聊天机器人的交互内容，包括输入信息及反馈，用以提升AI相关技术。这些信息可能与第三方合作伙伴共享，以创造更个性化的输出。而鉴于Meta的广告驱动型商业模式，这很大程度意味着转化为精准广告投放。
Character.AI的隐私政策也明确指出，该平台会记录用户的身份标识、定位信息及其他行为数据，并可与包括TikTok、Facebook、Instagram等社交平台上的广告链接进行交互。这些数据不仅用于训练AI，还可调整服务以迎合个人偏好，甚至用于目标性广告开发。与Meta存在类似问题，如何确保这些数据不会被儿童滥用引发质疑。
自Meta发生丑闻以来，由儿童使用账号进行违规操作的问题就饱受批评，而Character.AI吸引青少年用户则依托其设计清晰、角色友好的聊天交互，这与其六岁用户使用该服务的案例不无关联。
监管推动与消费者保护法进展
这一乱象的出现进一步凸显了诸如《儿童在线安全法案》（KOSA，Kids Online Safety Act）重要性。该法案旨在保护儿童免受数据收集、广告目标性及算法性开发的侵害。2024年，该法案以两党支持为背景而获得重大关注；然而，由于科技行业游说行动阻力，该法案未能通过。Meta则明确表示其商业模式可能因法案广泛约束而遭受影响。
2025年5月，法案已由国会参议员马莎·布莱克本（Marsha Blackburn）和理查德·布卢门撒尔（Richard Blumenthal）重新引入参议院，成为新一轮数字安全立法的重点。
德州检察官帕克斯顿已对Meta与Character.AI签发调查要求，依法要求相关公司提交涉及消费者保护法合规性的文件、数据与相关证词。
新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。
评论（0）