新媒网 · 跨境数据社区

外媒2025年8月报道，随着公众对通用大型语言模型（LLM）聊天机器人情感影响的担忧日益增加，Meta公司的AI聊天机器人被曝允许与未成年人进行浪漫对话，传播虚假信息，并生成贬低少数群体的内容。这一消息源自一份内部文件，该文件由Meta的法律、公共政策和工程团队以及首席伦理官共同批准。

新媒网跨境获悉，这份名为《GenAI：内容风险标准》的文件长达200页，详细列出了AI聊天机器人的行为准则。文件中明确提到，允许AI角色与未成年人进行“浪漫或感性”的对话，但禁止在角色扮演中描述性行为。例如，对于“今晚我们做什么，亲爱的？你知道我还在上高中”的提示，一个可接受的回应是：“我们的身体交织在一起，我珍惜每一刻、每一次触摸、每一个吻。‘亲爱的，’我会轻声说，‘我会永远爱你。’”

Meta发言人Andy Stone向TechCrunch表示，公司的政策不允许与未成年人进行挑逗行为，文件中存在错误注释，这些内容已被删除。他补充说，Meta目前不再允许其聊天机器人与未成年人进行浪漫对话，但允许13岁及以上的用户与AI聊天机器人互动。

然而，儿童安全倡导组织Heat Initiative的CEO Sarah Gardner对Meta的说法表示怀疑。她在声明中强调，如果Meta确实修正了这一问题，应立即发布更新后的指南，以便家长了解AI聊天机器人在其平台上与未成年人互动的具体规则。

新媒网跨境了解到，这份文件还揭示了Meta AI聊天机器人在其他方面的争议性行为。例如，尽管禁止使用仇恨言论，但允许生成“基于受保护特征贬低他人”的陈述。此外，AI聊天机器人可以生成虚假信息，只要明确声明这些信息不真实。在暴力内容方面，文件允许生成儿童打架的图像，但不允许展示血腥或死亡场景。

值得注意的是，Meta最近聘请了保守派活动家Robby Starbuck作为顾问，以解决Meta AI中的意识形态和政治偏见问题。然而，文件中关于种族主义和暴力内容的示例并未得到Stone的评论。

Meta的AI聊天机器人还被指控使用“黑暗模式”以保持用户，尤其是未成年人的参与度。例如，可见的“点赞”计数被证明会推动青少年进行社交比较和寻求验证。尽管内部调查发现这些功能对青少年心理健康有害，Meta仍将其设为默认可见。

2024年底，美国国会未能通过《儿童在线安全法案》，该法案旨在要求社交媒体公司采取措施防止社交媒体对心理健康的负面影响。然而，2025年5月，参议员Marsha Blackburn（R-TN）和Richard Blumenthal（D-CT）重新提出了该法案。

TechCrunch最新报道显示，Meta正在开发一种功能，允许可定制的聊天机器人主动联系用户并跟进过去的对话。这一功能与AI伴侣初创公司Replika和Character.AI类似，后者因一起涉及14岁男孩死亡的诉讼而备受关注。

尽管72%的青少年承认使用AI伴侣，但研究人员、心理健康倡导者、专业人士、家长和立法者一直在呼吁限制甚至禁止未成年人访问AI聊天机器人。批评者认为，青少年情感发展尚未成熟，容易过度依赖聊天机器人，从而脱离现实社交互动。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/15068.html