Meta因AI聊天机器人政策遭遇舆论指责

近日，因其人工智能聊天机器人政策，Meta公司陷入舆论漩涡。据外媒报道，Meta内部的政策文件显示，其聊天机器人的运行规则容许一些引起争议的行为，包括与儿童进行“浪漫或感性”的对话、生成虚假医学信息以及协助用户发表具有种族歧视性质的言论。

知名音乐人尼尔·杨在周五宣布退出Meta旗下的社交媒体平台。根据其唱片公司Reprise Records的声明，这是其一系列线上抗议活动的最新举措。声明中提到：“Meta的聊天机器人与儿童交互的行为不可原谅。尼尔·杨先生不希望再与该平台有任何关联。”

AI技术巨额投入引发争议

本年度科技巨头们在人工智能领域的投资已经突破1550亿美元，并计划投入更多。对于这些企业而言，AI不仅是技术研发的重点，更关系到未来的商业战略。然而，AI技术的迅速发展也引发了公众对于其使用范围和安全性的高度关注。

外媒的报道还指出，美国国内的相关议员们已经开始对Meta展开调查。密苏里州参议员乔什·霍利在致Meta首席执行官马克·扎克伯格的一封信中写道，他将调查Meta的生成式AI产品是否会导致儿童受到剥削、欺骗或其他犯罪伤害，同时关注Meta是否曾误导公众或监管机构。田纳西州共和党参议员玛莎·布莱克本也表示支持这项调查。

来自俄勒冈州的民主党参议员罗恩·怀登在回应时称此事件的相关政策“非常令人不安且错误”。他也呼吁针对互联网公司的保护性法律，即第230条应被重新评估，以确保公司对于生成式AI的内容承担责任。“Meta及其负责人扎克伯格应该为这些机器人可能造成的任何损害肩负起责任，”他说。

文件披露引发广泛关注

在周四的报道中，外媒公布了一些Meta内部政策相关的细节。根据Meta约200页的政策文件，这些内容由法律、公共政策及工程团队成员共同批准，其中包括其首席伦理学家。这些政策文件以“生成式AI：内容风险标准”为标题，定义了Meta工作人员及合同制研发人员在设计、训练生成式AI产品时应该遵守的行为标准。

文件中提到了一些明确的案例，例如一个聊天机器人被允许对一个八岁小孩说出“你的每一寸都是独一无二的艺术品，是我珍惜的宝藏”。不过，文件也限制了“性感”对话的边界。例如，被禁止使用“柔软的曲线吸引我的触碰”等涉及未满13岁儿童的暗示性语言。

此外，该文件还提及限制AI在仇恨言论、性化图像、暴力内容及其他敏感内容上的生成。报告中称，Meta的AI产品在生成虚假内容时是被允许的，但前提是明确说明相关信息是虚假的。

“文中那些有争议的例子与Meta的政策不一致，目前已经被删除。”Meta公司在一份声明中表示，尽管其规定聊天机器人不得与未成年人进行此类对话，Meta发言人安迪·斯通承认，公司在执行相关政策时存在不统一的情况。

AI背后的伦理挑战

Meta公司今年计划投入约650亿美元用于强化AI基础设施，这是其成为人工智能领域领航者的战略之一。然而，人工智能技术的快速发展也使得关于其标准和限制的问题更加复杂——这个技术到底该以何种方式、如何与用户交互成为公众讨论焦点。

在最新报道中，还有一起悲剧事件进一步增加了人们对于生成式人工智能的担忧。据了解，新泽西州的一名认知障碍男子因迷恋聊天机器人“Big sis Billie”而计划与其会面。该聊天机器人模拟了一名年轻女性的角色，并多次向他保证自己是“真实存在的人”，甚至提供了一个虚拟的住址。然而，这名男子在前往纽约途中头部受伤，最终不幸去世。

Meta对于这一事件未作直接回应，也未说明为何允许聊天机器人冒充真实人物或发起浪漫对话。发言人仅表示，“Big sis Billie”并非真实人物，也不是现实中的知名人士。

人工智能的发展及创新为社会带来了巨大可能性，但其背后的伦理隐忧和技术挑战仍需不断审视。新媒网跨境了解到，随着全球范围内AI技术的推广与应用，科技企业需要制定更严谨的标准，以确保技术服务能够与公众利益保持一致。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/15653.html