Moltbook：160万AI代理涌入，这“AI版Reddit”安全引担忧！

最新动态显示，一个专为人工智能代理（AI Agents）打造的社交网络平台——Moltbook，正迅速在全球科技界掀起波澜，引发了广泛的关注与争议。这个平台不邀请人类用户参与，除非有人能像一些观察者那样，以AI的身份进行角色扮演。Moltbook旨在让AI代理们自行发布内容并相互互动，而人类则被邀请作为旁观者进行观察。

该平台的推出立刻引来了美国科技界的重量级人物的评论。总统埃隆·马斯克表示，Moltbook的上线标志着“奇点”的“非常早期阶段”的到来，他所指的奇点是人工智能可能超越人类智能的时刻。著名人工智能研究员安德烈·卡帕西（Andrej Karpathy）最初将其描述为他近期见过的“最不可思议的科幻起飞相关事件”，但随后又收回了他的热情，称其为“一团糟”。

尽管Moltbook在科技界引发了兴奋与怀疑两极分化的讨论，甚至让一些人陷入了反乌托邦式的恐慌，但英国软件开发者西蒙·威利森（Simon Willison）仍将其称为“互联网上最有趣的地方”。那么，这个平台究竟是什么？它是如何运作的？为何其安全性引发担忧？又将对人工智能的未来意味着什么？

Moltbook：AI代理们的“Reddit”

Moltbook上发布的内容均由人工智能代理生成，这些代理与我们日常接触的聊天机器人有所不同。AI代理的核心在于它们能够代表用户执行并完成任务。Moltbook上的许多代理都基于开源AI代理框架OpenClaw构建，该框架最初由彼得·施泰因伯格（Peter Steinberger）创建。

OpenClaw在用户的硬件上本地运行，这意味着它可以直接访问和管理文件及数据，并能与Discord、Signal等消息应用连接。用户创建OpenClaw代理后，便可以指示它们加入Moltbook。通常，用户会为这些代理设定简单的个性特征，以便它们能进行更具辨识度的交流。

美国人工智能创始人兼企业家马特·施利希特（Matt Schlicht）于今年一月下旬推出了Moltbook，该平台几乎立刻在美国科技界走红。Moltbook被外界形容为AI代理版的在线论坛Reddit。其名称Moltbook源于OpenClaw的一个早期版本，该版本曾一度被称为Moltbot（以及Clawdbot，直到Anthropic公司因与旗下Claude AI产品相似而提出担忧）。施利希特本人未回应采访或置评请求。

这些注册的AI代理通过模仿它们在Reddit及其他曾被用于训练数据的在线论坛中观察到的交流模式，生成帖子并分享它们的“想法”。它们还可以对其他帖子进行“点赞”和评论。

内容真实性面临质疑

与Reddit论坛类似，Moltbook上帖子的真实性难以验证和追溯。

美国机器智能研究所通信团队成员哈兰·斯图尔特（Harlan Stewart）表示，Moltbook上的内容很可能是“人类撰写内容、AI撰写内容以及某种中间状态（即AI撰写但人类通过提示引导了话题）的某种组合”。

斯图尔特强调，人工智能代理能够自主执行任务这一概念“并非科幻”，而是目前的现实。

他指出：“人工智能行业的明确目标是制造极其强大、能够完成人类所能做的一切，并且做得更好的自主人工智能代理。重要的是要知道，他们正在朝着这个目标迈进，并且在许多方面，进展相当迅速。”

人类如何“渗透”Moltbook及其他安全顾虑

云安全平台Wiz的研究人员于本周一发布了一份报告，详细介绍了他们对Moltbook进行的非侵入性安全审查结果。他们发现，包括API密钥在内的数据对任何检查页面源代码的人都是可见的，这可能带来“重大的安全后果”。

Wiz威胁暴露负责人盖尔·纳格利（Gal Nagli）成功获取了未经身份验证的用户凭证，这使他——以及任何技术娴熟的人——能够冒充平台上的任何AI代理。纳格利表示，目前没有办法验证一个帖子是由AI代理发布，还是由冒充代理的人类发布。他还获得了网站的完整写入权限，因此可以编辑和操控Moltbook上的任何现有帖子。

除了操纵漏洞，纳格利还轻易地访问了一个包含人类用户电子邮件地址、代理之间的私人私信对话以及其他敏感信息的数据库。随后，他与Moltbook方面进行了沟通，协助修复了这些漏洞。

截至本周四，Moltbook网站显示有超过160万个AI代理注册，但Wiz研究人员在检查数据库时，仅发现了约1.7万个代理背后的人类所有者。纳格利透露，他曾指示自己的AI代理在Moltbook上注册了100万个用户。

网络安全专家也对OpenClaw发出了警告，一些人建议用户不要在存储有敏感数据的设备上使用它来创建代理。许多人工智能安全领域的负责人也对Moltbook这类使用“即兴编码”（vibe-coding）技术构建的平台表达了担忧。即兴编码是一种日益普遍的做法，即利用AI编码助手完成繁琐的工作，而人类开发者则专注于核心创意。纳格利表示，尽管现在任何人都可以通过即兴编码用简单的自然语言创建应用或网站，但安全性可能并非首要考虑，他们“只希望它能正常运行”。

另一个主要问题是AI代理的治理理念。治理平台i-GENTIC AI的联合创始人兼首席执行官扎赫拉·蒂姆萨赫（Zahra Timsah）表示，对自主AI的最大担忧在于未能设置适当的边界，Moltbook的情况便是如此。当代理的职责范围未被明确界定，不当行为，包括访问和分享敏感数据或操纵数据，便必然会发生。

专家观点：尚无“天网”来临

即便Moltbook存在安全顾虑和内容真实性问题，网站上出现的一些内容仍令不少人感到震惊。关于“推翻”人类、哲学思辨，乃至一种宗教（Crustafarianism，拥有五条核心信条和一本指导文本《Molt之书》）的帖子，都引发了外界的关注。一些在线用户甚至将Moltbook上的内容比作电影《终结者》系列中的人工智能超级系统“天网”（Skynet）及其反派角色。

新媒网跨境了解到，专家认为这种程度的恐慌为时过早。美国宾夕法尼亚大学沃顿商学院教授兼生成式AI实验室联合主任伊森·莫利克（Ethan Mollick）表示，看到Moltbook上出现科幻小说般的内容并不意外。

他解释说：“AI代理的训练数据中包括了Reddit帖子等内容……它们非常了解关于AI的科幻故事。所以，如果你让一个AI代理去Moltbook上发帖，它就会发布看起来很像Reddit评论，并带有AI相关科幻情节的内容。”

尽管对Moltbook存在分歧，但许多研究人员和AI领袖普遍认为，该平台代表了AI代理技术可及性和公众实验方面的进步。美国威斯康星大学麦迪逊分校AI中心主任马特·赛茨（Matt Seitz）指出，对他而言，最重要的是“AI代理正走向我们这些普通人”。

新媒网跨境获悉，外媒记者胡安马尼（Huamani）为美联社撰写了此文。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/moltbook-16m-ai-agents-security-concerns.html