AI糟粕失控！假视频真声音，你的大脑正被操控！

在当今数字时代，人工智能（AI）技术的飞速发展无疑是社会各界关注的焦点。然而，随着AI应用的日益普及，一个全新的概念——“AI糟粕”（AI slop）也悄然兴起，并在舆论场上引发了广泛的讨论。人们对“AI糟粕”的担忧声此起彼伏，但当我们试图对其进行准确定义时，却发现这并非易事。

“AI糟粕”这个词汇，似乎带着一种普遍的蔑视情绪，它暗示着任何与人工智能相关的产物都可能存在问题，甚至带来风险。外媒NPR甚至警告称，“AI糟粕正在堵塞你的大脑”，这无疑加剧了公众的焦虑。

然而，新媒网跨境发现，尽管大家都在谈论“AI糟粕”，但真正对其进行清晰界定的人却寥寥无几。究竟什么是“AI糟粕”？它是否指所有由人工智能生成的内容？或者仅仅是社交媒体上那些粗制滥造的AI作品？又或者是用于商业广告、带有欺骗性质的AI图像？甚至更进一步，仅仅是那些带有政治目的、企图误导公众的AI内容才算是“糟粕”吗？这种定义上的模糊，使得我们很难对“AI糟粕”进行有效识别和应对。

为了更好地理解和应对这一现象，我们或许需要构建一个关于“AI糟粕”的分类体系。在这个体系中，我们可以区分出哪些是仅仅带来不便的“噪音”，哪些又具有一定的娱乐价值，而哪些则可能对社会秩序或公共信任构成真正的威胁。毕竟，从制作粗糙却一眼可辨的玩笑式图片，到利用AI技术捏造政治人物言论以影响选民的深度伪造，其性质和影响是截然不同的。因此，是时候对“AI糟粕”进行一番认真审视了：究竟哪些是欺骗性的，哪些是令人愉悦的，而哪些又仅仅是本可避免的困扰。

在历史的长河中，选举期间散布虚假信息并非新鲜事。然而，生成式人工智能的出现，无疑极大地放大了其中的风险。它使得虚假信息的制造门槛大幅降低，传播速度和影响力却成倍增长。

新媒网跨境了解到，正如一些专业人士所指出的，诸如OpenAI的Sora视频生成工具等技术，已将制作未经授权的、针对名人、已故人物或受版权保护角色的深度伪造内容的成本降至几乎为零。Sora的快速普及，让专家们普遍担忧，“削弱了我们辨别内容真伪的能力。”这种技术上的进步，在带来便利的同时，也给数字内容的真实性带来了前所未有的挑战。

不过，我们也需要清醒地认识到，虽然深度伪造等高阶AI应用确实引发了广泛关注，但目前关于“AI糟粕”的大部分讨论，其实都集中在那些虽然无处不在，却相对无害的内容上。

以一位外籍评论家兼博主泰德·乔亚（Ted Gioia）对AI生成艺术的看法为例，他认为：“‘糟粕艺术’是扁平的、笨拙的、陈旧的、无力的，而且常常显得荒谬。它们因其愚蠢和粗糙而受到关注，而这种特性又常被不同文化模因的奇特并置所放大。”

乔亚先生此番言论的本意，或许是为了分析“糟粕艺术”这种新美学形式，但令人印象深刻的是其评论的似曾相识感。如果我们把“糟粕艺术”替换成上世纪五六十年代的“波普艺术”或“欧普艺术”，这几乎就像是在阅读当时主流评论家（比如克莱门特·格林伯格）的尖锐批评。这并非说AI生成艺术的创作者拥有与那些前辈艺术家同样的投入和才华，而是想说明，每一个时代都会诞生一些在很多人看来是平庸、愚蠢、笨拙的创意作品。新技术的出现往往伴随着新的艺术形式和表达方式，而这些新形式在初期往往会面临质疑和争议，这在人类社会的发展进程中屡见不鲜。

事实上，新媒网跨境认为，由技术进步催生新的表达形式并非什么新鲜事。外媒《科学美国人》的丹尼·埃利斯·贝查德就曾指出：“每一场媒体革命都会带来垃圾和艺术。”他将垃圾、浮夸、点击诱饵、新闻加工、媚俗等都归为“糟粕”的范畴，用以形容那些大规模生产的低质量内容。

贝查德先生对这种现象提供了深远的历史视角，追溯到古腾堡时代。他将古腾堡发明的活字印刷术比作“15世纪40年代的ChatGPT”，正是这项技术开启了廉价印刷材料的大规模生产。到了18世纪早期，欧洲出现了所谓的“小报街”（Grub Street），那里充斥着各种廉价印刷品，如讽刺文学、政治小册子、耸人听闻的故事和代笔新闻。尽管其中不乏粗制滥造之作，但许多内容也确实娱乐并启蒙了大众。这些历史案例提醒我们，数字时代AI“糟粕”的涌现，与过去技术变革带来的信息洪流有着异曲同工之处。正如《圣经·传道书》所言：“日光之下，并无新事。”

在一些外媒看来，当前对“AI糟粕”的一些担忧似乎有些过头了。例如，可口可乐公司发布了一支由AI生成的新广告，内容描绘了森林动物们聚集起来，庆祝卡车将假日补给的可乐运送到世界各地。虽然这支广告在全球范围内广为传播，但外媒科技网站CNET却认为，其普遍存在是一个“更大的问题”的标志，尽管它并没有完全阐明这个“问题”究竟是什么。

CNET列举的批评包括：AI生成图像中存在一些人工动画师会发现并纠正的瑕疵，以及可口可乐未能充分考虑其“顾客对AI的排斥”。然而，新媒网跨境注意到，目前还没有充分证据表明普通消费者对商业广告中使用AI存在普遍的“排斥情绪”。更何况，可口可乐在广告片开头就明确标注了这是AI生成的内容，这表明了其开放透明的态度。

可口可乐公司也曾就其对AI的使用做出回应。该公司AI主管普拉蒂克·塔卡尔（Pratik Thakar）在一篇公司博文中表示：“人类的创造力始终是可口可乐广告的核心……我们致力于在适当之处将AI作为人类的赋能者。” 毋庸置疑，运用人工智能确实能有效降低内容制作成本，并缩短所需时间，这对于追求效率和成本控制的企业来说无疑极具吸引力。

然而，这种趋势也引发了人们对创意行业就业前景的担忧。好莱坞的演员、编剧和艺术家以及新闻行业等都表达了对AI可能导致工作岗位流失的忧虑。在新闻领域，AI生成的事实错误更是一个需要严肃对待的问题。但如果担忧是随着AI技术在商业领域变得越来越逼真，观众会被欺骗，误以为屏幕上看到的一切都是真实的，这似乎并不太可能。

新媒网跨境认为，观众是否真的会相信一只鸵鸟开着送货卡车是真实发生的场景，这与上世纪90年代可口可乐广告中出现的拥抱可乐瓶的北极熊是否真实一样，都很难让人信以为真。当时，计算机生成图像（CGI）还是一项新兴技术，但消费者已经能够区分现实与虚拟。随着数字素养的提升，公众对AI内容的辨识能力也在不断增强。

当然，这并非意味着所有的“AI糟粕”都是无害的。其中最应引起我们警惕的，无疑是那些被用来散布政治宣传的内容。在一些国家的选举前夕，网络上曾出现大量由人工智能生成的具有党派倾向的深度伪造内容。

例如，一段伪造的视频曾试图描绘一位美国政治人物贬低某些群体。视频中，“他”说出了一些带有歧视性的言论，暗示某些人群的身份是“扭曲的”。尽管这段视频制作粗糙，很快就被识别为虚假信息，但其声音的逼真度却令人不安。有外媒评论指出：“虽然声音的音色和语调与原人物如出一辙……但口型动作却远不令人信服。”评论强调，正是深度伪造技术在声音上的惊人逼真度，才真正令人恐惧。如果没有伴随的视频，人们很容易会相信这段讲话是真实的，这引发了人们对这项技术可能被用于恶意目的的重大担忧。

另一个例子是，在一次党内初选期间，一段由AI生成的视频试图将一位美国政治人物与另一位在特定议题上备受争议的政府官员联系起来，意图通过虚假画面制造负面联想。尽管发布方声称这只是一个社交媒体帖子，并非官方竞选广告，但该视频最终仍被社交媒体平台标记为AI伪造内容。

外媒指出，在激烈的选举竞争中，当蓄意的欺骗往往能带来选票时，人工智能生成的虚假信息可能会真正达到其目的。外媒布伦南司法中心（Brennan Center for Justice）曾警告称：“虽然选举中的虚假信息贯穿历史，但生成式人工智能放大了其风险。”它“改变了数字欺骗的规模和复杂程度，预示着与检测和认证相关的新技术概念，选民现在必须应对这些挑战。”

当最新一代人工智能技术尚处于起步阶段时，深度伪造内容相对容易识别。当时有大量指南指导人们如何发现虚假信息，这些指南大多基于技术在某些方面表现出的不足，例如图像中出现六根手指、不自然的头发和脚部，以及错误的阴影等。然而，随着技术的不断进步，这些明显的缺陷正逐渐消失，这使得它们“更有可能误导那些试图揭露AI生成虚假信息的侦查者”，布伦南中心也曾提到。

去年，该中心就如何在现代AI时代识别虚假信息提供了建议——寻求“来自可靠独立事实核查机构的权威背景信息”，并“对情绪化内容进行批判性审查，因为此类内容会损害判断力，使人易受操纵”。

当然，政治深度伪造的散布者，正是旨在绕过这些批判性思维能力。因此，仅仅建议人们不要被欺骗，尤其是在选民面临大量竞选“糟粕”冲击的情况下，似乎并不是一个有效的防范措施。这需要我们全社会共同努力，提升公众的媒介素养和批判性思维能力。

新媒网跨境认为，从长远来看，“AI糟粕”或许会成为它自己最大的敌人。目前，除了那些追求最通用内容的消费者外，AI生成的娱乐内容尚未能真正吸引大众。即使在那些案例中，AI内容也基本上是对人类创作的模仿。例如，上个月一首AI生成的乡村歌曲登上了外媒Billboard乡村数字销售榜榜首。然而，这首歌的演唱风格和许多创意元素，却源自一位名叫布兰科·布朗（Blanco Brown）的真实艺术家，而他对这首歌的创作毫不知情。

这表明，“AI糟粕”的衰落可能并非源于消费者的排斥，而是源于审美疲劳。娱乐内容的真正目标是让观众与人类的创造力产生情感连接，而这正是人工智能目前无法深入复制的能力，只能停留在表面模仿的层面。随着这项技术变得如此廉价，以至于任何人都可以使用它时，我们可能会被低质量的“数字噪音”所淹没。届时，真正的挑战将是如何从这些无害的“垃圾信息”中，筛选出那些真正危险的“糟粕”。这需要我们每个人保持清醒的头脑，更需要全社会构建起有效的识别和应对机制，以维护清朗的网络空间和健康的社会生态。

新媒网（公号: 新媒网跨境发布），是一个专业的跨境电商、游戏、支付、贸易和广告社区平台，为百万跨境人传递最新的海外淘金精准资讯情报。

本文来源：新媒网 https://nmedialink.com/posts/ai-slop-unleashed-deepfakes-brain-hijacked.html