垃圾、垃圾... 烂摊？“僵尸互联网”背后的最新 AI 浪潮
你的电子邮箱充斥着垃圾邮件。
你的邮箱装满了垃圾邮件。现在，你的网络浏览器有了自己的问题：烂摊。“烂摊”是当你将人工智能生成的材料随意上传到网络供任何人查看时所得到的结果。与聊天机器人不同，烂摊并不是互动性的，也很少旨在实际回答读者的问题或满足他们的需求。相反，它主要用于创建人造内容的外观，从广告收入中获益，并引导搜索引擎关注其他网站。
就像垃圾邮件一样，几乎没有人想看烂摊，但互联网的经济关系导致它的产生。AI 模型使自动生成大量文本或图像变得微不足道，为任何可想象的搜索查询提供答案，上传无休止可分享的风景和鼓舞人心的故事，并创造一支支持性评论的军队。只要少数用户登陆网站，转发表情包或点击托管的广告，其创建的成本就能得以回收。但就像垃圾邮件一样，它的整体效果是消极的：现在用户必须浏览烂摊才能找到他们真正寻找的内容，这导致了用户浪费的时间和精力远远超过了对烂摊创建者的利润。
开发人员西蒙·威利森 (Simon Willison) 是“烂摊”这个术语的早期倡导者之一，他表示：“我认为给这个问题起个名字非常重要，因为它为人们提供了一个简洁的方式来谈论这个问题。” “在‘垃圾邮件’这个术语普及之前，并不是所有人都清楚不需要的营销信息是一种不好的行为方式。我希望‘烂摊’能产生同样的影响-它可以让人们清楚地了解生成和发布未经审查的 AI 生成内容是一种糟糕的行为。”
烂摊在某些情况下是最明显有害的，当它内容明显错误时。威利森指出了一个由 AI 生成的微软旅游文章，其中将“渥太华食品银行”列为加拿大首都的必看景点，这是问题的绝佳例证。偶尔，一篇烂摊是如此无用，以至于如何解释一个几十年前报纸漫画的笑话成为烂摊自身令人疯狂传播的关键词：他们用蠕虫支付我。”
AI 生成的书籍也成为一个问题。一个突出的例子是，最近有人警告业余采蘑菇者要避免在亚马逊出售的看起来是由聊天机器人编写且包含危险建议的采摘书籍。
图像生成的烂摊在 Facebook 上也不断涌现，耶稣基督四肢为明虾、坐在塑料瓶车里的孩子、虚假的梦想家园和声称已经烤了自己的 122 岁生日蛋糕的不太可能存在的老妇女的图像引起了数千次分享。-Jason Koebler,《404 媒体》技术新闻网站的插图表明，图像生成的烂摊导致对宗教肖像的怪异改编。
他称这一趋势代表了他所称的“僵尸互联网”。他说，烂摊的兴起使这个社交网络变成了一个混合了机器人、人类以及曾经是人类但已不再是人类的账户的灾难性网站，几乎没有社交联系。
跳过通讯推广
注册 TechScape
免费每周一次的通讯
Alex Hern 每周深入探讨技术如何影响我们的生活
输入你的邮箱地址
注册
隐私声明：通讯可能包含有关慈善机构、在线广告和由外部方出资的内容信息。有关更多信息，请参阅我们的隐私政策。我们使用 Google reCaptcha 保护我们的网站，适用 Google 的隐私政策和服务条款。
通讯推广后
尼克·克莱格是 Facebook 母公司 Meta 的全球事务总裁，在 2 月份写道，社交网络正在训练其系统识别 AI 生成的内容。他写道：“随着人类和合成内容之间的差异变得模糊，人们想知道界限在哪里。”
这个问题开始让社交媒体行业的主要营收来源——向广告代理商支付广告费的企业——感到担忧。英国数字营销机构 AccuraCast 的总经理法哈德·迪维查表示，现在出现了一种情况，用户错误地将广告标记为 AI 生成的烂摊，而其实不是。“我们看到一些用户评论说广告是 AI 生成的垃圾，而事实并非如此，”他说，补充说，如果消费者“开始感觉自己一直在被垃圾服务，这将对社交媒体行业构成威胁”。
解决电子邮箱中的垃圾邮件需要一个跨行业的巨大努力，并导致了电子邮件性质的根本改变。像 Gmail 这样的大型网络邮件提供商积极检查自己的平台以打击垃圾邮件，并越来越怀疑来自不受信任的电子邮件服务器的邮件。他们还应用复杂的、大部分不为人知的 AI 系统，试图直接检测垃圾邮件，与垃圾邮件制作者持续进行着一场猫鼠游戏。
对于烂摊，未来并不乐观：世界上最大的公司已经从看门人变成捕食者。上周，谷歌宣布了一项雄心勃勃的计划，将 AI 生成的答案添加到一些搜索结果的顶部，美国用户将成为首批体验“AI 概述”功能的人。这也将包括链接，但想要将响应限制在仅包含其他网站链接的选择的用户可以在搜索引擎网站上点击“网络”查找它们，这个选项被降级到列表选项的旁边，与“图像”和“地图”并列。
“我们之所以增加这个功能，是因为听到一些人说，他们有时候更愿意只看到他们搜索结果中的网页链接，”该公司的搜索联系人丹尼·沙利文（Danny Sullivan）写道。
谷歌表示，AI 概述拥有强大的安全保障。然而，在其他网络上，烂摊正在蔓延。
探索更多关于这些主题的内容
人工智能 (AI)
计算
互联网
社交媒体
Facebook
Meta
谷歌
特色
分享
重复使用此内容。注意：Title、Date、Body 三个部分的内容，放入到对应的位置，Title部分内容需要翻译为中文。最后只需要输出为Makedown源文件格式内容。
感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。
垃圾、垃圾... 烂摊？“僵尸互联网”背后的最新 AI 浪潮
