译：GPT 可能是一种信息病毒
Place
date
Jul 29, 2025
slug
gpt-might-be-an-information-virus
status
Published
summary
生成模型的崛起可能导致信息经济的长期影响，尤其是AI生成内容的泛滥将使人类创作减少，信息传播能力下降。谷歌面临的挑战并非来自竞争对手，而是无法检测的虚假内容的民主化。未来，去中心化网络可能成为应对信息病毒的解决方案，尽管当前网络的消亡可能是一个积极的发展。GPT作为一种工具，能够为人类提供丰富的信息资源，推动社会进步。
type
Post
网址
tags
翻译
Created
Jul 29, 2025
Created by
原文：GPT might be an information virus 原文发布于：2023年3月9
强制性声明：此帖中表达的观点和意见仅代表我个人，并不代表我的雇主的观点和意见。
鉴于关于ChatGPT的各种热议，我想提出我对未来2-5年互联网的“热评”。
生成模型崛起的一个方面并没有得到足够的关注，那就是对信息经济的长期影响。我认为，能够以大规模自动生成与人类生成内容无法区分的任意内容，将是我们所熟知的网络的终结。
当前的网络
就在我们交谈时，成千上万的小企业正以利用ChatGPT作为“SEO专家”为唯一目的而成立。它被用来撰写网站、社交媒体帖子和评论，以推广产品和企业。
在过去十年中，这项工作由世界较贫穷地区的内容农场承担。这些地方所做的工作正在慢慢侵蚀谷歌、亚马逊（以及其他公司）所依赖的价值体系：即你在互联网上找到的信息是真实的，并与你的兴趣相符。现在，随着GPT的出现，这些内容农场的工作即将加速。ChatGPT以比最好的内容农场更快、更便宜的速度生成更好的“假”内容。如此之快，我怀疑这些SEO工厂十年间所完成的工作将在不到一年的时间内重演。
这对互联网的未来意味着什么？考虑一下现在在谷歌上找到可靠信息有多难，与2013年相比。想象一下造成这种翻倍的核心问题。然后在2024年再翻四倍，再在2025年翻八倍。
还会出现一个相关的问题：随着AI生成的信息淹没人类生成的信息，人类将会停止创作内容。因此，不仅噪音水平即将提升一个数量级，信号也会随之下降。
信息病毒
当我说GPT可能是信息病毒时，我指的是即将发生的传播。我们信息经济的经济激励将驱动成千上万的企业创建AI生成的内容。随着越来越多的互联网变为AI生成，人类将无法有效地使用它作为信息存储系统。他们不会写作，因为他们的声音会被AI的喧嚣淹没。他们不会阅读，因为——为什么要阅读AI生成的内容，而不直接与自己的虚拟助手对话呢？
我怀疑最终结果是，我们的社会即将失去大规模传播信息的能力，至少在过去几十年中可用的方法上。
这种病毒以金钱为食。只要仍然存在经济激励去产生内容，人们就会使用生成模型将其涌入互联网。这是不可检测的，因此不可阻挡。不管OpenAI是否存在，这种现象都会发生。
虽然我在这篇文章中特别考虑的是文本，但我认为这将发生在每种数据形式上。图像、文本和音频将首先受到影响，而很快。视频可能在几年内安全，但如果你认为它会永远安全，那你就太天真了。
谷歌实际上为何面临困境
过去两个月，流行新闻头条曾表示谷歌有了新的竞争者。这些文章是对的，但他们看错了方向。谷歌面临巨大问题，但不是因为它有竞争对手。它的问题在于能够大规模生产无法被检测到的虚假计算机生成内容的能力已经被民主化。谷歌是信息经济的大门把守者，而信息经济正是GPT病毒所滋养的对象。
随着互联网“充满”无法检测到的AI生成内容，谷歌的搜索算法将无法可靠地工作。人们目前抱怨ChatGPT提供自信而错误的答案，并说谷歌没有这个问题。这些人忽视了一个重要点：ChatGPT的答案被发布到网络上。谷歌无法检测到它们。因此，很快，谷歌也将充满这些自信而错误的答案，而没有已知技术能够将其过滤掉。
在充满99% AI生成内容的信息污水中，谷歌的搜索将不再有效，人们将不再使用它。广告商将停止广告投放。这是谷歌真正存在的威胁，与OpenAI或微软无关。这与这一技术存在并被广泛应用有关。如果谷歌明天推出一款击败ChatGPT或必应的新版本Bard，这一简单事实也不会改变。
我心中的阴谋论者认为，谷歌管理层对此有所了解。这就是他们从未推出Lambda或类似聊天机器人的原因。
我认为谷歌注定要失败吗？不——未必。我只是认为他们不再“安全”。他们需要构建一整条新的产品线，然后在此基础上建立一个盈利结构——否则他们会失去当前的资金来源。接下来十年将会非常艰难。幸运的是，在我看来，谷歌的人才密度仍然相当高。唯一阻碍他们的是高层管理和官僚主义。
（对于那些不知道的人，我在谷歌工作了五年——我很喜欢那里。我喜欢这家公司，大多数情况下也喜欢其文化，并对在那里工作的人们深感敬意。）
这是否是“Web 3.0”的真正崛起？
在COVID危机期间，一个有趣的分散注意力现象是技术哲学家的崛起，他们发表言论称我们正处于“去中心化网络”的边缘。这一论点中让我始终困惑的一部分是：“你怎么能说服我（60岁的）妈妈开始使用你的Web 3.0？”
如果我上述的预测成真，Web 3.0实际上可能会成为一种“事物”。某种形式的去中心化网络可能会成为人类通过计算机进行沟通的唯一途径。遏制信息病毒的唯一方法是使产生内容的经济价值为负。这听起来确实很像我理解的Web 3.0！这一过程如何实际展开则更难预测，但我认为加密货币可以解决GPT“信息病毒”所提出的一些问题。
以积极的态度结束
这篇文章在“悲观”的尺度上相当高。然而，早在2000年代初我们熟知的网络就已经在逐渐消亡。当我几年前意识到，搜索谷歌的最佳方法是在每个搜索前加上“reddit”或使用YouTube时，这一点变得尤为明显。我认为，对我们的社会而言，“克服”旧网络实际上是一个积极的发展。我不能确定未来将会更好，但我很确定现在存在的东西并不值得拯救。
除了网络的命运，我认为GPT是一种巨大的积极力量。在短短几年内，每个人都能将压缩版的人类知识放在一个USB闪存驱动器上，带出家门。每个人都能获得关于数学、科学、医学、编程等“极佳”的信息来源——有一个可以通过自然语言访问的界面进行索引。是的，它会有缺陷——但对真实的人来说仍然非常有价值。
这让我感到无比兴奋。我相信，整个人类社会将因此向前迈出一步。