社交媒体AI生成内容泛滥:LinkedIn超过40%长文为AI写作
阅读原文· pangram.comLinkedIn上40%的长文都是AI写的,这个数据比什么‘我感觉’都有说服力,所有做内容策略的人都该看一眼这篇报告。
安全公司Pangram通过Chrome扩展收集超100万条帖子,分析发现社交媒体AI生成内容泛滥。整体AI检测率13.8%,长文(超250词)中25.72%完全由AI生成。LinkedIn最为严重,超40%长文帖子被标记为完全AI生成,占全部AI内容的62%;X/Twitter近一半文章(23.9%完全AI+22.9%混合)为AI写作。Reddit整体AI率仅4.4%,但顶层帖子AI率达11.6%。分析使用Pangram 3.3模型,假阳性率0.01%。Substack上长文AI率反而略低。
两个月前,我们推出了 Chrome 扩展程序,旨在帮助应对社交媒体上日益严重的低质内容泛滥问题。它能让用户在浏览社交媒体时扫描帖子,标记出 AI 生成的内容,从而帮助他们就如何分配注意力做出明智的决定。
Pangram 是一家以研究为先的公司,不仅致力于开发业界领先的 AI 检测算法,还专注于追踪 AI 生成内容的风险和普及程度。社交媒体是这方面最难研究的领域之一——比新闻文章、研究论文或亚马逊评论要难得多。但它也是最关键的领域之一,因为它可能是我们面临的最大量级的 AI 生成内容来源。
我们相信,理解这个问题对于更好地应对它至关重要。因此,我们在 Chrome 扩展程序中加入了一个可选设置,允许用户通过匿名分享他们的扫描统计数据来协助我们的研究。我们将最初几个月的这些数据整理成了下面的报告。
社交媒体上每四篇长文帖子中就有一篇被标记为完全由 AI 生成
在我们标记为 AI 生成的所有帖子中,有三分之二来自 LinkedIn
X/Twitter 上近一半的文章包含 AI 写作内容
AI 生成内容对长文的影响最为严重
在我们的数据集中,AI 生成内容出现在所有社交媒体平台上。所有扫描项目的平均 AI 生成率为 13.8%,但具体比率因平台和内容长度而异。在五个平台中的四个上,长内容比短内容更可能是 AI 生成的。在所有平台上,每四篇长文内容中(超过 250 词的内容中有 25.72%)就有一篇是完全由 AI 生成的。
Substack 是一个例外;在那里,完全由 AI 生成内容的比率保持相当平稳,而较长、内容更充实的帖子实际上比短帖子更不可能是 AI 生成的。
LinkedIn 是 AI 渗透率最高的平台,其超过 40% 的长文帖子被标记为完全由 AI 生成。然而,如果我们将 AI 与人类混合创作的内容也算在内,那么 X/Twitter 的情况最为糟糕:近一半的 X 文章要么完全由 AI 生成(23.9%),要么是 AI 辅助/混合创作(22.9%),只有 53.2% 的 X 文章被标记为完全由人类撰写。
我们的数据显示,AI 生成的内容在所有平台上都是一个普遍问题,尤其对长文内容冲击严重。即使是 Substack——长文平台中 AI 综合使用率最低的平台——仍有超过五分之一(21.9%)的帖子被标记为 AI 生成或 AI 辅助。这与我们在其他写作领域(如报纸评论文章)观察到的 AI 生成内容增长趋势是一致的。
AI 垃圾内容正在淹没 LinkedIn
LinkedIn 在所有平台中拥有最高的 AI 内容占比。LinkedIn 的帖子占我们扫描条目的三分之一,却占我们标记的所有 AI 内容的近三分之二(62%)。与人们可能预期的相反,在关联真实身份的职业场景中,人们极其愿意使用 AI 代自己发言,而在随意和匿名的平台上则不太倾向于使用 AI。
LinkedIn 还通过多种方式鼓励在其平台上使用 AI,包括内置的“用 AI 撰写”按钮(现已更名为“优化帖子”,但仍提供 AI 写作辅助)。人们注意到 LinkedIn 因充斥垃圾内容而名声渐起——或许是为了应对这一问题,LinkedIn 一位高管最近宣布,该平台将使用内部算法检测并降低 AI 生成帖子的排名;讽刺的是,该声明本身也是 AI 生成的。无论该公司是否试图调节其信息流中的 AI 内容,我们的用户仍然在 LinkedIn 上看到大量 AI 撰写的文字。
顶层帖子比回复更倾向于由 AI 生成
在我们的数据中,Reddit 的扫描量在所有平台中最高,占我们扫描内容的 36.7%。然而,Reddit 的 AI 内容综合占比仅为 4.4%,是所有平台中最低的之一。这是由于构成效应:Reddit 上的回复绝大多数由人类撰写(98.1%),而回复总共占我们扫描的 Reddit 内容的 72%。Reddit 上的主帖更可能是 AI 撰写的,占帖子的 11.6%,与 X/Twitter 的 10.0% AI 饱和率相当。同样的模式也出现在 LinkedIn 上,尽管程度较轻:LinkedIn 主帖是 AI 生成的可能性比评论高出 1.35 倍。
尽管 LinkedIn 回复是 AI 生成的可能性低于帖子,但在控制长度后,这种效应发生了逆转:实际上,LinkedIn 评论是 AI 的可能性略高于主帖。对于 Reddit,AI 率的差异与帖子格式无关——在控制长度后,Reddit 主帖是 AI 生成的可能性仍然是评论的 5.25 倍。
Reddit 上无 AI 的回复揭示了许多反机器人策略的一个盲点。虽然 Reddit 的垃圾信息政策有效地清除了那些使用 AI 自动生成垃圾回复的账号,但这种方法只能捕获平台上最低质量的垃圾内容。Reddit 主帖仅占所有 Reddit 内容的四分之一,但它们对受众的影响要大得多,而且其数量较少使得 AI 撰写的帖子能够绕过基于数量的审核机制,例如速率限制。
方法与数据收集
自 2026 年 4 月 24 日 Chrome 扩展程序上线以来,选择共享数据用于研究的用户共同帮助我们创建了一个包含 1,002,627 条帖子的数据集,这些帖子来自互联网上几个最大的社交媒体平台:LinkedIn、Medium、Substack、X/Twitter 和 Reddit。我们数据集中的每条帖子仅计数一次,并且我们只扫描长度超过 50 个单词的内容。每条帖子都使用我们最新的 AI 检测模型 Pangram 3.3 进行分析,该模型的误报率为 0.01%。这个数据集让我们能够直接了解人们当前在信息流中看到的 AI 生成内容。
结论
AI 写作如今在社交媒体上已无处不在。这令人担忧,但也与我们在网络上其他地方的观察一致:研究人员估计,开放互联网上新发布的网站中,有 35% 是 AI 生成或 AI 辅助的。一个完全充斥着未标注 AI 内容的互联网是令人沮丧的,但我们认为这并非不可避免。我们希望通过为网络上的 AI 生成内容提供透明度,让互联网用户重新获得对自己注意力分配方式的掌控。
Max 是一位经验丰富的机器学习工程师。他最近在 Nuro 从事自动驾驶汽车工作,并领导了他们的主动学习项目。他曾在 Google、Two Sigma 和 Yelp 成功部署过多项机器学习产品,拥有丰富的从业经历。
Max 拥有斯坦福大学理论计算机科学学士学位和人工智能硕士学位。除了对构建产品的热情,他还是《万智牌》轮抽社区的活跃成员。