专注于软件基础设施的出版物 The Consensus 引入了一种新机制,用于识别和管理表现出“AI 特征”(AI tells)的内容。这一举措源于读者偏好的转变;根据 Cynthia Dunlop 的一项调查,技术领域的读者往往更倾向于人类撰写的内容——即使其中包含细微瑕疵——而非打磨精美但平庸的 AI 生成文本。为了解决这一问题,该网站的创始人 Phil Eaton 开发了一个检测器,用于标记那些高度类似于 Claude 或 ChatGPT 等大语言模型(LLMs)风格模式的文章。

Deepthi Sigireddi 的肖像
Deepthi Sigireddi,她对读者偏好的研究影响了这一举措。theconsensus.dev

这一举措源于读者偏好的转变;根据 Cynthia Dunlop 的一项调查,技术领域的读者往往更倾向于人类撰写的内容。

与使用机器学习的高端商业检测器不同,这一内部工具依赖于一套静态规则。这些规则是通过对比 2023 年之前的写作风格与 2023 年之后的写作风格建立的,同时考虑了人类写作风格随时间产生的自然漂移。该检测器并不提供关于某篇作品是否由 AI 撰写的最终裁决;相反,它识别出处于“AI 特征”第 99 百分位水平的文章。这些被标记的文章会自动从网站的高曝光区域排除,例如首页的“一目了然”(At a Glance)板块、社交媒体推广以及每周新闻邮件。

虽然通过训练 AI 模型模仿特定的人类风格可以绕过该系统,但其主要目标是推广深思熟虑的人类创作的技术写作。The Consensus 认为使用 AI 进行交流本身并非负面,但他们的目标是减少那些可能让内容显得重复且缺乏原创性的“通用型”AI 散文的流行程度。对于那些希望无论是否有这些标记都看到所有内容的读者,该网站仍提供手动过滤推送或在搜索查询中调整“aitells”阈值的选项。这种方法突显了技术出版领域中日益增长的紧张关系:即 AI 生成的效率与人类创作中感知到的细微差别和个性之间的权衡。

这种基于规则的方法的一个显著局限是其可能产生误报,因为该系统偶尔也会标记人类创作的文章。此外,这一举措凸显了内容策划中的一个更广泛的挑战:随着 AI 模型在模仿人类细微差别方面变得越来越成熟,仅通过静态规则来定义“优秀的” AI 写作和“糟糕的”人类写作之间的区别可能会变得越来越困难。The Consensus 的策略反映了一种趋势,即在软件基础设施领域将人类写作独特的“个性”作为编辑质量的主要衡量标准。

最终,这些“AI 特征”的实施作为一种守门机制,确保最受推广的内容保留人类的触感。通过为通用的 AI 输出制造摩擦点,该平台鼓励一种避免当前 LLM 输出中常见重复模板的写作标准。虽然生成内容的技术正变得越来越普及,但编辑重点仍集中在技术交流中的人类元素,出版商正在积极管理产量、速度和真实性之间的特定权衡。

该机制通过分析自生成式 AI 广泛采用以来出现的语言模式来发挥作用。通过识别这些“特征”——例如特定的结构重复或过于中性的措辞——该网站可以程序化地呈现更符合其受众真实感受的内容。这创建了一个分层系统,其中人类创作的内容获得了“亮点”式的推广,而 AI 含量高的内容则被 relegated 到背景中,从而允许出版物在不完全禁止贡献者使用 AI 工具的情况下维持其编辑标准。