在对数字内容演变格局的分析中,Martin Fowler 指出了一个他称之为“LLM 风格”的日益增长的现象。这指的是由大语言模型(LLMs)产生的特定风格标记和结构模式,这些模式与“生物性”的人类散文有所不同。Fowler 认为,读者正越来越多地经历一种“恐怖谷”效应——即在遇到那些感觉几乎像人类作品但缺乏底层个体思考火花的文本时,产生的一种反感或认知摩擦。他指出,虽然一些工具声称可以检测 AI 生成的内容,但核心问题是人类对那些感觉空洞或过度润色到显得合成的散文所产生的心理反应。

软件工程师兼作家 Martin Fowler 的肖像
Martin Fowler,他正在探索 AI 生成散文带来的心理摩擦。martinfowler.com

这张图片识别了 Martin Fowler,他是关于“LLM 风格”以及 AI 写作认知风险分析的作者。

Fowler 认为,使用 LLM 进行写作的主要风险是侵蚀作者自身的认知过程。他假设写作是思考的重要工具;与文字搏斗的行为迫使作者克服困惑并实现连贯性。通过将散文生成委托给 LLM,作者可能会在无意中放弃了写作本应促进的思考和理解。他建议作者在利用 LLM 起草哪怕一个段落时也要极其谨慎,并指出即使是经过人工编辑的 AI 草稿,往往仍保留着难以完全清除的“LLM 风格”。相反,他建议严格将 AI 作为搜索工具或用于高层级的结构大纲,同时坚持要求作者“亲自填充散文”,以确保他们的人性在文本中清晰可见。

然而,Fowler 也承认在某些实际情况下,LLM 生成的散文可能是可以接受甚至必要的。例如,他指出患有帕金森病等身体残疾的个体,可能会发现 LLM 的辅助对于克服写作中的身体障碍至关重要。此外,他建议对于纯功能性的交流——例如给官员写公文或准备一份旨在交给机器而非人类的报告——“恐怖谷”效应可能无关紧要。在这些情况下,目标是与流程沟通而非与人沟通。对于所有其他人类对人类的交流,Fowler 坚持认为,目标应该是确保作者独特的视角和“人性”在最终产品中闪耀,而不是被合成的虚饰所抹平。