デジタルコンテンツの進化する景観に関する分析の中で、Martin Fowlerは「LLM Voice」と呼ぶ成長しつつある現象を特定しています。これは、大規模言語モデル（LLM）によって生成される、人間の「生物学的」な散文とは異なる特定のスタイル上の特徴や構造的パターンを指します。Fowlerは、読者が「不気味な谷」効果、つまり、ほとんど人間のように感じられるものの、個人の思考の根底にある輝きを欠いたテキストに遭遇したときに感じる嫌悪感や認知的摩擦をますます経験していると示唆しています。彼は、AI生成コンテンツを検出すると主張するツールも一部あるものの、主な問題は、空虚であったり、合成的なものと感じられるほど過度に磨き上げられていたりする散文に対する人間の心理的反応であると指摘しています。
この画像は、「LLM Voice」とAI執筆の認知的リスクに関する分析の著者であるMartin Fowlerを特定するものです。
Fowlerは、執筆にLLMを使用することの主なリスクは、著者自身の認知プロセスの侵食であると主張しています。彼は、執筆は思考のための不可欠なツールであると仮定しています。言葉と格闘する行為は、書き手に混乱を克服させ、一貫性を達成することを強いるのです。散文の生成をLLMに委ねることで、書き手は、執筆によって促進されるはずであった思考や理解を、意図せず委ねてしまう可能性があります。彼は、著者がたった一つの段落をドラフトするのにもLLMを使用することに対して極めて慎重になるよう助言しており、人間が編集したAIのドラフトであっても、完全に排除することが困難な「LLM Voice」の残滓が残ることが多いと示唆しています。その代わりに、彼はAIを厳格に検索ツールとして、あるいは高レベルの構造的なアウトラインのために使用することを推奨し、著者が「自ら散文を埋める」ことで、テキストの中に人間性が可視化され続けることを主張しています。
しかし、Fowlerは、LLMによって生成された散文が許容可能、あるいは必要とされる実用的な例外があることも認めています。例えば、パーキンソン病などの身体的障害を持つ個人にとって、執筆への身体的な障壁を克服するためにLLMの支援が不可欠である場合があることを彼は指摘しています。さらに、公的な機関への定型的な手紙の作成や、人間ではなく機械に向けられたレポートの準備など、純粋に機能的なコミュニケーションにおいては、「不気味な谷」は無関係である可能性も示唆しています。これらのケースでは、目標は人間ではなくプロセスと意思疎通することです。それ以外のすべての人間対人間のコミュニケーションにおいて、Fowlerは、著者の独自の視点と「人間性」が合成的な外装によって平滑化されるのではなく、最終的な製品を通じて輝くことを確保することが目標であるべきだと主張しています。]