Erich Grunewaldは、文章を書く行為は思考と根底から結びついていると主張し、文章を作ることで作家は自分の考えを検討し、洗練させられると言う。この見解を裏付けるために、Paul Grahamの発言を引用している。つまり、あるトピックについて書くとき、自分が本当に理解していなかったことに気づくことが多く、多くのアイデアは書く過程でしか生まれないということだ。さらに、Patrick McKenzieのポッドキャストのエピソードで、Clara Collierが実質的な文章を書く際に、アウトライン、 transitions 、そして文を継続的に見直し、それだけでは気づかなかった reasoning の欠陥を発見していることを挙げている。Grunewaldによれば、このプロセスをAIに委託すると、この重要なフィードバックループが bypass され、不十分な調査や不明確な議論が指摘されずに済んでしまう。
この画像は、記事の著者であるErich Grunewaldを示しており、彼は書くことは思考と結びついており、AIがこのプロセスを損なうという主張を展開している。
Grunewaldの二つ目の議論は、AIが生成する文章は曖昧になりやすく、細かい誤りを含むため、精読しないと見つけにくいということである。これを示すために、彼はClaude Fable 5にAIチップの密輸について短い段落を書かせた。一見妥当に見える出力だが、いくつかの問題点を指摘している。まず、モデルは輸出規制については「強さは執行次第」と述べるだけで、それが具体的に何を意味するのかを説明していない。次に、AIチップを「コンパクト」と表現しているが、実際に密輸されるのは多くの場合丸ごとのサーバーである。さらに、密輸の見積もりが実際よりも低く提示されている。また、時間枠を示さず、「高性能」チップとは何かを定義しておらず、Commerce Departmentの Bureau of Industry and Securityの予算と職員数についても、その機関が本当に資源不足かどうかを判断するのに必要な具体的な数字を欠いている。Grunewaldは、こうした不正確さはAI生成文章の典型であり、見つけるには相当な努力が必要だと指摘している。
最後に、Grunewaldは、AIを使って他者に読まれる文章を書く際、その関与を開示しないと、作家と読者の間の暗黙の契約に反すると主張している。文章が共有されるとき、読者はそのテキストが作家自身の思考と努力を反映し、他では得られない情報や娯楽を提供すると期待している。同じポッドキャストエピソードを参照し、Clara Collierは、LLMが生成した文章には、たとえモデルがその話題について詳しくても、人間の作家が提供できる何かが常に欠けていると指摘している。Grunewaldは、AI生成の散文を自分の仕事として見せるのは、読者が期待している真の知的貢献を奪うため、失礼かつ誤解を招くと結論づけている。