Erich Grunewald sostiene que el acto de escribir está fundamentalmente entrelazado con el pensamiento, argumentando que producir texto obliga al escritor a examinar y refinar sus ideas. Respaldó esta view citando la observación de Paul Graham de que escribir sobre un tema a menudo revela lo que el escritor realmente no sabía, señalando que muchas ideas surgen únicamente durante el proceso de escritura. Además, mencionó un episodio del podcast de Patrick McKenzie donde Clara Collier describe cómo, al escribir algo sustancial, ella continuamente reassume su esquema, transiciones y frases, descubriendo fallos en su razonamiento que permanecerían ocultos si solo consultara un esquema. Según Grunewald, externalizar este proceso a una IA omite este esencial circuito de retroalimentación, permitiendo que investigaciones insuficientes o argumentos poco claros pasen desapercibidos.
La imagen muestra al autor del artículo, Erich Grunewald, quien presenta el argumento de que escribir está ligado al pensamiento y que la IA socava este proceso.
El segundo argumento de Grunewald es que el texto generado por IA tiende a ser vago y contiene errores sutiles que son difíciles de detectar sin una lectura cuidadosa. Para ilustrarlo, le pidió a Claude Fable 5 que escribiera un párrafo breve sobre el contrabando de chips de IA. Aunque la salida parece razonable a primera vista, señala varios problemas: el modelo afirma que los controles de exportación son “solo tan fuertes como su aplicación” sin aclarar qué significa eso, describe los chips de IA como “compactos” cuando los artículos smuggleados suelen ser servidores completos, y presenta estimaciones de contrabando que son engañosamente bajas. También señala que el modelo no especifica un marco temporal ni define qué es un chip “de alta gama”, y que su descripción del presupuesto y el número de empleados de la Oficina de Industria y Seguridad carece de los datos concretos necesarios para evaluar si la agencia está realmente subrecursificada. Según Grunewald, este tipo de inexactitudes son típicas de la escritura con IA y requieren un esfuerzo significativo para detectarlas.
Finalmente, Grunewald argumenta que usar la IA para escribir texto destinado a otros sin revelar su participación viola un contrato implícito entre escritor y lector. Explica que cuando una obra se comparte, la audiencia espera que el texto refleje el propio pensamiento y esfuerzo del escritor, ofreciéndoles información o entretenimiento que no podrían obtener en otro lugar. Al referirse al mismo episodio del podcast, Clara Collier señala que un texto producido por un LLM siempre carecerá de algo que el escritor humano podría aportar, incluso si el modelo conoce más sobre el tema. Grunewald concluye que presentar prosa generada por IA como propio trabajo es, por tanto, grosero y engañoso, porque priva a los lectores de la contribución intelectual genuina que esperan.