En su análisis del panorama evolutivo del contenido digital, Martin Fowler identifica un fenómeno creciente que denomina 'Voz de LLM'. Esto se refiere a las marcas estilísticas específicas y los patrones estructurales producidos por los modelos de lenguaje de gran tamaño (LLMs) que difieren de la prosa humana 'biológica'. Fowler sugiere que los lectores están experimentando cada vez más un efecto de 'valle inquietante': una sensación de repulsión o fricción cognitiva al encontrarse con un texto que parece casi humano pero carece de la chispa subyacente del pensamiento individual. Señala que, si bien algunas herramientas afirman detectar contenido generado por IA, el problema principal es una reacción psicológica humana ante una prosa que se siente hueca o excesivamente pulida de una manera que resulta sintética.
Esta imagen identifica a Martin Fowler, el autor del análisis sobre la 'Voz de LLM' y los riesgos cognitivos de la escritura con IA.
Fowler sostiene que el riesgo principal de utilizar LLMs para escribir es la erosión de los propios procesos cognitivos del autor. Plantea que escribir es una herramienta esencial para pensar; el acto de luchar con las palabras obliga al escritor a superar la confusión y lograr la coherencia. Al delegar la generación de la prosa a un LLM, un escritor puede delegar inadvertidamente el pensamiento y la comprensión que la escritura debía facilitar. Aconseja a los autores ser extremadamente cautelosos al usar LLMs para redactar incluso un solo párrafo, sugiriendo que incluso los borradores de IA editados por humanos a menudo conservan una 'Voz de LLM' persistente que es difícil de expulsar por completo. En su lugar, recomienda utilizar la IA estrictamente como una herramienta de búsqueda o para esquemas estructurales de alto nivel, insistiendo en que los autores 'rellenen la prosa ellos mismos' para asegurar que su humanidad permanezca visible en el texto.
Sin embargo, Fowler reconoce que existen excepciones prácticas donde la prosa generada por LLM puede ser aceptable o incluso necesaria. Por ejemplo, señala que las personas con discapacidades físicas, como la enfermedad de Parkinson, pueden encontrar la asistencia de los LLM esencial para superar las barreras físicas de la escritura. Además, sugiere que para la comunicación puramente funcional —como escribir una carta modelo a un funcionario o preparar un informe destinado a una máquina en lugar de a un humano— el 'valle inquietante' puede ser irrelevante. En estos casos, el objetivo es comunicarse con un proceso en lugar de con una persona. Para toda otra comunicación de humano a humano, Fowler sostiene que el objetivo debe ser asegurar que la perspectiva única y la 'humanidad' del autor brillen a través del producto final, en lugar de ser suavizadas por una capa sintética.