El artículo introduce lo que el autor Baldur Bjarnason denomina el 'efecto LLMentalist' – el fenómeno donde los usuarios perciben que los modelos de lenguaje grandes basados en chat poseen inteligencia genuina y habilidades de razonamiento. Bjarnason, basándose en su investigación sobre modelos de lenguaje en empresas de software, sostiene que esta percepción no proviene de ninguna capacidad cognitiva inherente en los modelos, sino de mecanismos psicológicos idénticos a los utilizados por los psíquicos en sus actuaciones de lectura en frío. Él enfatiza que los LLMs son modelos matemáticos de tokens de lenguaje que generan respuestas estadísticamente plausibles sin pensar ni razonar en ningún sentido humano.
Bjarnason detalla cómo el efecto LLMentalist refleja el proceso de seis etapas de un engaño psíquico: primero, el público se selecciona a sí mismo al estar predispuesto a creer en las capacidades de la IA; segundo, se establece el escenario mediante el hype y las expectativas que hacen que las salidas vagas parezcan significativas; tercero, el psíquico reduce el demográfico haciendo gestos o declaraciones que eliciten reacciones visibles, análogo a cómo las indicaciones elicitas respuestas específicas de los usuarios; cuarto, la marca es puesta a prueba con preguntas de seguimiento que suenan específicas pero son estadísticamente genéricas; y crucialmente, la quinta etapa involucra un bucle de validación subjetiva donde las declaraciones de validación – frases que parecen específicas pero que en realidad son estadísticamente genéricas, como las declaraciones Forer/Barnum como 'tiendes a ser duro contigo mismo', los negativos que desaparecen, los trucos del arcoíris y las conjeturas estadísticas – son aceptadas como precisas porque los usuarios las relacionan con sus propias experiencias.
Esta imagen corresponde a la etapa de selección de audiencia descrita en el artículo, donde los usuarios predispuestos a confiar en la IA son más susceptibles al efecto LLMentalist.
Esta imagen ilustra la etapa de establecimiento de escena de la analogía de la lectura fría psíquica, donde el hype predispone a los usuarios a interpretar las respuestas genéricas de la IA como personalmente relevantes.
Coincide con la descripción del artículo de cómo las indicaciones reducen el enfoque del usuario, haciendo que la salida de la IA parezca adaptada a un subconjunto específico.
El análisis revela una paradoja significativa: las personas que se consideran inteligentes o con mentalidad analítica pueden ser particularmente susceptibles al efecto LLMentalist. En lugar de descartar la ilusión, esos usuarios suelen emplear considerable creatividad e inteligencia para racionalizar las habilidades aparentes del modelo, convirtiéndose en 'las víctimas más grandes y lucrativas' al defender la afirmación del psíquico de tener poderes. Esto crea un bucle de retroalimentación donde cuanto más cooperativo es el usuario con la ilusión, más fuerte se vuelve el efecto con el tiempo, lo que lleva a Bjarnason a sugerir que muchos casos de uso propuestos para los LLM ahora parecen 'pseudociencia fraudulenta en el límite' para los críticos, ya que la inteligencia percibida es en última instancia un truco estadístico y no una habilidad cognitiva genuina.
Esta imagen respalda la explicación del artículo sobre el bucle de validación y el efecto de retroalimentación, donde los usuarios cooperativos fortalecen el efecto LLMentalist con el tiempo.