El modelo de IA Gemini de Google puede identificar y rechazar anuncios engañosos en segundos; sin embargo, estos mismos anuncios han logrado evadir el proceso de revisión humana de la empresa en múltiples ocasiones. Esta discrepancia resalta una brecha entre las capacidades de detección automatizada y la supervisión manual utilizada para vigilar el ecosistema de Google Ads.
Tácticas de 'Alerta del Sistema' Engañosas
Un anuncio específico que aparecía en la aplicación YouTube fue diseñado para imitar una ventana modal de alerta nativa del sistema iOS. El anuncio presentaba la tipografía estándar de iOS y el estilo de contenedor para mostrar una advertencia falsa de 'iPhone Storage is Full', completa con botones falsos de 'Sí' y 'No'.
Esta imagen ilustra las tácticas engañosas de 'alerta del sistema' descritas en el artículo, específicamente cómo los anuncios imitan los componentes nativos del sistema operativo.
Estos botones eran visuales estáticos no funcionales. En lugar de actuar como controles del sistema, hacer clic en cualquier lugar del banner activaba una redirección a una tienda de terceros o a una página de destino. El anuncio también utilizaba tácticas basadas en el miedo, afirmando que ciertas funciones del dispositivo dejarían de funcionar si no se liberaba espacio inmediatamente.
“El propio modelo de Google rechaza el anuncio en segundos, pero el proceso de revisión de Google lo aprobó dos veces.”
— Why is Google still serving dodgy ads?
Detección por IA frente a Revisión Humana
Cuando se envió al modelo de IA Gemini de Google para su evaluación, el modelo clasificó inmediatamente el anuncio como 'DESAPROBADO'. Gemini identificó tres violaciones específicas de las políticas: Diseño de Anuncio Engañoso, Afirmaciones Poco Fiables/Engañosas y el uso de componentes de interfaz de usuario no funcionales.
A pesar de esta clara clasificación de la IA, el anuncio fue aprobado por revisores humanos en al menos dos ocasiones separadas. Cuando los usuarios denunciaron el anuncio, la respuesta oficial de Google declaró que el anuncio no iba en contra de sus políticas relativas a contenidos o prácticas dañinas.
Compensaciones Operativas y Económicas
La brecha entre la detección por IA y la aprobación humana puede deberse a la enorme escala del ecosistema publicitario. Debido a que el volumen de anuncios a menudo supera la capacidad de los revisores humanos, algunos anuncios engañosos pueden pasar desapercibidos hasta que reciben suficientes informes para activar una revisión manual.
También existe un posible incentivo económico en juego. Debido a que estos anuncios engañosos están diseñados para generar altas tasas de clics, son muy eficaces para generar ingresos. Esto crea un conflicto donde los intereses financieros de la plataforma podrían chocar con la aplicación rigurosa de sus propias políticas de seguridad y de representación engañosa.
Qué dicen los lectores de Hacker News
- Experiencia: Un comentarista que gestiona un sitio web compartió que tuvo que contratar a un empleado a tiempo completo para monitorear y bloquear manualmente anuncios fraudulentos porque los sistemas automatizados de Google no lograron detectar creatividades fraudulentas casi idénticas. comentario ↗
- Escéptico: Varios comentaristas sugirieron que Google podría estar priorizando los ingresos sobre la seguridad, argumentando que la empresa podría estar permitiendo intencionadamente estos anuncios porque generan beneficios significativos y la empresa enfrenta poca responsabilidad. comentario ↗
- Experiencia: Un usuario que ha ejecutado anuncios en la plataforma señaló una discrepancia en la aplicación de las reglas, observando que sus propios anuncios eran bloqueados con frecuencia por tecnicismos menores mientras que anuncios fraudulentos altamente convincentes seguían siendo aprobados. comentario ↗
Resumen de opiniones del hilo de Hacker News; no son hechos verificados. Leer el debate completo ↗