Pangram ha pasado sus capacidades de detección de IA de una vista previa de investigación a una herramienta lista para producción con el lanzamiento de Pangram Image 1.0. La plataforma está diseñada para identificar medios sintéticos en varios formatos, ofreciendo un modelo insignia para imágenes y un modelo especializado y más rápido llamado Pangram Image Flash 1.0 para contenido de vídeo. Al proporcionar estas herramientas, Pangram pretende ayudar a los usuarios a distinguir entre fotografías reales y contenido generado por IA en entornos como feeds de redes sociales y mercados en línea.
El mecanismo central de Pangram Image 1.0 consiste en identificar artefactos específicos dentro de las imágenes para determinar su origen. Una característica clave de este lanzamiento es la inclusión de una salida de mapa de calor, que permite al modelo señalar las áreas exactas dentro de un archivo donde aparecen elementos generados por IA. Para garantizar la fiabilidad, el modelo fue entrenado para ser robusto frente a transformaciones digitales comunes, como la compresión, el desenfoque y el ruido, ediciones utilizadas frecuentemente por las plataformas de redes sociales o por actores que intentan eludir los sistemas de detección. Durante las pruebas internas frente a 1,200 imágenes sintéticas creadas a partir de 12 generadores de IA de vanguardia, el modelo alcanzó una precisión reportada del 99.96%.
La imagen demuestra el mecanismo central de la herramienta, específicamente la función de mapa de calor utilizada para localizar artefactos sintéticos.
Para el contenido de vídeo, la empresa introdujo Pangram Image Flash 1.0, que realiza un análisis fotograma a fotograma para detectar segmentos editados por IA. Según Pangram, este modelo obtuvo un 98.7% en el benchmark académico DF26, lo que afirman es una mejora de 29 puntos sobre el siguiente mejor detector. Si bien el sistema ofrece un alto rendimiento, existen limitaciones técnicas específicas: aunque el tamaño mínimo de entrada era anteriormente de 512x512, el nuevo modelo admite resoluciones de hasta 256x256. Sin embargo, para cualquier imagen procesada por debajo del umbral de 512x512, el sistema proporciona un descargo de responsabilidad de confianza reducida para dar cuenta de la posible caída en la precisión de detección en resoluciones más bajas.
Este apoyo visual respalda la afirmación sobre la alta precisión y el rendimiento del modelo en relación con otros detectores.