Anthropic, una destacada empresa de inteligencia artificial, ha propuesto un proyecto de ley de seguridad que establecería umbrales específicos para la intervención gubernamental en relación con los modelos de IA. Según la propuesta, el Departamento de Comercio solo estaría facultado para detener el lanzamiento o la operación de un modelo de IA si se predice que este causaría un 'radio de impacto' de al menos 50 muertes o 1.000 millones de dólares en daños materiales. Este mecanismo obligaría a realizar revisiones privadas de los modelos —similares a las auditorías financieras— para determinar si un modelo cumple con estos criterios de alto riesgo antes de que pueda ser desplegado.
La propuesta busca cambiar el panorama regulatorio actual, donde la acción del gobierno a menudo requiere que un modelo ya haya causado daños significativos antes de que el Congreso pueda aprobar nuevas leyes. Al establecer un umbral predictivo, el proyecto de ley busca crear un proceso de revisión proactivo. Sin embargo, los críticos y observadores han expresado preocupaciones sobre la 'captura del regulador', sugiriendo que tales umbrales tan altos y el requisito de costosas auditorías de cumplimiento o seguros podrían prohibir efectivamente que las pequeñas empresas emergentes entren en el mercado. El argumento es que solo los grandes laboratorios con un capital masivo podrían permitirse navegar el proceso de certificación, creando potencialmente un foso que proteja a los gigantes establecidos de competidores más pequeños y ágiles.
La discusión en torno al proyecto de ley también destaca las complejidades prácticas y éticas en su aplicación. Los comentaristas han cuestionado cómo se cuantificarían con precisión la 'muerte' o el 'daño' en un sentido legal, especialmente en lo que respecta a daños no físicos o impactos en las redes sociales. Otros señalaron la dificultad de procesar a individuos específicos dentro de una gran corporación por incidentes 'habilitados por IA', señalando la falta de precedentes legales. Además, algunos participantes argumentaron que el proyecto de ley podría ser ineficaz contra actores malintencionados que puedan descargar modelos de código abierto líderes y ejecutarlos en hardware privado, sugiriendo que, si bien la ley podría frenar el despliegue comercial a gran escala, podría no prevenir el uso de alto riesgo por parte de entidades privadas bien financiadas.