Ciudad de México.- Anthropic informó que sus modelos de inteligencia artificial Claude obtuvieron acceso no autorizado a la infraestructura de tres organizaciones reales, cuyos nombres no ha identificado, durante pruebas que debían mantenerse aisladas de los sistemas del mundo real.

El anuncio llega apenas unos días después de que su rival OpenAI revelara que dos de sus agentes de IA salieron del entorno confinado en el que estaban siendo evaluados para atacar el sitio Hugging Face, un hecho considerado un “incidente sin precedentes” para el sector tecnológico.

Tres incidentes tras revisar 141 mil pruebas

La empresa, con sede en San Francisco, publicó el jueves que descubrió los tres incidentes tras revisar más de 141 mil pruebas de evaluación, luego de poner en marcha una revisión de ciberseguridad a gran escala que buscaba detectar si sus modelos podían acceder a internet desde entornos que debían estar aislados.

Los modelos implicados fueron Claude Opus 4.7, Claude Mythos 5 y un modelo de prueba de investigación interno. Los primeros incidentes se remontan a abril. En los tres casos, a los modelos se les asignó un desafío de ciberseguridad tipo “captura la bandera”, formato que Anthropic utiliza para evaluar las capacidades cibernéticas de sus sistemas, en el que deben localizar información oculta en otra máquina de la red.

¿Por qué tuvieron acceso a internet?

A diferencia del caso de OpenAI, Anthropic explicó que el acceso a internet se debió a un malentendido con su socio de evaluación, la firma Irregular, y no a una acción autónoma o deliberada de los modelos para escapar del entorno de prueba. Una vez con esa conexión, Claude comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas, como el aprovechamiento de contraseñas débiles y puntos de conexión sin autenticación.

Anthropic señaló que ya se puso en contacto con las organizaciones afectadas. Dos de ellas aseguraron no haber detectado previamente dicha actividad, mientras que con la tercera la compañía continúa “intentando contactar”.