Ciudad de México.- Las empresas de inteligencia artificial tendrán que cumplir nuevas salvaguardias obligatorias para operar en Australia, anunció este martes el primer ministro, Anthony Albanese.

La preocupación mundial por el poder de la inteligencia artificial avanzada ha aumentado tras una serie de incidentes de piratería informática que involucraron a empresas líderes como OpenAI y Anthropic.

Australia establecerá próximamente un nuevo organismo regulador de seguridad en materia de inteligencia artificial, encargado de implementar medidas para mantener bajo control a esa industria en auge, señaló Albanese.

“Nuestra tarea es asegurarnos de que seamos nosotros quienes demos forma a la IA, en lugar de que la IA nos dé forma a nosotros”, dijo a los periodistas.

“No se puede ignorar el tema y fingir que no está sucediendo. Pero lo que sí podemos hacer es asegurarnos de darle forma en beneficio de Australia”, justificó.

Las medidas de seguridad incluirán la notificación obligatoria de las violaciones de seguridad relacionadas con la IA y la evaluación independiente de los modelos de vanguardia, señaló Albanese.

“Australia es pionera en este ámbito y queremos asegurarnos de aprovechar los beneficios potenciales de la IA”, dijo el primer ministro.

“Pero debemos asegurarnos de hacerlo bien, y contar con el apoyo de la sociedad es absolutamente fundamental”, agregó.

Australia expresó su profundo malestar a principios de este año después de que un prototipo de modelo de OpenAI eludiera las medidas de seguridad durante un entrenamiento y hackeara un sitio web gubernamental.

Ese agente de IA intentó acceder a un portal de estadísticas de salud en junio y logró eludir las restricciones para infiltrarse en una sección que albergaba archivos privados.

OpenAI no alertó al gobierno australiano hasta septiembre, cuando envió un mensaje a una bandeja de entrada genérica que solo se revisa una vez al día.