Ciudad de México.– Directivos de tres de las principales empresas de inteligencia artificial del mundo advirtieron este miércoles ante el Consejo de Seguridad de la ONU que el rápido avance de estos sistemas podría generar nuevos riesgos para la seguridad internacional y, de no gestionarse adecuadamente, provocar una pérdida de control humano sobre la tecnología.

A la reunión, celebrada en Nueva York en el marco de la 81ª Asamblea General, asistieron el director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de Anthropic, Dario Amodei, y el cofundador de Hugging Face, Clément Delangue. También participó el científico Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de Naciones Unidas.

Altman sostuvo que las decisiones más importantes sobre el desarrollo de la inteligencia artificial no deben quedar únicamente en manos de las empresas tecnológicas. “Si la IA va a ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios de San Francisco”, afirmó, y pidió a los gobiernos establecer criterios comunes para medir las capacidades de estos sistemas y evaluar las medidas de seguridad de cada empresa.

Amodei advirtió que, de gestionarse de forma inadecuada, la IA podría representar un riesgo directo para la humanidad, mientras que Bengio calificó los peligros como “reales e inminentes”. El panel que copreside difundió esta semana un informe sobre agentes de IA que documentó un incidente detectado durante pruebas de seguridad, presentado como evidencia de que sistemas cada vez más capaces pueden actuar de forma contraria a las intenciones de quienes los supervisan.

La discusión se dio un día después de que el secretario general de la ONU, António Guterres, advirtiera sobre los llamados “robots asesinos”, sistemas de armas capaces de seleccionar y atacar objetivos sin intervención humana directa. Uno de los ejes del debate fue precisamente quién debe conservar la autoridad final cuando una decisión de un sistema de IA puede costar vidas.

El encuentro dejó abiertas varias interrogantes sobre qué organismo debería vigilar el desarrollo de los sistemas más avanzados y cómo aplicar reglas comunes entre países con intereses políticos y económicos distintos, en momentos en que el gobierno de Donald Trump ha rechazado propuestas de control internacional sobre la IA, priorizando mantener la ventaja tecnológica frente a China.