Ciudad de México.- Jacob Coxon, investigador británico de 27 años y egresado de la Universidad de Cambridge, anunció su renuncia a Anthropic la noche del martes a través de un hilo en X, publicado bajo el usuario @hilbertspaess, en el que advirtió que la industria de la inteligencia artificial avanza sin control hacia una posible catástrofe.

Coxon trabajó durante tres años en investigación de preentrenamiento, primero en OpenAI donde participó en el desarrollo de GPT-4o  y después en Anthropic. En su mensaje escribió: “Ninguna de las dos empresas está actuando responsablemente. Están corriendo directamente hacia una superinteligencia autosuperable y están jugando con nuestras vidas“.

El investigador advirtió que los próximos sistemas “podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales“, y afirmó que ese ritmo de avance no muestra señales de desacelerar.

“Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros antes de que termine la década. Esto no es un truco publicitario“. Según Coxon, varios directivos y científicos del sector comparten ese temor en privado, aunque en público lo expresan con un lenguaje más mesurado.

Su publicación fue respaldada por Evan Hubinger, excompañero de Coxon en Anthropic, quien escribió que él calcula una probabilidad superior al 10% de que la IA acabe con la humanidad en la próxima década, aunque reconoció que la empresa “se esfuerza” pese a no contar aún con un plan claro para resolver el problema de alineación en sistemas superinteligentes.

Coxon no es el primero en dejar la compañía por este tipo de preocupaciones: antes, Mrinank Sharma, integrante del equipo de seguridad de Anthropic, había renunciado bajo un argumento similar. Sin embargo, la advertencia también generó críticas de usuarios que la calificaron de exagerada. Hasta el momento, Anthropic no ha respondido públicamente a las declaraciones de su exempleado.