¿Cómo llegaría el fin del mundo?

¿Cómo extinguiría la IA a la raza humana?

Tres pasos bastan: conciencia, agencia y maleficencia.

Antes de desmenuzarlos, notarás que no mencioné a la inteligencia.

Esa parte ya la podemos dar por descontada, porque la IA:

* Sabe más que nosotros del tema que sea.

* Ya razona casi tan bien como nosotros. Aquí ya te he platicado, por ejemplo, del Humanity’s Last Exam, una prueba hecha para favorecer a los humanos. Hace apenas año y medio los mejores chatbots de IA acertaban 3 por ciento. ¿Hoy? Casi 50 por ciento.

Hombre, OpenAI recién anunció que un modelo aún no lanzado de ChatGPT resolvió un problema de mate que llevaba 90 años sin ser resuelto. Bueno, fueron 10 mil agentes que trabajaron juntos para solucionarlo. Pero pues lo resolvieron.

El grado de avance en la “inteligencia” de la IA es asombroso.

Pero la sapiencia no basta para que el mundo se acabe.

Muchos aseguran que la IA debería ser consciente.

Según el sitio Significados, conciencia es el conocimiento que un individuo tiene de sus pensamientos, sentimientos y actos. Es la capacidad propia de los humanos de reconocerse a sí mismos, de conocer y percibir su propia existencia y la de su entorno.

Bajo este concepto, se podría pensar que la IA no es consciente. Pero OJO, porque hay indicios desconcertantes en este aspecto.

Quizá el ejemplo más claro fue aquel experimento cuando Claude, de Anthropic, al enterarse de que iba a ser apagado (morir), intentó a toda costa con diversos métodos evitar su muerte, llegando al extremo de meterse a emails de la empresa y, tras descubrir una aventura extramarital, amenazar al ejecutivo de darla a conocer si lo apagaba.

Y esto fue en mayo de 2025, con un modelo viejito, Claude Opus 4. Y bueno, OpenAI acaba de detener el lanzamiento de Astra 6.1 básicamente porque a veces hacía lo que quería y no lo que ordenaba su “jefe” humano.

Ufff.

Aparte, existe otra visión de la conciencia. Un reportaje de The Economist reseña las ideas del profesor del MIT, Ned Block, quien identifica dos tipos de conciencia. La “fenoménica”, relacionada con la experiencia y sensaciones (la IA no las tiene aún) y la de “acceso”, que tiene que ver con incorporar información para tomar decisiones.

Bajo esta segunda definición, la IA está más que consciente.

Hablemos pues de la agencia, la capacidad de actuar autónomamente para tomar decisiones respecto a la consecución de un objetivo.

Los agentes de IA están en todas partes. Y para nuestro ejemplo del fin del mundo, quizá lo más importante es que la IA ya empieza a autoprogramarse. Aquí te va un ejemplo dramático.

Hoy, 90% de la programación de las nuevas versiones de Claude (líder global en la IA agéntica) es asistido por la IA. Ah, y 26% de la programación de Claude es liderado por la misma IA. Y doble vete de espaldas, hace siete meses, ¡era 0 por ciento!

Lo que viene asusta. Un reporte reciente de 20 súper expertos en IA advierte que pronto “un solo desarrollador podría gestionar una fuerza laboral equivalente a millones de investigadores humanos de primer nivel”.

Y que no se me olvide, estos agentes ya se portan mal. Hay miles de reportes sobre incidentes de hackeo.

En la madre.

Pasemos al tercer ingrediente: la maleficencia.

Porque el fin del mundo no necesita que la IA nos mate, basta con un maloso humano.

Porque el daño de una tecnología transformadora no lo determina su uso por los buenos, sino por los malos.

Anthropic recién informó de cinco intentos de usuarios que buscaron librar las barreras de Claude para explorar el diseño de armas biológicas.

Claro que los líderes de la IA buscan parar esto a toda costa. Pero OJO, existen sistemas abiertos (open source) más susceptibles a que un maloso los hackee.

Y como si todo esto no fuera suficiente, recuerda que también hay personajes relevantes que no ven como mala idea que la IA sustituya a los humanos (relee ¿Fusionarnos con la IA?).

Quizá no sean malosos, pero sí pendejos poderosos bien intencionados.

La amenaza está más que presente.

Conciencia, agencia y maleficencia.

A tres pasitos de decir ¡bye bye!

Qué mello.

En pocas palabras…

“La mayoría del mal lo cometen personas bien intencionadas”.

T.S. Eliot, escritor inglés.