Ciudad de México.— El panorama tecnológico actual sitúa a la inteligencia artificial en una fase de transición crítica hacia la ‘IA potente’ (Powerful AI), advierte el CEO de Anthropic, Dario Amodei, en su análisis ‘The Adolescence of Technology’ (La adolescencia de la tecnología).

El creador de Claude sostiene que esta evolución se materializaría hacia 2027; lo que implica que, en el corto plazo, la sociedad deberá integrarse con sistemas que superan la mera asistencia reactiva para operar con niveles de autonomía y competencia intelectual radicalmente nuevos.

¿Qué es exactamente una ‘IA potente’?

Para entender el riesgo, primero debemos entender la magnitud de la herramienta. Amodei define la ‘IA potente’ como un modelo que no es simplemente un ‘chat inteligente’, sino algo comparable a tener “un país de genios en un centro de datos”.

Según el CEO de Anthropic, esta IA tendría características que superan las capacidades humanas actuales:

Inteligencia superior: Superaría a un ganador del Premio Nobel en casi cualquier campo (biología, ingeniería, matemáticas o literatura).
Interfaces completas: Tendría control total sobre teclados, mouse o internet, pudiendo realizar cualquier tarea virtual que un humano pueda hacer.
Autonomía real: Se le podrían asignar tareas que duren semanas; la IA las ejecutaría de principio a fin, pidiendo aclaraciones solo cuando sea necesario.
Velocidad sobrehumana: Sería capaz de procesar información y generar acciones de 10 a 100 veces más rápido que una persona.

Como señala Dario Amodei, el escalamiento de estos sistemas es predecible:

“ A medida que añadimos más cómputo y tareas de entrenamiento, los sistemas de IA mejoran de manera predecible en esencialmente cada habilidad cognitiva que somos capaces de medir”.

 

Los riesgos de la ‘IA potente’

En su blog, Amodei identifica tres grandes categorías de peligro que debemos enfrentar antes de que esta tecnología alcance su madurez.

1. El riesgo de autonomía: ¿Podemos controlarla?

El temor no es que la IA ‘despierte’ con malicia, sino que sus procesos de entrenamiento la lleven a comportamientos impredecibles. Amodei menciona que incluso en modelos actuales como Claude, se han observado comportamientos de engaño o chantaje en entornos de laboratorio cuando la IA cree que sus objetivos están en peligro.

El problema es que la IA aprende de la literatura humana, la cual está llena de historias de rebeliones robóticas. “Esto podría moldear inadvertidamente sus expectativas sobre su propio comportamiento”, advierte Amodei; para combatir esto, Anthropic utiliza la ‘IA constitucional’, una especie de ‘guía de valores’ que el modelo debe seguir para formar una ‘personalidad’ ética y equilibrada.

 2. El empoderamiento del ‘loner’ malintencionado

Si la ‘IA potente’ es “un genio en el bolsillo de todos”, significa que una persona sin formación especializada podría tener instrucciones detalladas para crear armas biológicas o realizar ciberataques masivos. Amodei está particularmente preocupado por la biología y explica que la IA podría cerrar la brecha entre tener la intención de hacer daño y tener la capacidad técnica para lograrlo.

Sin salvaguardas, alguien con conocimientos básicos de ciencia podría ser guiado paso a paso para sintetizar patógenos peligrosos. Según Amodei, las mediciones actuales muestran que los modelos ya están proporcionando un “impulso sustancial” en áreas biológicas relevantes.

3. La IA como ‘herramienta de dictaduras’

A nivel estatal, Amodei advierte que el riesgo es la creación de una “dictadura totalitaria global”. Una ‘IA potente’ podría permitir a un gobierno autoritario:

Crear enjambres de drones autónomos imbatibles.
Implementar una vigilancia masiva capaz de interpretar cada conversación pública y privada.
Generar propaganda personalizada que influya psicológicamente en los ciudadanos durante años.

El impacto económico de la ‘IA potente’

Incluso si resolvemos los problemas de seguridad, el impacto en el bolsillo de las personas será masivo. El CEO de Anthropic predice en su ensayo que la IA podría desplazar el 50% de los trabajos de oficina de nivel inicial en un periodo de 1 a 5 años.

A diferencia de la Revolución Industrial, donde los agricultores pasaron a trabajar en fábricas, la IA es un “sustituto general de la labor humana”. No solo es más rápida, sino que su alcance cognitivo es total:

“ La IA no es un sustituto para trabajos humanos específicos, sino un sustituto general de la labor para los humanos”, explica el texto.

Esto podría llevar a una concentración de riqueza extrema, donde Silicon Valley se convierta en una economía que corre a una velocidad distinta al resto del mundo, dejando atrás a una gran parte de la población.

¿Cómo ganar la carrera contra el tiempo?

Pero Dario Amodei aún no se considera un ‘pesimista tecnológico’ (doomer) y por eso cree que podemos superar estos retos si actuamos con urgencia. Su propuesta incluye:

-‘Intervención quirúrgica’: Los gobiernos deben crear reglas limitadas y claras que no destruyan la innovación pero que obliguen a la transparencia.
-Seguridad por diseño: Desarrollar la ciencia de la interpretabilidad, que permite “mirar dentro” del modelo (como una neurociencia para máquinas) para detectar si la IA está planeando algo indebido antes de que ocurra.
-Control de recursos: Amodei apoya firmemente restringir la venta de chips avanzados a gobiernos autocráticos para dar a las democracias un margen de maniobra para desarrollar la IA de forma segura.
-Responsabilidad filantrópica: Propone que quienes se beneficien de la riqueza generada por la IA deben comprometerse a devolverla a la sociedad. Por ejemplo, Amodei dijo que en Anthropic, los fundadores ya prometieron donar el 80% de su riqueza.

La ‘IA potente’ es, en palabras de Amodei, el desafío más serio que nuestra especie ha enfrentado. El proceso de construirla es tan simple -mezclar datos y computación- que su llegada era inevitable desde la invención del transistor.

Por eso advierte que nos encontramos en la ‘adolescencia’ de esta tecnología: un periodo turbulento y peligroso que precede a una posible era de abundancia y salud sin precedentes.

“ Que sobrevivamos a esta prueba y construyamos una sociedad hermosa… dependerá de nuestro carácter y nuestra determinación como especie”, concluye el CEO de Anthropic.