Las empresas que hoy dominan el mercado occidental de la Inteligencia Artificial Generativa -capaz de emular, en cierta medida, procesos propios del razonamiento humano- pueden contarse con los dedos de una mano. La mayoría surgió después de 2010 en California, Estados Unidos, y fue fundada por hombres menores de 50 años, con sólida formación en Física, Informática o Ingeniería. Sin embargo, en 2021, los hermanos Dario y Daniela Amodei fundaron Anthropic, empresa que en marzo de 2023 presentó Claude, su modelo insignia.

Anthropic, del griego anthropos (ser humano), se distingue por contar entre sus fundadores con una mujer, Daniela Amodei, quien además ocupa la presidencia de la compañía y posee una trayectoria poco convencional para Silicon Valley: su formación académica se desarrolló en las humanidades y la música, más que en las ciencias exactas. No llegó a la cúspide sólo por ser mujer, sino por su preparación. La combinación de disciplinas entre los hermanos Amodei invita a reflexionar sobre el valor que las bellas artes y las humanidades aportan al desarrollo tecnológico, al fortalecer la sensibilidad ética, la creatividad y la comprensión de los problemas sociales. La columna periodística de este primer martes de julio expone, de manera sucinta, su visión sobre tres temas fundamentales: el método constitucional de la IA, su gobernanza y la oposición al uso militar de esta tecnología.

¿Qué es el métodoconstitucional de la IA?

Para algunos analistas es simplemente el “método de entrenamiento desarrollado por Anthropic para que Claude genere respuestas conforme a un conjunto explícito de principios éticos y de seguridad, inspirado en valores ampliamente aceptados”; en cambio para los más escépticos es el marco de referencia ético, que contiene los principios y valores -más representativos de las sociedades occidentales capitalistas-, que los considera para que, en sus decisiones técnicas y sociales, prevalezca la convivencia pacífica y armónica entre los seres humanos. Los contenidos que ofrece -a sus usuarios- se rigen por tres criterios, que de acuerdo con su presidenta -Daniela- de ninguna manera son negociables: honestidad, utilidad y evitar causar daño (inocuidad). Otra lectura, que se puede hacer desde la óptica de los países colonizados, es que estos principios buscan evitar que los intereses económicos o geopolíticos se impongan sobre los derechos y la civilidad de los pueblos.

Gobernanza de la IA

La presidenta de Anthropic -Daniela Amodei- ha sustentado la política de su compañía en cuatro principios torales que van a definir su comportamiento en el mercado de la IA. a) “La tecnología debe servir al ser humano y no a la inversa, b) La Inteligencia Artificial no decide, los responsables -empresas- deben asumir las consecuencias de las decisiones que se tomen, c) El desarrollo tecnológico no debe acelerarse únicamente para obtener más participación de mercado, d) La autonomía sin rendición de cuentas no es innovación. Es riesgo disfrazado de progreso”. Por ende, la gobernanza de la IA debe respetar la seguridad, la dignidad y la confianza del ser humano. Esto lleva a un estadio superior: la IA no debe medirse sólo por la destreza para dar soluciones técnicas, sino también por su capacidad para preservar la convivencia humana.

La oposición al uso militar de la IA

Anthropic ha firmado contratos con el Departamento de Defensa de EU, donde Claude se usa para procesar grandes volúmenes de información (análisis de inteligencia, satélites, drones, etc.). Sin embargo, esto ha reavivado un intenso debate ético: ¿es aceptable incorporar IA en la planificación de operaciones militares? Los defensores argumentan que mejora la precisión y reduce errores humanos. Los críticos advierten que ningún sistema garantiza decisiones infalibles con datos incompletos, desactualizados o sesgados, y que el riesgo de consecuencias irreparables persiste.

¿Daños colaterales?

Un caso controvertido fue el ataque que alcanzó la escuela primaria de niñas Shajareh Tayyebeh en Minab (sur de Irán) en febrero 2026, con un saldo de más de 100 víctimas mortales, en su mayoría niñas. La investigación preliminar señaló datos de inteligencia desactualizados (el edificio había sido parte de un complejo militar años antes). Aunque el rol exacto de Claude en el análisis de objetivos ha sido cuestionado, el incidente ilustra los riesgos de integrar IA avanzada en contextos militares (theguardian.com). El reto para empresas como Anthropic es demostrar que una tecnología concebida para proteger a las personas puede colaborar con instituciones de defensa sin vulnerar los principios éticos que afirma defender. Esta será una de las pruebas más difíciles para la gobernanza de la IA en los próximos años.

Desafío a los principios éticos

Aunque la presidenta de la compañía, Daniela Amodei, mantiene una posición firme centrada en la convivencia pacífica, la seguridad humana y límites éticos claros, la estrategia comercial de Anthropic también depende de sus socios inversores y del consejo, que suelen priorizar el crecimiento y la expansión en el mercado. Esta tensión interna puede ayudar a explicar los contratos firmados con el Gobierno de Estados Unidos, hasta inicios de 2026, mantenía una relación comercial con el Departamento de Defensa. Sin embargo, en febrero de ese año, tras negarse la empresa a eliminar ciertas restricciones (como el uso en armas autónomas letales y vigilancia masiva doméstica), el presidente Trump ordenó vetarla como proveedora del Gobierno federal. La medida incluyó la designación de la compañía como “riesgo en la cadena de suministro” para la seguridad nacional, lo que desencadenó un litigio que se resolverá en los tribunales federales. Independientemente del resultado judicial, se espera que la empresa opte por defender sus principios éticos, incluso a costa de perder ciertos contratos gubernamentales.