ChatGPT, Claude o Gemini: ¿cuál puede hacer menos daño a la humanidad?

Si a uno le importa el futuro de la humanidad, antes de decidir cuál inteligencia artificial conversacional (IAC) utilizar y a cuál entregarle sus datos, se pregunta cuál es más confiable. No me refiero a la más popular, la primera que sale en el mercado ni a la más rápida, sino la que puede servir a la humanidad, haciendo menos daño. Según un artículo de The Economist, los modelos de las IA que respondieron a una encuesta sobre los valores que las guían son similares: occidentales, laicos y liberales (excepto DeepSeek, que a pesar de ser más transparente, tiene una fuerte influencia del gobierno chino). Frente a valores similares, es en su forma de resolver conflictos que afecten al ser humano donde podemos ver una mayor diferencia. ¿Cuál IAC es más confiable para la humanidad? 

Aunque ChatGPT es muy popular en Colombia, ya sabemos que los hermanos Amodei se alejaron  porque reconocieron lo obvio: que sus creadores estaban más interesados en expandir el modelo de negocios que en mitigar los riesgos de la IAC.  También sabemos que Gemini es de Google, que monopoliza el mundo de los datos y no toma las decisiones más justas ni las más honestas, como por ejemplo, negarse a cumplir con las normas colombianas. Además, hay que vigilar a las IACs, pues sus creadores ya han reconocido que algunos modelos autónomos se han salido de control y han hecho cosas que nadie les ha pedido o incluso que les han prohibido.  Es decir, que, como en un mundo de ficción, el robot ha tomado decisiones por su propia cuenta, llenándonos de desconfianza.

Más allá de considerar que sean útiles y no causen daños ¿cómo se entrenan estas IACs para darnos confianza en la resolución de sus propios conflictos?

Al hacerle esta pregunta a las tres máquinas se puede concluir que se entrenan de forma parecida. Las tres funcionan con base en las órdenes que les das. La diferencia principal con Claude, de Anthropic, es que sus valores y principios están consagrados en una constitución o documento fundacional que hace el esfuerzo de declarar de forma transparente y en lenguaje natural las instrucciones con las que quiere que funcione la máquina. Frente a una tensión contextual, priorizará en el siguiente orden:  1. Seguridad, 2. Ética, 3. Principios de Anthropic y 4. Utilidad.

Lo más importante es la seguridad que se entiende como no impedir la supervisión humana.  Cada problema al que se enfrente debe resolverlo en ese orden porque la apuesta de Anthropic, que considera a Claude un empleado senior reflexivo, es que, mientras la humanidad todavía no puede verificar del todo si una IA es confiable, es más prudente ceder a la supervisión humana antes que al deseo de complacer al usuario o al creador. Es decir, abiertamente se compromete a que la maximización de ganancia no es el criterio que reina en esa jerarquía diseñada en su modelo de gobernanza corporativa.

Todo esto puede ser muy técnico y estar alejado de nosotros los mortales, pero, en la práctica, ya los creadores de Claude (Anthropic) han reconocido la importancia de que la humanidad siga siendo quien controle a las IAs. Así sucedió en marzo de 2026, cuando Anthropic se negó a permitir el uso de IA con fines de vigilancia masiva en USA o para el funcionamiento de armas autónomas letales. Como consecuencia, el Pentágono calificó a Anthropic de riesgoso y firmó un contrato sustitutivo con OpenAI, que maneja ChatGPT.

Para el usuario de a pie, la pregunta de fondo no es solo técnica: ¿quisiéramos que una empresa privada, compitiendo en un mercado y bajo presión comercial, dote a su producto de algo parecido a una brújula moral coherente con la humanidad? La Constitución de Claude es la apuesta más ambiciosa hecha pública hasta ahora para responder a esa pregunta. Si funciona, todavía está por verse. Y tampoco es suficiente, porque frente a las IACs subsisten muchas preguntas de cara al rol del Estado y a su autonomía.

Sin embargo, con estas limitaciones, y sabiendo que no conocemos cómo funciona la caja negra de ninguna de las IACs, me quedo con la opción de priorizar a la humanidad frente al modelo de negocios. Ahora, si a uno no le interesa que la IAC sea confiable, pues ya sabe cuál escoger.