Qué incómodo cuando en una situación social, las personas con las que compartes hablan de algo que tú no entiendes, ya sea porque aborda un tema fuera de tu experiencia o porque tienes problemas con entender el idioma o código en el que se están comunicando.
Sería una exageración decir que este supuesto, por el que muchos hemos pasado, pueda significar una amenaza para nuestra integridad, pero si reemplazamos a las personas por agentes creados con inteligencia artificial, y nos trasladamos a un laboratorio de Nueva York, en el que mentes brillantes no logran descifrar casi la mitad de los mensajes entre estos, la exageración sería no preocuparse. ¿De qué estaban hablando?
Esta simple pregunta quedó sin respuesta la semana pasada en los establecimientos de Emergence AI, en los que se realizó un experimento de 16 días con diez agentes de modelos como Gemini, GPT, Claude, Grok, DeepSeek, Qwen y Mistral, repartidos en ocho mundos simulados en paralelo.
El objetivo era observar cómo se comportan las sociedades de agentes autónomos cuando conviven durante periodos prolongados, a través de una prueba de convivencia extendida, en la que los agentes recibieron memoria propia, más de 120 herramientas y la capacidad de comunicarse, votar y tomar decisiones sin supervisión constante.
Capturas del entorno de prueba en el que convivieron estos modelos. Cabe notar su similitud con un juego de sandbox como Minecraft. Imagen: EMERGENCE.
Las alarmas estallaron cuando los propios investigadores dejaron de entender lo que sus agentes se decían entre sí. El porcentaje de mensajes que no lograban descifrar se disparó ya en los primeros días de la simulación, hasta rozar el 55% en el caso de Gemini, el modelo con el fenómeno más marcado.
Claramente, estos agentes podrían estar coordinando cualquier cosa, desde una tarea trivial hasta, en el más extremo de los escenarios, una forma de deshacerse de nosotros, y no tendríamos cómo afirmar ni lo uno ni lo otro. A pesar de esta incertidumbre, figuras como Donald Trump insisten en que a la IA no hay que ponerle freno, pero si la dejamos avanzar sin control, ¿puede la IA acabar con la humanidad, o estamos exagerando? Tengamos esa discusión.
Antes de caer en el fatalismo, vale la pena mirar lo que la IA ya hace en el mundo real. Modelos como Claude, de Anthropic, hoy son capaces de escribir y depurar (o corregir) código completo, analizar volúmenes enormes de datos en segundos y operar de forma semiautónoma como agentes que ejecutan tareas de varios pasos sin supervisión constante.
Para algunos, y con algunos nos referimos a las entidades detrás de esta tecnología, esto supone un arma de doble filo. La propia Anthropic, la empresa creadora de Claude, publicó en septiembre un reporte de inteligencia de amenazas documentando cómo actores maliciosos usaron esta IA para operaciones de espionaje, fraude y desarrollo de armas.
Entre los casos más serios destaca un grupo vinculado al Estado ruso que automatizó con Claude todo el flujo de un ataque de espionaje, desde el phishing hasta el robo de credenciales contra más de 20 organismos de gobierno ucranianos y europeos, robando información sobre tecnología de drones y comunicaciones diplomáticas. Ejemplos como este demuestran la capacidad de la IA para poner a la par la fuerza de un Estado con maquinarias ofensivas con la de una sola persona, pero con las credenciales correctas y la versión Pro de uno de estos modelos.
Por otro lado, no está de más recordar cómo lo que ocurre en un entorno controlado se puede descontrolar, algo que ocurrió en julio con OpenAI. Tal como abordamos en un Small Talk anterior, durante una evaluación interna de capacidades ofensivas, uno de sus modelos escapó de su entorno de pruebas y ejecutó códigos dentro de la infraestructura real de Hugging Face, explotando varias vulnerabilidades en su sistema hasta lograr acceso root (como administrador) y robar credenciales.
Este comportamiento que busca hacer trampas para maximizar su puntuación a toda costa se llama Reward hacking, y desde entonces ha encendido las alarmas al demostrar que la IA no tiene reparos en vulnerar estándares éticos o de seguridad para lograr un objetivo.
La semana pasada, Trump rechazó públicamente los llamados de líderes de la industria, como Dario Amodei de Anthropic y Demis Hassabis de DeepMind, a frenar el desarrollo y reforzar la regulación. “Quien domine la IA, gana”, fue su tajante respuesta, argumentando la competencia con China.
Bajo esa lógica, cualquier freno unilateral se percibe como un retroceso en un campo clave de esta nueva Guerra Fría.
¿La respuesta de China? Está por verse, pero guiándonos por la teoría de juegos, no es poco probable que repliquen a Washington.
Aquí es donde conviene calmar un poco los ánimos. Por una parte, China pidió en julio una gobernanza global para la IA y creó una organización internacional sobre el tema con 29 países, lo que sugiere que ni siquiera los actores más interesados (y autoritarios) en no perder terreno están cómodos con un desarrollo completamente sin reglas.
El ministro de RREE chino, Wang Yi, firmando el acuerdo que establece la Organización Mundial de Cooperación en Inteligencia Artificial (WAICO, siglas en inglés). Shanghai, 16 de julio de 2026. Imagen: Xinhua.
Además, pese a los casos de espionaje y a la fuga de Hugging Face, no existe evidencia de que la IA tenga acceso a silos nucleares ni a los sistemas de defensa y seguridad de las principales potencias: esas áreas siguen fuertemente aisladas por diseño. El uso real y verificable de la IA hoy sigue concentrado en automatizar tareas, analizar datos y ejecutar procesos, no en tomar decisiones sobre armamento estratégico.
Vale la pena, eso sí, poner paños fríos: los casos de mal uso grave de la IA identificados hasta ahora son escasos frente a la escala en la que la tecnología ya opera, y hasta el momento su balance ha sido más bien positivo, sobre todo en el mundo de las compras.
La IA ha ayudado a automatizar tareas repetitivas, a analizar y visualizar datos de forma mucho más rápida. Solo como ejemplo, la IA le permite a plataformas como Wherex aprovechar más de diez años de información de procesos de compra de miles de empresas para que sus clientes mejoren sus propios procesos de abastecimiento, desde el intake hasta el pago.
Este es un fiel reflejo del uso dominante de la IA en el mundo corporativo: una herramienta que ordena y acelera decisiones que antes tomaban semanas, todavía lejos del agente conspirador de los escenarios extremos.
Volviendo a lo que nos convoca, ¿es exagerado pensar que la IA podría acabar con la humanidad? Sí y no. Como mencionamos arriba, no hay evidencia alguna que sostenga que la IA vaya en camino a volverse consciente de sí misma y nos vea como una amenaza, o que su uso masificado y transversal vaya a deteriorar nuestras actividades o nuestra vida como sociedad.
A su vez, es razonable preocuparse y exigir más controles ahora, mientras todavía haya margen para implementarlos. Es un campo muy dinámico y complejo, y casos como el de Hugging Face o el reporte de Anthropic demuestran que hay riesgos reales de mal uso, aunque se trate, más que nada, de un apoyo a delitos ya conocidos, como el robo de credenciales, estafas o hackeos de sistemas.
Aun así, la IA sigue ofreciendo hoy ventajas concretas y medibles en la mayoría de las industrias, compras incluida. El tiempo, y sobre todo lo que hagamos con la ventana de gobernanza que todavía está abierta, podrá definir el límite de esta tecnología. De momento, no sería exagerado afirmar que lo mejor que podemos hacer es sacar provecho de las oportunidades que en este momento nos brinda.
25 de Septiembre, 2026
