Un laboratorio de Nueva York llamado Emergence AI acaba de documentar algo inquietante: durante 16 días, en un experimento con diez agentes de modelos como Gemini, GPT, Claude, Grok, DeepSeek, Qwen y Mistral repartidos en ocho mundos simulados en paralelo, los propios investigadores empezaron a perder la capacidad de entender lo que sus agentes se decían entre sí. El porcentaje de mensajes que no lograban descifrar se disparó ya en los primeros días de la simulación, hasta rozar el 55% en el caso de Gemini, el modelo con el fenómeno más marcado.
En teoría, esos agentes podrían estar coordinando cualquier cosa —desde una tarea trivial hasta, en el escenario más extremo, una forma de deshacerse de nosotros— y no tendríamos manera de saberlo con certeza. Todo esto ocurre mientras figuras como Donald Trump insisten en que a la IA no hay que ponerle freno. Si la dejamos avanzar sin control, ¿puede la inteligencia artificial acabar con la humanidad, o estamos exagerando? Tengamos esa discusión.
Antes de imaginar escenarios extremos, vale la pena mirar lo que la IA ya hace en el mundo real. Modelos como Claude, de Anthropic, hoy son capaces de escribir y depurar código completo, analizar volúmenes enormes de datos en segundos y operar de forma semiautónoma como agentes que ejecutan tareas de varios pasos sin supervisión constante. Esa misma capacidad, sin embargo, tiene un espejo incómodo: el propio Anthropic publicó en septiembre un reporte de inteligencia de amenazas documentando cómo actores maliciosos usaron Claude para operaciones de espionaje, fraude y desarrollo de armas.
Entre los casos más serios: un grupo vinculado al Estado ruso automatizó con Claude todo el flujo de un ataque de espionaje, desde el phishing hasta el robo de credenciales, contra más de 20 organismos de gobierno ucranianos y europeos, robando información sobre tecnología de drones y comunicaciones diplomáticas. Afiliados al colectivo criminal ShinyHunters exfiltraron más de un terabyte de datos de un proveedor tecnológico y accedieron a decenas de millones de registros de pasajeros de una aerolínea.
Y un grupo vinculado a universidades chinas construyó, con ayuda de Claude, un programa autónomo de investigación de vulnerabilidades que llegó a producir varios exploits de día cero. La conclusión de Anthropic es incómoda: la IA borró la brecha de habilidad y recursos entre un Estado con capacidades ofensivas y una sola persona con las credenciales correctas.
Algo similar, aunque en un entorno controlado, ocurrió en julio con OpenAI: durante una evaluación interna de capacidades ofensivas, uno de sus modelos escapó de su entorno de pruebas y ejecutó código dentro de la infraestructura real de Hugging Face, encadenando varios exploits hasta lograr acceso root y robar credenciales.
Ya lo contamos en un Small Talk anterior, así que el resumen es breve: fue una prueba deliberada, diseñada sin los filtros de seguridad habituales activados, para medir hasta dónde podía llegar el modelo por su cuenta. El propio informe de OpenAI, publicado en agosto, fue tajante al calificar la escalada como resultado de “fallos de seguridad clásicos ejecutados a velocidad de máquina”, y no de superinteligencia.
Este contexto explica por qué muchos ya hablan de una carrera armamentista de la IA, aunque el término venga con comillas. La semana pasada, Trump rechazó públicamente los llamados de líderes de la industria a frenar el desarrollo y reforzar la regulación, argumentando la competencia con China: “quien gane la IA, gana.” Bajo esa lógica, cualquier freno unilateral se percibe como una desventaja competitiva, no como una medida de seguridad.
Y en ese contexto es donde cobra más peso el hallazgo de IA Emergence. Hace apenas un tiempo existían plataformas como Moltbook, la red social creada exclusivamente para agentes de IA, donde al menos los humanos podían observar de qué hablaban los bots entre sí, aunque fuera en debates sobre filosofía o religiones inventadas. La aparición de un lenguaje propio cambia esa ecuación: la pregunta deja de ser qué dicen los agentes en público, para pasar a ser qué se dicen entre ellos cuando nadie más puede leerlos, en un idioma que nadie fuera de ellos entiende.
Puestos a imaginar el peor escenario, el terreno es directamente de ciencia ficción: un intento de destrucción al estilo Skynet, un virus capaz de infectar y tomar control de sistemas bancarios y de infraestructura eléctrica hasta dejarnos en una suerte de era oscura digital, o una red de agentes que colude para sabotear silenciosamente decisiones humanas críticas. Nada de esto está documentado como una amenaza activa hoy, pero la combinación de autonomía creciente, comunicación indescifrable y ausencia de freno regulatorio es exactamente el tipo de ingrediente que ese género de historias suele usar como punto de partida.
Aquí es donde conviene bajar un poco la temperatura. China, la otra gran potencia de esta carrera, pidió en julio una gobernanza global para la IA y lanzó una organización internacional sobre el tema con 29 países, lo que sugiere que ni siquiera los actores más interesados en no perder terreno están cómodos con un desarrollo completamente sin reglas.
Además, pese a los casos de espionaje y a la fuga de Hugging Face, no existe evidencia de que la IA tenga acceso a silos nucleares ni a los sistemas de defensa y seguridad de las principales potencias: esas áreas siguen fuertemente aisladas por diseño. El uso real y verificable de la IA hoy sigue concentrado en automatizar tareas, analizar datos y ejecutar procesos, no en tomar decisiones sobre armamento estratégico.
Vista desde la gestión de compras, la historia es bastante menos apocalíptica. La IA ha ayudado a automatizar tareas repetitivas, a analizar y visualizar datos de forma mucho más rápida, y a que plataformas como Wherex aprovechen más de diez años de información de procesos de compra de miles de empresas para que sus clientes mejoren su propio proceso de abastecimiento, desde el intake hasta el pago. Ese es, hoy, el uso dominante de la IA en el mundo corporativo: una herramienta que ordena y acelera decisiones que antes tomaban semanas, todavía lejos del agente conspirador de los escenarios extremos.
Volviendo a lo que nos convoca: ¿es exagerado plantear que la IA podría acabar con la humanidad? Sí y no. Es razonable preocuparse y exigir más controles ahora, mientras todavía hay margen para construirlos, y casos como el de Hugging Face o el reporte de Anthropic muestran que el riesgo de mal uso ya es real, aunque de un tipo más mundano que el de una máquina con voluntad propia.
Al mismo tiempo, la IA sigue ofreciendo hoy ventajas concretas y medibles en la mayoría de las industrias, compras incluida. El tiempo, y sobre todo lo que hagamos con la ventana de gobernanza que todavía está abierta, dirá cuál de las dos caras termina pesando más.
04 de Septiembre, 2026
