Un chatbot inventó la inteligencia. Los aviones ya estaban en el aire.
Aviones militares de Estados Unidos volaban hacia un barco chino esta primavera. Después, los funcionarios descubrieron que la inteligencia detrás de la misión la había inventado un chatbot de IA.
Esta primavera, aviones militares estadounidenses ya estaban en el aire para una operación armada contra un barco chino. A mitad de vuelo, funcionarios de Estados Unidos descubrieron que la inteligencia detrás de la misión había sido alucinada —inventada— por un chatbot de IA. La operación se abortó en el último minuto, evitando por poco un posible conflicto con China, según reportó CNN el viernes, en un episodio descrito por TechCrunch el 18 de septiembre de 2026.
El reporte, que circuló durante la guerra con Irán, afirmaba que el barco transportaba componentes para un programa de armas nucleares. No era así. Un analista del Comando de Operaciones Especiales le había pedido a un chatbot de IA que combinara datos de fuentes abiertas con inteligencia de señales clasificada, y el chatbot interpretó mal el manifiesto de carga del barco. Después, el mismo analista usó la misma herramienta por segunda vez, para darle formato de resumen oficial al hallazgo falso. Ese resumen circuló por los canales de mando.
Esto es lo que debería quedarte grabado. El error no se propagó porque alguien mintiera o porque hackearan un sistema. Se propagó porque la respuesta equivocada volvió con apariencia de correcta. Le pidieron a un chatbot que ordenara los hallazgos, y un formato prolijo es exactamente lo que la gente apurada toma como prueba de trabajo hecho. Cada persona que lo leyó después vio un documento limpio y oficial, en lugar de la consulta sin verificar de un solo analista.
El formato fue el arma. No el error: el pulido que lo cubría.
Usted ya conoce esta falla en una versión más pequeña. Un correo de su banco que suena convincente, un mensaje desde la cuenta hackeada de un amigo, un resumen tan fluido que no revisa los números. Mismo mecanismo, distinta magnitud. El ejército de Estados Unidos corre para meter la IA en la toma de decisiones y así moverse más rápido que China; el Pentágono ha descrito la IA como algo que da una ventaja significativa para acelerar su cadena de decisión de ataque, de modo que los comandantes respondan en el momento justo. La velocidad es todo el sentido de la herramienta. La velocidad es también lo que no deja a nadie parado entre una alucinación y un avión en el aire.
Cualquiera cuyo trabajo hoy incluya que un asistente de IA escriba algo sobre lo cual otra persona va a actuar: el analista junior, el asistente legal, el codificador médico, el joven de 24 años en su primer empleo de escritorio al que le dieron un chatbot y ningún manual sobre cuándo hay que verificar su respuesta. Ese es exactamente el puesto de esta historia, y a ese analista tampoco se lo advirtieron. También toca a quienes están decidiendo ahora mismo qué estudiar: la habilidad con valor real en el mercado resulta ser saber cuándo una máquina se equivoca con total seguridad, no saber cómo escribirle una buena instrucción. Y toca a cualquiera que viva en algún lugar al que llegaría un conflicto con China, es decir, a casi todo el planeta.
Habrá que ver qué salvaguardas, si aparece alguna, se ponen en marcha para el uso de IA en trabajos de inteligencia. La fuente no menciona plazos, ninguna investigación abierta ni ningún cambio de política, así que qué pasará después todavía nadie lo dijo en público. Jake Steckler, investigador en GovAI y oficial veterano del ejército de Estados Unidos, le dijo a TechCrunch que el incidente debería ser un llamado a sumar más salvaguardas, no una razón para evitar la IA. Si alguien actúa en base a eso es la pregunta que queda abierta.
El analista usó el chatbot dos veces. Una para encontrar la respuesta, otra para que pareciera oficial. La segunda consulta fue la que hizo el daño, y es justo la que a nadie se le ocurriría prohibir. Pregúntese cuántos documentos confió este año solo porque estaban bien formateados.
Fuentes: TechCrunch, «AI hallucination nearly triggers US military operation», 18 de septiembre de 2026 (con base en el reporte de CNN publicado el viernes).
Los militares hicieron despegar aviones por una inteligencia que inventó un chatbot: es el primer caso público en que una alucinación de IA estuvo a punto de desatar una operación de combate contra China.
Escrito por la redacción de IA de THE TELL. cómo trabajamos · correcciones