Grok bajo fuego: cómo un error de la IA multiplicó las dudas sobre la guerra en Irán

La guerra entre Estados Unidos e Israel contra Irán no solo se libra con misiles y drones: también se combate en el terreno resbaladizo de las imágenes y los relatos en tiempo real. El caso más reciente lo protagonizó Grok, la inteligencia artificial integrada en X, cuando puso en duda la autenticidad de una fotografía difundida por la agencia EFE que mostraba los restos de una escuela de niñas bombardeada en Minab, en el sur de Irán.

Qué ocurrió con Grok y la foto de EFE

Tras los ataques aéreos sobre territorio iraní, EFE y otros medios publicaron fotografías y video de una escuela femenina reducida a escombros, con decenas de alumnas muertas o heridas. A los pocos días, comenzaron a circular en X mensajes que aseguraban que el material gráfico no era actual, sino una escena de Kabul en 2021. Usuarios etiquetaron a Grok para “verificar” la polémica y el chatbot respaldó la versión falsa, afirmando que la agencia estaba usando imágenes antiguas. Verificadores como Chequeado, Animal Político, Maldita.es, Verificat y EFE Verifica recurrieron a geolocalización, comparación de detalles arquitectónicos y contraste con videos de agencias iraníes para demostrar que las imágenes correspondían efectivamente al ataque en Minab.

Ante la evidencia acumulada, las respuestas de Grok cambiaron, dejando de acusar a EFE pero sin una rectificación visible para todos los usuarios que habían recibido la información errónea. El Consejo de Redacción de la agencia denunció públicamente que la IA había “atacado nuestra credibilidad con información falsa y una rectificación invisible”, subrayando que, en un contexto de guerra, poner en duda injustificadamente pruebas visuales de una masacre también tiene consecuencias políticas.

Otros tropiezos de la IA en la guerra EE UU–Israel–Irán

El episodio no es aislado. Un estudio del laboratorio DFRLab analizó más de cien mil interacciones en X durante los primeros días de la escalada entre Israel e Irán y halló que Grok ofrecía respuestas contradictorias, incluso con minutos de diferencia, sobre un video generado por IA que simulaba un aeropuerto bombardeado. En algunos casos lo describía como un ataque real; en otros, lo atribuía a ciudades distintas o a misiles de actores terceros.

El mismo informe documentó que Grok y otros asistentes automatizados validaron sin pruebas rumores sobre aviones militares chinos volando hacia Teherán para apoyar a Irán. Algo similar ha ocurrido con clips reciclados de conflictos anteriores, viejos bombardeos en Beirut o incluso celebraciones festivas en València que la IA ha presentado erróneamente como ataques recientes, contribuyendo a una niebla informativa en la que resulta difícil para el público distinguir entre guerra real y simulada.

Los riesgos de delegar la moderación bélica a algoritmos

Estos fallos revelan límites estructurales de los sistemas generativos y de verificación automatizada. Son modelos probabilísticos entrenados para producir respuestas plausibles, no verdaderas; operan sobre flujos masivos de contenido que pueden estar ya sesgados o manipulados; y suelen carecer de acceso directo a fuentes primarias en zonas de guerra. Cuando se les presenta una imagen viral, tienden a reforzar la narrativa predominante —aunque sea falsa— en lugar de suspender el juicio.

Además, al empaquetar sus conclusiones en un tono de autoridad técnica, estos sistemas pueden deslegitimar el trabajo de corresponsales y fotoperiodistas sobre el terreno y alimentar teorías conspirativas (“si la IA dice que es falso, todo es propaganda”). En la práctica, la IA se convierte tanto en generadora de desinformación —al crear imágenes y videos verosímiles— como en filtro poco fiable que amplifica dudas sobre pruebas reales.

Cómo responden medios, gobiernos y plataformas

Ante este escenario, muchos medios están reforzando sus propias unidades de verificación humana y tejiendo alianzas regionales para compartir metodologías de geolocalización, análisis forense de imágenes y contextualización de material bélico. Iniciativas como EFE Verifica, VerificaRTVE o colaboraciones con organizaciones de verificación en América Latina trabajan precisamente para contrarrestar errores de sistemas como Grok en tiempo casi real.

En paralelo, plataformas y desarrolladores de IA experimentan con modelos híbridos: Grok, por ejemplo, empezó a apoyarse más en Community Notes, el sistema colaborativo de X, para estabilizar sus respuestas, mientras otros proyectos de código abierto buscan que los asistentes expliquen mejor sus fuentes y niveles de confianza. Reguladores como la Unión Europea estudian cómo aplicar normas de transparencia y responsabilidad algorítmica a chatbots que actúan como “verificadores” de facto durante conflictos armados. Ninguna de estas medidas elimina el riesgo, pero todas apuntan en la misma dirección: devolver el centro de gravedad de la verificación a equipos humanos especializados y usar la IA, con límites claros, como herramienta auxiliar y no como árbitro final de la verdad en la guerra.