El poder de la IA para generar 'fake news': histeria por una falsa explosión en el Pentágono

Una imagen supuestamente generada por inteligencia artificial ha generado el caos en los servicios de emergencia del Pentágono y en la bolsa.

23 mayo, 2023 10:56

Marta Sanz Romero

Mientras el G7 y la Unión Europea, con España presidiendo el Consejo en breve, se plantean cómo regular la inteligencia artificial, esta tecnología y el poder de las redes sociales dan su peor cara en internet. Una imagen falsa, supuestamente generada por inteligencia artificial generativa, sobre una explosión en el Pentágono de Estados Unidos se ha difundido rápidamente, provocando una breve caída en la bolsa hasta ser desmentida.

Este lunes 22 de mayo, la imagen se compartió en varias cuentas verificada con el tick azul en Twitter con nombres como Bloomberg Feed, pero que nada tiene que ver con el medio de comunicación. "Gran explosión cerca del complejo del Pentágono en Washington, DC - Informe inicial" se puede leer encima de la fotografía que muestra una gran columna de humo frente a la fachada de un edificio.

La fotografía se difundió por otras cuentas y plataformas, incluso fue compartida por la agencia estatal Russia Today. Las reacciones oficiales para desmentir la noticia de una posible explosión en la sede del Departamento de Defensa de Estados Unidos no se hicieron esperar mucho, aunque parece que antes la mentira habría podido influir en una pequeña caída en el mercado de valores.

Desmintiendo la noticia

Autoridades locales como el Departamento de bomberos de Arlington, Virginia, donde se encuentra el edificio, desmintieron en redes sociales la información. "Solo mirando la imagen en sí, ese no es el Pentágono. No tengo idea de qué es ese edificio. No hay ningún edificio que se parezca a eso en Arlington" ha explicado Nate Hiner, capitán del departamento de bomberos a The Washington Post.

Hiner asegura que tardó cinco minutos en confirmar que la noticia era falsa, no solo por el detalle del edificio. Comprobó los sistemas de comunicaciones para emergencias, incluso, consultó en redes sociales si más cuentas mostraban otros contenidos que dieran a entender que había más testigos viendo la explosión. Por último, contactó con el Departamento de Defensa y de la Agencia de Protección de la Fuerza del Pentágono que le confirmaron que todo estaba en orden y procedió a desmentirlo en las redes sociales.

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023

Aunque el edificio no es el Pentágono, las calidad del montaje sugiere que la IA generativa podría haber sido la herramienta para crearla. La información sobre la supuesta explosión fue compartida en Twitter @DeItaone a las 10:06 am ET (las 16:06 de España). A las 10:10, el mercado había caído un 0,26%, aunque fue una caída breve que se recuperó rápidamente; es difícil confirmar qué la provocó realmente.

Verificación en Twitter

Seguir el rastro de la noticia falsa también es complicado. Asegura The Washington Post que uno de los primeros en compartir la imagen fue una cuenta verificada llamada OSINTdefender, con sus 336.000 seguidores, a esa misma hora. La imagen podría haber salido de otras redes sociales como Facebook.

@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023

Muchos de los que la han replicado cuentan con el tick de verificación azul que Elon Musk ha convertido en una función de pago en Twitter y funcionan como agregadores de noticias de otros medios, también para noticias financieras. La mayoría de cuentas que propagaron la fake new ya la han borrado o han sido cerradas, pero es un claro ejemplo de cómo la combinación entre herramientas generativas como Midjourney, ChatGPT, DALL-E y la dificultad de las plataformas de internet para controlar la información falsa pueden tener un gran impacto.

A los medios de comunicación en Twitter se les ha otorgado una marca dorada, aunque no todos la han recibido y muchos no se han suscrito a la versión de pago que les otorgaría el check azul. La cuenta del departamento de Bomberos cuenta con un tick gris para organizaciones gubernamentales, pero la Agencia de Protección de la Fuerza del Pentágono que vigila este edificio no cuenta con ninguna marca verificadora.