Esta IA ha creado imágenes falsas tan realistas que han tenido que cerrarla

Las llamadas IA generativas han provocado un auténtico terremoto en Internet, y su influencia en la sociedad, para bien y para mal, sólo está empezándose a notar ahora. Los peligros de ChatGPT y otras IA para crear texto ya son evidentes, pero no podemos olvidarnos de las IA capaces de crear imágenes y vídeo.

[Los creadores de ChatGPT le preguntaron cómo matar personas, y la respuesta es aterradora]

Es uno de estos proyectos los que ha ocupado los titulares estos días, y no por buenos motivos. Algunas de las noticias falsas más compartidas han sido creadas gracias a esta IA, y ahora sus creadores han decidido bloquear parcialmente su acceso para evitar males mayores.

Midjourney gratis cierra por las ‘fake news’

Midjourney es una de las mejores IA para crear imágenes disponible para el usuario medio; o al menos, lo era. Sus creadores han anunciado el fin del acceso gratuito a Midjourney, y a partir de ahora es necesario optar por una de sus suscripciones de pago, que parten de los 10 dólares al mes, para poder usarlo.

La explicación es sencilla: Midjourney ha recibido mucha atención indeseada por culpa de imágenes que se han hecho virales y se han usado para dar más peso a noticias falsas. Por ejemplo, Midjourney fue usado para crear una imagen del papa Francisco con una gran chaqueta blanca; el mensaje viral afirmaba que el pontífice se presentaba de esa manera cuando hacía frío, pero en realidad se trataba sólo de la “imaginación” de una IA.

Midjourney también ha sido usado con resultados menos cómicos y mucho más serios. Hace unos días saltó la noticia falsa de que Donald Trump había sido arrestado; para adornar la publicación se usaron imágenes creadas por IA que mostraban al expresidente con esposas, o incluso peleando con la policía para evitar el arresto.

Una de las imágenes viralas creadas por IA mostraba el arresto de Donald Trump Midjourney

El gran problema es que la calidad de estas imágenes falsas es demasiado buena. Midjourney es capaz de aplicar un estilo muy realista, con una iluminación muy cercana a la que tendría una fotografía real; también tiene especial cuidado en las texturas, y de ahí que la piel y los materiales de la chaqueta fuesen tan realistas.

Para colmo, los desarrolladores han conseguido solucionar uno de los grandes fallos que sufría: la manera en la que renderiza las manos. Antes, era relativamente fácil discernir si una imagen había sido creada por IA sólo fijándonos si la persona tenía seis dedos, o si la mano estaba retorcida. Pero en la nueva versión, la IA ya es capaz de crear manos realistas.

Joe Biden también fue protagonista de imágenes falsas creadas por IA Midjourney

El cierre parcial de Midjourney llega después de que sus creadores no hayan sido capaces de establecer una política de uso clara. En realidad, la app ya bloqueabas ciertas peticiones, como la creación de imágenes con el líder chino Xi Jinping como protagonista, pero eso resultó ser una tirita. El propio CEO de la compañía usó el grupo de Discord oficial para confesar a los usuarios que era incapaz de regular el uso de su propia app.

Este no será el único caso semejante. ChatGPT ya implementó serias limitaciones a su IA, para evitar que fuese usada para matar personas o para cometer crímenes, y ya hay voces que piden un “tiempo muerto” para esta tecnología pueda madurar.

Te puede interesar

• Leonardo AI es una inteligencia artificial alternativa a Midjourney con muchas más opciones
• Midjourney V5 es oficial, la mejor IA para crear imágenes soluciona uno de sus grandes fallos
• Cómo usar Midjourney para crear imágenes espectaculares de forma rápida
• Las IA para crear imágenes han roto el mercado y ahora les llueven las demandas