Nadie podía predecir el enorme salto adelante que dieron las IA generativas en el 2023; pasaron de ser una mera curiosidad a la que posiblemente será la tecnología más rompedora de la década. El lanzamiento de ChatGPT demostró que ya era posible crear textos completos de cualquier temática sólo con indicarlo, y proyectos como Midjourney y Dall-E permitieron crear imágenes espectaculares sin tener ni idea de cómo dibujar ni fotografiar.
Lamentablemente, desde el principio el potencial malicioso de esta tecnología fue evidente para todo el mundo. Cuando cualquiera puede crear una foto realista de cualquier cosa que se le ocurra, es inevitable que esta tecnología sea usada con todo tipo de motivaciones políticas o criminales. El 2023 fue el año en el que fue más difícil que nunca distinguir imágenes falsas de reales, especialmente cuando los modelos más populares como Midjourney solucionaron problemas como la cantidad de dedos que ponían en las manos; y el 2024 va a ser mucho peor, como ya demuestran algunas creaciones compartidas en redes sociales.
Ahora, una alianza entre los mayores fabricantes de cámaras profesionales del mundo pretende hacer algo al respecto, según Nikkei Asia. Nikon, Sony Group y Canon están desarrollando una tecnología que permitirá comprobar si una imagen es real, o si potencialmente es una imagen falsa creada con IA. Para ello, las cámaras de estos fabricantes automáticamente incluirán una firma digital integrada en las imágenes, que podrá ser verificada por aplicaciones. Estas firmas serán resistentes a las modificaciones, e incluirán información que hasta ahora se almacena en los metadatos de las imágenes, como la fecha y la localización, además del nombre del fotógrafo que tomó la foto.
La app de Canon comprobará si una foto ha sido creada por un ser humano
Los tres fabricantes ya han anunciado planes para dar soporte a estas nuevas firmas digitales. Nikon lanzará cámaras ‘mirrorless’ con tecnología de autenticación diseñadas para fotógrafos profesionales y periodistas. Sony, por su parte, lanzará actualizaciones de ‘firmware’ para tres cámaras SLR que permitirán incorporar las firmas digitales a las fotos, y está trabajando en añadir esta tecnología a los vídeos. Por último, Canon lanzará una cámara compatible a principios de 2024, además de lanzar una app de gestión de fotos que será capaz de indicar si han sido tomadas por humanos. A todo esto hay que sumar que las tres compañías lanzarán una aplicación web, llamada Verify, que permitirá subir fotos y verificarlas automáticamente de manera gratuita, mostrando los datos de la firma.
Curiosamente, Google ya ha implementado una tecnología similar, pero con un concepto inverso: en vez de comprobar si una foto es real, permite comprobar si una foto ha sido creada usando Inteligencia Artificial. Para ello, todas las imágenes creadas por las aplicaciones de Google tendrán una ‘marca de agua’ digital que indicará que es falsa.
Ambos planteamientos sufren del mismo problema: sólo serán efectivos si toda la industria los adopta. La alianza de Sony, Nikon y Canon tiene más probabilidades de éxito, ya que controlan el 90% del mercado de cámaras, pero esto obvia el hecho de que la mayoría de las fotos que vemos a diario se han tomado con un móvil. De la misma manera, la medida de Google sólo funciona con imágenes creadas con sus apps; si alguien usa modelos de creación de imágenes en su ordenador (algo que pronto será posible gracias a los AI PC), esa ‘marca de agua’ no tiene por qué ser incluida. En otras palabras, estas medidas pueden ser insuficientes para el futuro que nos espera.