El pleno de la Eurocámara ha aprobado este miércoles -por una amplia mayoría de a favor, en contra y abstenciones- un reglamento pionero a nivel mundial cuyo objetivo es mitigar los riesgos que plantea la Inteligencia Artificial (AI) y al mismo tiempo convertir a la Unión Europea en líder en esta tecnología.

El nuevo reglamento impone una serie de restricciones a los modelos de AI generativa como el ChatGPT, cuyo rápido desarrollo ha pillado por sorpresa a los legisladores comunitarios.

Este tipo de aplicaciones deberán etiquetar los contenidos (textos, audios o videos) generados con AI, introducir salvaguardas contra la generación de contenidos ilegales y publicar resúmenes de datos protegidos por derechos de autor utilizados para entrenar al algoritmo, lo que facilitará a los propietarios pedir compensación.

[La UE y EEUU impulsan un código de conducta para mitigar los riesgos de la Inteligencia Artificial]

"El reglamento de AI sentará las pautas a nivel mundial en el desarrollo y la gobernanza de la inteligencia artificial, garantizando que esta tecnología, que transformará radicalmente nuestras sociedades gracias a los beneficios masivos que puede ofrecer, evolucione y se use de acuerdo con los valores europeos de democracia, derechos fundamentales y Estado de derecho", ha dicho el eurodiputado liberal rumano Dragos Tudorache, uno de los ponentes parlamentarios de la norma.

La votación de este miércoles en la Eurocámara todavía no es el final del camino. La versión final del reglamento todavía debe negociarse y acordarse entre los representantes del Parlamento y de los Gobiernos, una tarea que le corresponderá a la presidencia española a partir de julio.

Bruselas cree que la entrada en vigor de todas las disposiciones de la norma no se producirá hasta 2026 y por eso está preparando junto a Estados Unidos un código de conducta voluntario para cubrir el periodo de transición.

El nuevo reglamento de la UE se basa en un enfoque basado en el riesgo, tanto para la seguridad como para los derechos fundamentales de los ciudadanos. En el peldaño más alto de la pirámide se encuentran el número muy limitado de aplicaciones de inteligencia artificial que según Bruselas plantean un "riesgo inadmisible" y que se prohibirán de forma terminante. 

En esta lista negra, la Eurocámara ha pedido incluir la prohibición total de los sistemas de identificación biométrica remota, en tiempo real o no, en espacios públicos. En este punto, los eurodiputados se distancian de la posición común adoptada por los Gobiernos, que prevé toda una serie de excepciones por motivos de seguridad o aplicación de la ley. Será el principal escollo en las negociaciones finales.

También entran en esta lista negra los sistemas que usan técnicas subliminales para eludir la voluntad de los usuarios; los modelos que permitan la "puntuación social" de los ciudadanos, como hace por ejemplo China; los sistemas de categorización biométrica que utilizan datos sensibles (género, raza, etnia, estado de ciudadanía, religión, orientación política); los sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada); los sistemas de reconocimiento de emociones o la recopilación indiscriminada de datos biométricos procedentes de redes sociales o cámaras de vigilancia para crear bases de datos de reconocimiento facial.

En el segundo escalón de la pirámide se encuentran las aplicaciones de inteligencia artificial que según Bruselas presentan un riesgo alto. En esta categoría se encuentran por ejemplo las tecnologías de puntuación en exámenes, programas de clasificación de currículums para procedimientos de contratación, sistemas de calificación crediticia para acceder a un préstamo o evaluación de la fiabilidad de las pruebas en un procedimiento judicial.

La Eurocámara quiere añadir a esta lista los sistemas de IA para influir en los votantes en las campañas políticas, así como los sistemas de recomendación utilizados por las grandes plataformas de redes sociales.

Estos sistemas de alto riesgo estarán sujetos a una serie de obligaciones estrictas antes de poder comercializarse. Entre ellos, procedimientos adecuados de evaluación y mitigación de riesgos, garantías de alta calidad de los datos empleados, registros de actividad, información clara y adecuada a los usuarios y medidas apropiadas de supervisión humana.

En el tercer peldaño del reglamento se encuentran los sistemas de inteligencia artificial de uso general, a los que se impondrá obligaciones específicas de transparencia. Es el caso de los deep fake, de los bots o del ChatGPT y modelos similares.

El Parlamento Europeo quiere además que el reglamento reconozca un derecho universal para todos los ciudadanos a querellarse contra los sistemas de Inteligencia Artificial y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que tengan una incidencia significativa sobre sus derechos.