Martínez Roura (UIT): "ONU tiene recomendaciones éticas extrapolables y aplicables ya a la IA"

Puede resultar delicado preguntar por ciertos asuntos en Arabia Saudí, pero lo que cabe constatar tras diversas conversaciones en el evento GAIN, celebrado la pasada semana en Riad, es que el Reino (como acostumbran a nombrar a su país los saudíes) está esforzándose por mejorar su imagen y su relación con la comunidad internacional.

Uno de los recursos para ello es vincularse intensamente con actividades de Naciones Unidas, con sus objetivos de desarrollo sostenible (ODS). En especial con su agencia para la educación, la ciencia y la cultura, UNESCO.

Y participar en los esfuerzos para la normalización y creación de estándares éticos en la tecnología.

Esa es una tarea que desarrolla una de las organizaciones de UNESCO, la Unión Internacional de Telecomunicaciones (UIT).

"La UIT es la organización internacional más antigua del sistema de Naciones Unidas. De hecho, el año que viene celebramos 160 años", señala el español Guillem Martínez Roura, responsable del programa de Inteligencia Artificial y Robótica de la UIT, con quien DISRUPTORES - EL ESPAÑOL conversó en Riad.

Conviene aclarar que, ciertamente, la UIT nació en 1865, más de tres cuartos de siglo antes que Naciones Unidas (1945), como Unión Telegráfica Internacional, para estandarizar esa forma de comunicación.  En 1947 fue absorbida por la ONU.

"En la UIT estamos en el sector de la estandarización desde hace mucho tiempo y regulando todo tipo de tecnologías: radio, televisión, redes de comunicaciones, el 5G y redes futuras. Y ahora, también, inteligencia artificial", precisa Martínez Roura.

IA para el bien

"Me encargo de todo lo que sería robótica, intersección de robótica e inteligencia artificial y trabajo muy estrechamente con el 'AI for good team' [equipo de 'IA para el bien']. Es básicamente la iniciativa de Naciones Unidas, promovida por la UIT, para promover inteligencia artificial para el beneficio de la humanidad y la consecución de los Objetivos de Desarrollo Sostenible para el 2030. O sea, quedan seis años".

¿En qué manera pueden influir las tecnologías y IA en los ODS?

"Las tecnologías digitales pueden contribuir a más de un 70% de los targets de los distintos indicadores que se incluyen en los ODS. Esta plataforma [AI for good] se creó como multistakeholder, con participación tanto de gobiernos, como sociedad civil, industria y miembros de centros de investigación y universidades", responde.

Describe su tarea como "identificar casos prácticos de uso de inteligencia artificial para para los ODS y cómo escalar estos casos de éxito, para una implementación global".

El trabajo de la UIT se centra en la normalización de estándares. ¿Es realista pensar que, en el terreno de la inteligencia artificial, se pueda hablar de normalización en 2030?

"La UIT se estructura a través de grupos de estudio. Y en ellos a veces se estudian aspectos de pre-estandarización en ciertos ámbitos. Uno ha sido la inteligencia artificial. Ahora mismo tenemos 200 estándares publicados, o en desarrollo, de cómo la IA se puede implementar".

Por ejemplo, menciona, "Machine learning models, para redes de comunicaciones es un caso de éxito y un estándar que la que la UIT ya ha publicado", añade.

"Otro caso es detectar impersonificaciones, que es cuando recibes una llamada que ha sido generada por inteligencia artificial. Para controlar y detectar estas llamadas. En eso también tenemos una recomendación de la UIT".

Estándares técnicos

Otros campos en los que Martínez Roura referencia a estudios de pre-estandarización son "la salud, desastres naturales, conducción autónoma de coches… Muchas de estas cuestiones que se han estudiado en los focus groups, podríamos traducirlo como grupos de enfoque, después se trasladan a los grupos de estudio para analizarlas en profundidad y poder publicar estándares técnicos".

Especifica que esos estándares "son de aplicabilidad general y los distintos países y distintas empresas los siguen porque son creados a través del proceso colaborativo, entre múltiples stakeholders".

"Para nosotros es muy importante lo que sería [crear] capacity building (capacidad de construir) y tenemos distintos programas de entrenamiento en nuestra oferta de transformación digital".

Las palabras mágicas son 'estándares técnicos'. Pero la inteligencia artificial tiene más implicaciones, como la ética, los sesgos… ¿Hay algún modo de entrar en esas cuestiones a través de estándares?

"La UIT ha tenido siempre un mandato para la normalización de telecomunicaciones. O sea, la parte muy técnica de esta normalización. Somos una organización guiada por sus miembros. Por lo tanto, dependemos de ellos y de sus contribuciones".

"Las propuestas de normalización vienen de los estados miembros y de los miembros sectoriales de la UIT", prosigue Martínez Roura.

"Por lo tanto, no es la organización desde el secretariado la que decide cuáles son los ámbitos que se van a estandarizar. Son los miembros, a través del consenso, los que deciden".

Los próximos cuatro años

En octubre, precisamente, se va a celebrar en Nueva Deli la Asamblea Mundial de Normalización de las Telecomunicaciones, en la que los miembros de la ITU establecerán los ámbitos de trabajo de sus grupos de estudio para los próximos cuatro años.

Resumiendo: de ética y sesgos, sólo hablan si lo pueden afrontar desde un punto de vista técnico. Pero…

"La UIT considera, y esto fue uno de los resultados del white paper sobre gobernanza de la IA que publicó el Inter-Agency Working Group on AI, coliderado con UNESCO, que hay distintos instrumentos ya disponibles en el sistema de Naciones Unidas, que se pueden extrapolar y aplicar directamente en la inteligencia artificial", afirma.

"Uno de ellos es la recomendación de ética de la UNESCO, que está específicamente dedicada a la inteligencia artificial. Además, tiene normativas sectoriales, por ejemplo, de UNICEF, UNHCR, etcétera, que han sido desarrolladas a través de este enfoque multistakeholder approach y en muchas de ellas se habla también de la ética".  

"Y, evidentemente esos son los estándares éticos desarrollados a través del sistema de Naciones Unidas y que, por lo tanto, desde la UIT apoyamos", insiste.

¿Cuántos países están implicados en la tarea? "Tenemos los 193 estados miembros de la Unión. Y una de las cosas más importantes es asegurarnos de que este proceso de normalización es inclusivo. Porque tenemos que prevenir que haya actores mayores que tengan un mayor protagonismo, mayor relevancia, y una concentración de poder en unos sectores determinados".

Evitar desigualdades entre países

"Para nosotros es muy importante lo que sería [crear] capacity building (capacidad de construir) y tenemos distintos programas de entrenamiento en nuestra oferta de transformación digital, para que países de todo el mundo puedan estar actualizados en temas de inteligencia artificial", asegura Martínez Roura.

"Hicimos una encuesta a todos nuestros Estados miembros, sobre la IA. Y vimos que el 85% de los que respondieron no tienen ninguna política o estructura de gobernanza en torno a la inteligencia artificial. Esto es muy significativo, para ver que tenemos que evitar que se repliquen las mismas equivocaciones y desigualdades que han pasado con otras tecnologías".

"La UIT se estructura a través de grupos de estudio. Y en ellos a veces se estudian aspectos de pre-estandarización en ciertos ámbitos. Uno ha sido la inteligencia artificial"

Cabe deducir que hay poco más de 25 países en todo el mundo que tengan una política concreta al respecto, ¿verdad?

"Claro. La Unión Europea ha sido líder en implementar la AI Act y desde la UIT defendemos que haya ese interés de los de los Estados miembros en tener sus políticas y marcos de gobierno. Pero a través de esta conversación global, de plataformas como AI for good, o el AI Governance Day, que es una iniciativa conjunta con casi 50 agencias de Naciones Unidas".

"Con motivo del primer Día de la gobernanza de la IA, se celebró el 29 de mayo de este año en Ginebra la primera cumbre mundial. La segunda se va a celebrar en julio de 2025, en Ginebra también", anuncia Martínez Roura.

En la primera cumbre "se habló de cómo movernos desde principios muy genéricos en los que muchas naciones estamos de acuerdo: transparencia, seguridad, responsabilidad… son muy generalistas y hablamos de cómo trasladarlos a una implementación práctica".

"Y hemos visto que cada vez los gobiernos reconocen más el papel de los estándares, al movernos de directivas muy genéricas a ejemplos tangibles donde se puede implementar la tecnología", afirma.

"Son estándares que también sirven para igualar, poner al mismo nivel a países en vías de desarrollo y países desarrollados, porque tienen una guía básica para implementar unas mejores prácticas en un dominio concreto, en cuyo desarrollo ellos han participado".

Convivir con robots inteligentes

Y en el ámbito específico suyo, de la inteligencia artificial en confluencia con los robots, ¿cuál es el panorama ahora mismo?

"Inteligencia artificial y robótica estamos en el mismo proceso que estábamos con la IA hace cinco años. Hace cinco años no se hablaba mucho de estandarización en inteligencia artificial. Se empezó hacia los últimos dos años. La robótica es el sistema de IA con una apariencia física en la realidad, con capacidad de actuar", sentencia.

"Es la capacidad de actuar, de reaccionar de forma dinámica. Es la transición desde unos robots muy estáticos, que hacen unas funciones en una línea de producción industrial, a robots que comparten espacio con nosotros, en las calles, en las escuelas, o en otros ámbitos".

Y como eso, robots en las calles, empiezan a verse, Martínez Roura anticipa que ya hay "grupos de estudio que han desarrollado estándares para algo muy interesante, que son los robots de delivery, los que te van a traer la pizza a casa".

Se trata, dice, de "asegurarse de que los robots que van a estar en las calles cumplen con unos estándares de calidad y de que los algoritmos que se implementan son los mejores ya".

El responsable en la UIT de vigilar el cruce de robots con la IA se confiesa, quizás con un leve rubor, aficionado a la ciencia ficción (este periodista, también) para responder si tendrán algún sentido en la vida real las tres leyes de la robótica de Isaac Asimov.

"Sí… No tenemos que reinventar la rueda, pero tenemos que asegurarnos de que la tecnología sirve a todos los seres vivos: a los humanos, al medioambiente, a la naturaleza, a todo".

"Por lo tanto, lo que tenemos que hacer es ponerlos en el centro, -y esto está muy relacionado con los ODS-, asegurarnos de que todo lo que hacemos, que todas las regiones del mundo, que todos los directivos de empresas y los productos que desarrollen estén pensados para mejorar la vida. La vida humana", concluye.