Ética e inteligencia artificial, según Google: "El primer paso para resolver un problema es reconocer que lo tenemos"

La inteligencia artificial es una tecnología que ya "está en todas partes" pero que, curiosamente, "se encuentra en una fase muy embrionaria". De igual forma, se enfrenta a "problemas" para los que todavía no hay solución.

Estos serían, a grandes rasgos, los pilares sobre los que giró la mesa redonda sobre inteligencia artificial que ha servido para dar el pistoletazo de salida a la WeekInn de San Sebastián, que se celebra en la ciudad donostiarra durante esta semana, evento organizado por la sociedad pública Fomento de San Sebastián.

El debate, celebrado en el Kursaal, lo protagonizaron Idoia Ochoa, ingeniera especializada en Biotecnología; Nerea Luis, ingeniera especializada en analítica de datos y cofundadora de Tech3Fest; y Pilar Manchón, directora de investigación en inteligencia artificial en Google.

Fue la propia Manchón, que intervino en el debate por videoconferencia desde EEUU, la que no tuvo reparos en hablar de uno de los grandes problemas que esta tecnología tiene en la actualidad: la cuestión ética.

"El primer paso para solucionar un problema es darnos cuenta de que tenemos un problema", certificó.

Desde Google, según explicó, "está habiendo un gran esfuerzo investigador en la ética y la responsabilidad de la inteligencia artificial y hemos sido uno de los primeros en crear ese tipo de líneas rojas".

Advirtió de forma muy gráfica que "la IA se alimenta de datos pero los datos y sus patrones los generan los humanos, por lo que si los humanos no estamos alineados con la ética, la IA tampoco lo va a estar".

Redes neuronales interpretables

Ya en esa línea, sus dos compañeras de mesa habían advertido que estamos ante un problema por resolver.

Idoia Ochoa, desde el sector de la biotecnología, recalcó que "tendemos hacia redes neuronales más interpretables, pero interpretar los algoritmos nos obliga a tener cuidado".

Y citó el ejemplo de lo seguro que debe estar un determinado médico, aun hoy en día, para tomar una decisión propuesta por un algoritmo.

La experta en analítica de datos Nerea Luis admitió que "está claro que necesitamos regulación porque a veces los históricos de datos se hacen mal".

En este sentido, remarcó que "debemos seguir midiendo los resultados de la aplicación de IA en función de analíticas clásicas, pero también desde la interseccionalidad. Es decir, puede ser que para desarrollar un caso de uso con inteligencia artificial tengan que participar técnicos pero también juristas y, por qué no, filósofos".

Las tres ponentes, pues, reconocen que existe un problema de utilización y la programación de determinados patrones de inteligencia artificial y también de uso de los datos que los generan, un debate, éste último, que entronca con una palabra muy presente en el debate: la privacidad.

"Una medicina más personalizada y predictiva"

Idoia Ochoa reconoció que "se va a ver mucho en salud, porque tendemos a una sanidad mucho más personalizada y mucho más predictiva y para hacerlo posible hacen falta datos".

En este sentido, recordó que "debemos saber que, por ejemplo, si doy mis datos de ADN para desarrollar modelos inteligentes a nivel científico o de investigación estoy dando mucha información de mucha gente de mi alrededor y eso aún no sé cómo se puede solucionar. Este tema de privacidad es muy difícil de regular", concluyó.

Otra de las conclusiones que se pueden extraer de esta charla tiene que ver con el estado inicial en el que se encuentra el desarrollo de la inteligencia artificial, aunque pueda parecer todo lo contrario.

La portavoz de Google destacó que "la inteligencia artificial aún va en pañales. Estamos explorando muchas aplicaciones que cambian la forma de ver las cosas, pero nos queda mucho que resolver y va a ser una carrera muy emocionante".

Nuria Luis, por su parte, compartió que "está todo en un estado muy embrionario si hablamos de cómo llevar la IA a la gente. La teoría lleva décadas en marcha, pero la práctica tiene muchos conflictos aún por resolver y muchas aplicaciones que explorar".

La disciplina que más se ha desarrollado, según esta experta, es el aprendizaje automático. Y, a su juicio, actualmente existen dos tendencias, el Edge computig y el procesamiento de lenguaje natural, caso este último que más que tendencia es un "reto".

Datos y computación

Para Idoia Ochoa, la clave de todo lo que rodea la inteligencia artificial está en los datos, pero también "en la computación para hacer que los algoritmos puedan probarse más rápido".

Y añadió que "por suerte se está viendo que hay más dinero para investigación en este sentido y todo ello unido está haciendo progresar la IA".

El último concepto que se puso sobre la mesa sobre esta tecnología fue la importancia del verbo compartir. "Antes la gente no compartía la información pero ahora la sociedad está viendo la idoneidad de compartir los datos", explicó Ochoa.

"Debemos promover que se use la IA de forma proactiva para conseguir que sea útil, que es lo que buscamos constantemente. Se trata de democratizar su acceso a nivel mundial", refrendó Manchón.

Y añadió Luis: "Para trabajar con IA necesitas reutilizar rápido todo lo que haces. Antes la IA estaba anclada en el laboratorio, pero ahora está en todas partes y quien no la explore está en fuera de juego".

La mesa redonda, por último, dejó un reto y una reflexión. Nerea Luis fue la encargada de poner sobre la mesa cuál será el gran salto que la inteligencia artificial debe dar.

La importancia de la formación

"La gran revolución será construir modelos que nos permitan comunicarnos con la inteligencia artificial con naturalidad a través de varias capas, no solo de texto a texto, sino de texto a imagen, por ejemplo".

En cuanto a la reflexión, Idoia Ochoa, no dudó en advertir que la formación es cada vez más importante para un mundo cada vez más dominado por esta tecnología.

"Es muy importante que se empiece a formar a la gente, de cualquier nivel y de cualquier sector, de lo que supone la inteligencia artificial. Porque puede que haya un momento en su carrera profesional que se tenga que enfrentar a decisiones propuestas por un algoritmo", concluyó.

La octava edición de la Semana de la Innovación de San Sebastian, DSS Weekinn, continúa repleta de actividades hasta el próximo viernes.

La concejala de Impulso Económico, Marisol Garmendia, apuntó que "DSS WeekINN es un evento único en España, una plataforma que utilizamos para poner de manifiesto la apuesta que desde hace tiempo lleva a cabo San Sebastián en torno a la innovación".

En esta edición "analizaremos el impulso de la digitalización y la tecnología pero, sobre todo, el papel de las personas en este escenario porque, aunque haya muchos avances en esos ámbitos, el ser humano es el único capaz de crear las conexiones necesarias".