Una inteligencia artificial.

Una inteligencia artificial. iStock Omicrono

Software

"No sabemos si podremos controlar la IA si llega a cobrar conciencia", advierten los científicos

Investigadores alertan que la inteligencia artificial ya muestra rasgos humanos, y esto "plantea más preocupaciones éticas, legales y políticas".

27 abril, 2023 11:09

La inteligencia artificial (IA) ha supuesto toda una revolución tecnológica, con los sistemas de aprendizaje profundo como ChatGPT como grandes protagonistas; aunque tanto España como Alemania los están investigando por vulneración de la protección de datos. Su impacto y avance es tan fuerte que hasta expertos piden que se apague y que el ser humano se prepare en caso de que esta tecnología cobre conciencia.

La Asociación para la Ciencia de la Conciencia Matemática (AMCS, en sus siglas en inglés) ha publicado una carta abierta en la que advierten que la inteligencia artificial ya ha comenzado a mostrar rasgos humanos, lo que plantea seriamente la posibilidad de que esta tecnología cobre conciencia. Llegado el caso, alertan que el ser humano debe "estar preparado" y preguntarse si logrará "controlar, alinear y usar" esos sistemas cuando "despierten". 

Que una inteligencia artificial cobre conciencia supone que ésta podría pensar con la misma libertad y autonomía que un ser humano, lo que podría ser un grave problema. "La conciencia le daría a la IA un lugar en nuestro panorama moral, lo que plantea más preocupaciones éticas, legales y políticas", asegura en su carta la organización, en la que indican que su comunicado se trata de una "llamada de atención al sector tecnológico".

"Tendrán nuevas capacidades"

La asociación pide que tanto la comunidad científica como la sociedad en general se tomen en serio la necesidad de acelerar la investigación en el campo de la ciencia de la conciencia. "La creciente potencia informática y las capacidades de los nuevos sistemas de IA se están acelerando a un ritmo que supera con creces nuestro progreso en la comprensión de sus capacidades y su 'alineación' con los valores humanos", indican.

En la carta también señalan que los sistemas de inteligencia artificial, incluidos los modelos de lenguaje como ChatGPT y Bard, han demostrado varias habilidades emergentes que no estaban previstas. "Ya no pertenece al ámbito de la ciencia ficción imaginar que la IA tenga sentimientos e incluso una conciencia a nivel humano. De hecho, los sistemas IA contemporáneos ya muestran rasgos humanos reconocidos en Psicología, incluida la evidencia de la Teoría de la Mente", explica la organización.

Fotomontaje con una ilustración de una IA.

Fotomontaje con una ilustración de una IA. Manuel Fernández Omicrono

Los científicos alertan que si logran la conciencia, los sistemas de IA "probablemente revelarán una nueva gama de capacidades que van mucho más allá de lo que esperan incluso aquellos que encabezan su desarrollo". Incluso advierten que estas capacidades cambiarán lo que la IA puede hacer y lo que la sociedad puede lograr para controlarla.

A medida que se desarrolla la inteligencia artificial, la AMCS -que está formada por más de 150 científicos y filósofos de todo el mundo- señala que es vital que el público general, las instituciones sociales y los órganos de gobierno "sepan si los sistemas de IA pueden volverse conscientes y cómo" con el objetivo de comprender las implicaciones y "abordar de manera efectiva las ramificaciones éticas, de seguridad y sociales". 

[Una procesión inventada y trenes sin horarios: así ha organizado ChatGPT mi Semana Santa]

Los investigadores también solicitan al sector tecnológico y a la comunidad científica que inviertan más recursos de estudios para entender si la IA son o pueden llegar a ser conscientes; lo que permitiría tomar decisiones sobre el futuro de la inteligencia artificial y su potencial impacto para garantizar que no sea perjudicial para la humanidad. "No se debe dejar que la investigación de la IA deambule sola", afirman.

Incluso señalan que la inteligencia artificial puede ser uno de los mayores logros de la humanidad, pero la sociedad debe tomar decisiones sobre cómo abordar sus implicaciones. "Sin tomar una posición sobre si el desarrollo de la IA debe detenerse, enfatizamos que el rápido desarrollo de la inteligencia artificial está exponiendo la necesidad urgente de acelerar la investigación en el campo de la ciencia de la conciencia", concluyen.

También te puede interesar...