IA: antes de monetizar, securizar

Hoy nos encontramos en un punto crucial de nuestra evolución tecnológica, donde la inteligencia artificial (IA) parece convertirse en una herramienta indispensable para el futuro de nuestra sociedad.

Sin embargo, desde los equipos de IT abogamos no sólo por su adopción, sino por un uso seguro. Esta misión recae de manera directa en nuestras manos, las empresas tecnológicas y los responsables del área de Innovación y Tecnología.

La IA, como muchos de los proyectos innovadores útiles, está ya redefiniendo los límites de lo posible en el desarrollo de software. Y esto, más que una amenaza, supone un alivio, un avance natural para la industria tecnológica.

La IA generativa tiene el potencial de transformar positivamente nuestras vidas. No obstante, su implementación conlleva riesgos y deben ir de la mano de la creación de espacios seguros, donde la interacción hombre-máquina se guíe por principios éticos y legales.

La IA implica el procesamiento y el almacenamiento de grandes cantidades de datos, algunos de los cuales pueden ser sensibles o confidenciales. En este punto es fundamental implementar medidas de seguridad sólidas para proteger esta información contra las amenazas cibernéticas.

Según un estudio de BCG sobre IA generativa, 6 de cada 10 directivos son positivos o se muestran optimistas ante la aportación de esta herramienta. Esa adopción masiva implica que, además de contar con estos nuevos conocimientos, los responsables de tecnología debemos involucrar a los equipos en el descubrimiento de todo el potencial de la IA. Se trata de un proceso de formación constante que debemos abordar entre todos.

La IA funciona a través de modelos de lenguaje, actualmente, los Large Language Model (LLM) avanzados y entrenados con grandes cantidades de información. Sobre estos, desarrollamos una segunda capa que permite definir programas y funciones a ejecutar. En esta capa intermedia, que se ocupa de la conexión de los datos, es fundamental incorporar sistemas de control porque en la tercera, la de las aplicaciones que ofrecemos a los usuarios, debe estar garantizada la protección.

El desarrollo de la IA generativa debe ser un camino de innovación, pero también de seguridad. Conviene distinguir entre los problemas reales que plantea la incorporación de la IA, un fundamento puramente tecnológico, de otros menos racionales. La IA no va a robarnos los trabajos ni va a exterminar a la sociedad. El verdadero reto que nos plantea esta tecnología es que aprendamos a usarla de forma adecuada y nos comprometamos a educar en su uso responsable.

La forma de conseguir esto pasa por construir aplicativos que ya lleven integrados controles para que la IA sea capaz de rechazar ataques, discursos de odio, desinformación, etc.

Y cuando pensemos en el retorno económico de la IA, algo legítimo y adecuado, pensemos también como combatir estas plagas digitales. Podemos y debemos garantizar así un futuro donde la IA sea una aliada para el progreso, el entretenimiento y los usuarios.

***Adrián Gallegos es CTO de Telecoming.