De todos los riesgos que presentan herramientas de inteligencia artificial como ChatGPT y que están motivando a miles de exportas a firmar manifiestos a favor de una regulación, el uso de datos personales es el que primero se está abordando. Japón ha dado un toque de atención a OpenAI, padre de este chatbot mundialmente utilizado, bajo la misma preocupación que llevó a países europeos como Italia, Alemania y España a investigar a la empresa.
Los grandes modelos de lenguaje natural como el que ejecuta ChatGPT (GPT-4) requieren de inmensas fuentes de ejemplos, datos y texto, para entrenarse y alcanzar la mejora calidad a la hora de crear contenido de forma similar a los humanos. Esta dinámica ha despertado la preocupación de quienes controlan que se respeten los derechos de privacidad en cada país, así como los derechos de autor.
El organismo de control de la privacidad de Japón ha advertido este viernes a OpenAI que no recopile datos confidenciales sin el permiso de las personas. La empresa debería minimizar los datos personales que recopila su sistema de aprendizaje profundo de la interacción con los millones de personas que lo utilizan. De lo contrario, el organismo nipón asegura que puede tomar más medidas si tiene más preocupaciones, según informa Reuters.
[Así se controlará el desarrollo de la IA: las propuestas del 'padre' de ChatGPT, el G7 y la UE]
Advertencias similares recibió la empresa estadounidense, respaldada por Microsoft que utiliza su tecnología en sus servicios como el buscador, por parte de países europeos. Las alertas saltaron, tras meses de uso en internet, cuando se produjo una filtración de datos en las que algunos usuarios podían ver conversaciones de otras personas con el chatbot.
La empresa debe demostrar en la Unión Europea que cumple con la ley de protección de datos GDPR al tratar la información recopilada en las cuentas de todos los que usan ChatGPT. Para usarlo hay que dar, por ejemplo, el correo electrónico. Además, ha lanzado una opción para evitar que alguna conversación forme parte del entrenamiento de la IA, desactivando el historial de la herramienta. Algunas empresas como Apple o Amazon han restringido el uso de este chatbot a sus empleados por riesgo a que se filtran datos confidenciales de la empresa y proyectos secretos a la competencia al utilizarlo en el trabajo.
ChatGPT
El primer ministro de Japón, Fumio Kishida, presidió la cumbre de líderes del Grupo de los Siete (G7), donde se discutió sobre la regulación de la IA. Este mismo se había reunido en abril con Sam Altman, CEO de OpenAI, interesado por la posibilidad de integrar la IA como herramienta para facilitar el trabajo de sus funcionarios.
Japón es uno de los países más abiertos a integrar las nuevas tecnologías en su día a día, y es la tercera mayor fuente de tráfico al sitio web de OpenAI, según la firma de análisis Similarweb. No obstante, el país considera que es necesario equilibrar las preocupaciones sobre la privacidad con los beneficios potenciales de la IA generativa.
Al mismo tiempo, España debe asumir a partir del 1 de julio la presidencia de la UE cuando está previsto aprobar la ley de inteligencia artificial, siendo así pioneros en la regulación de esta nueva tecnología. Un texto donde se tiene en cuenta tanto el uso que se le dé a estas herramientas como el posible origen de los datos con los que se la entrena.