Privacidad, protección de datos y discriminación: las dudas que generan las inteligencias artificiales como ChatGPT

Las posibilidades de la Inteligencia Artificial (IA) suscitan interés y dudas a partes iguales. Una de las últimas tecnologías que más debate ha causado es ChatGPT, una plataforma capaz de generar textos coherentes a las preguntas que le consultan. La Unesco ya ha instado a los distintos gobiernos a que apliquen sus recomendaciones éticas en esta materia. "Más de 1.000 profesionales de la tecnología para que se haga una pausa en el desarrollo de los sistemas de inteligencia artificial, incluido el chatGPT", ha remarcado la organización mundial.

A grandes rasgos, ChatGPT es un sistema de chat que, a base de preguntas, puede realizar tareas de lenguaje como generación de textos o traducciones. 

"Cabe destacar que esta tecnología no trabaja sobre el contenido de la lengua, sino sobre representaciones del lenguaje", explica Lola S. Almendros a Público, investigadora postdoctoral en el Instituto de Estudios de la Ciencia y la Tecnología de la Universidad de Salamanca. El algoritmo coge un compendio casi infinito de textos con los que entrena al algoritmo. Así, "establece una variedad y relación sobre qué palabra funciona o qué relación mantiene con otra", añade la experta. A este respecto, una de las cuestiones más controversiales que han surgido es: ¿de dónde sale la información?

El Gobierno italiano ha tomado cartas en el asunto al prohibir el uso de esta tecnología, tras alegar que vulnera su ley de protección de datos. "Uno de los primeros problemas sobre la privacidad es cómo ha sido entrenado este algoritmo", se pregunta Almendros. OpenAI, empresa desarrolladora, no ha hecho público de dónde ha sacado la información. "En el caso de ChatGPT, ahora lo vemos como una caja negra, que tiene muchísimos datos", ha advertido a este medio Juan Manuel Corchado, doctor en Ciencias de la Computación (Universidad de Salamanca). 

"Cuando tenemos un perfil de un individuo creado, le podemos ofrecer cosas", agrega este profesor. Cabe recordar que para acceder a ChatGPT es necesario antes introducir un correo electrónico y un número de teléfono. "No se está informando a las personas de que sus datos están siendo tratados. No hay mecanismos de veracidad de los usuarios", ha incidido este doctor. Corchado, además, ha recalcado en la importancia de conocer "los riesgos y los beneficios" de estas tecnologías.

Sesgos de género, discursos de odio o diferencias sociales

Los sesgos de género, las representaciones estereotipadas o la proliferación de los discursos de odio son problemas que se plantean con el surgimiento de estas IA. En sus recomendaciones, la Unesco destaca, por un lado, el acusado servilismo que tienen otras herramientas como Alexa o Siri, ambas con voz de mujer. Por otro lado, la entidad subraya que "solo el 22 % de todos los profesionales de esta industria son mujeres".

Asimismo, la inteligencia artificial puede agravar las diferencias a nivel mundial. "La concentración de la IA en manos de unos pocos países de altos ingresos probablemente dejará muy atrás a los países en desarrollo", lamenta la Unesco. Para 2030, China y Norteamérica tendrán la mayor parte de las ganancias económicas, lo que representa el 70% del impacto económico global de la IA, destaca la entidad supranacional.

Otro de los aspectos criticados a ChatGPT es el referido a la originalidad de los textos. El plagio o la estandarización de las ideas, al no estar mediado por una conciencia humana, son algunos de los problemas planteados. Almendros, en este aspecto, ha destacado que lo importante es el valor de verdad de dichos contenidos. Esta investigadora, además, ha señalado que incluso los propios expertos debaten sobre cómo funciona realmente esta tecnología

"El derecho a la privacidad y la intimidad tanto a nivel individual como en las relaciones intersubjetivas es condición de posibilidad de la libertad", apunta Almendros, algo que ya adelantó en su obra Tecnopersonas. Cómo las tecnologías nos transforman, escrita junto a Javier Echeverría. 

Por todo ello, la Unesco ha pedido a los Estados que la IA "no puede ser una zona sin ley". "Hay que estudiar algoritmos que sean fiables y responsables para que no beneficien a unos en contra de otros", coincide Corchado. Almendros, por su parte, ha recalcado en los problemas de legislación y las soluciones técnicas que deben afrontar los gobiernos y las administraciones.