Nuria Oliver, directora científica y cofundadora de ELLIS Alicante

“La IA tiene un enorme potencial para el bien social, pero tenemos que eliminar el miedo y el pánico que produce”

Nuria Oliver es una de las mayores expertas en inteligencia artificial (IA) del mundo. En 2020 impulsó la creación de Ellis Alicante, una fundación centrada en investigar la IA ética, responsable y centrada en el ser humano. Es también la única vocal independiente de la Agencia Española de Supervisión de la IA (Aesia), que echará a andar en los próximos meses. Nuria Oliver es doctora en Inteligencia Artificial por el Massachusetts Institute of Technology (MIT), Chief Data Scientist en Data-Pop Alliance y Chief Scientific Advisor para el Vodafone Institute. Es autora del libro Inteligencia artificial, naturalmente. Un manual de convivencia entre humanos y máquinas para que la tecnología nos beneficie a todos.

Por Carolina Martínez

27/05/2024
Nuria Oliver, experta en IA.

¿Cuáles son las principales preocupaciones éticas asociadas con el desarrollo y uso de la inteligencia artificial?

Los sistemas de IA tienen un inmenso potencial para el bien social pero también tienen limitaciones, con implicaciones éticas, que tenemos que abordar si queremos un impacto positivo. La primera limitación es la violación computacional de la privacidad, el inferir atributos personales utilizando técnicas de IA incluso a partir de datos no personales, como los patrones de 'me gusta' en una red social.

En segundo, los sesgos algorítmicos que pueden discriminar y estereotipar: nos apoyamos en algoritmos de IA para tomar decisiones en ámbitos muy importantes (médicas, concesión de créditos, contratación, servicios sociales, etc.). Estos algoritmos, que pensamos que van a ser mejores que las decisiones de los humanos, a veces replican e incluso magnifican patrones de discriminación existentes en la sociedad. Hay muchos ejemplos de sesgos racistas, de género o de religión. También la falta de diversidad contribuye a mantener estereotipos, como, por ejemplo, las enfermeras son mujeres y los policías son hombres. Nos estereotipan para recomendar contenidos, como películas, y en ese caso puede que no tenga consecuencias, pero en el caso de las noticias se generan lo que se conoce como cámaras de resonancia y burbujas filtro que contribuyen a la polarización de la sociedad.

La tercera [limitación] es la opacidad. Nos quedamos sin saber por qué la IA toma una decisión: si el sistema me niega el acceso a una universidad, quiero saber por qué. Otro reto es la falta de veracidad. Podemos generar contenido sintético (imágenes, textos o audios) que al ojo humano parece realidad. Esto tiene graves implicaciones en procesos electorales o teorías de la conspiración.

Además, está la inmensa huella de carbono. Hablamos de redes neuronales enormes, que requieren cantidades ingentes de computación, y esto conlleva emisiones de CO2 muy elevadas.

“Cada dos años generamos más datos que en los 5.000 años anteriores de la historia de la humanidad”

La falta de diversidad es otro reto. Habrá un 12% de mujeres en el mundo expertas en IA. También institucional, hay una clara dominancia de la IA geográfica, EE. UU. y China, y en empresas tecnológicas. Debería haber más actores: la sociedad civil debería jugar un papel más importante.

Vivimos un proceso de cambio brutal, que a los no especialistas en el tema nos puede resultar abrumador. ¿Cómo vamos a encajar, como sociedad, todos estos cambios?

Es muy importante la educación y la divulgación científico-tecnológica para, de alguna manera, eliminar esta sensación de vértigo combinada también con un sentimiento de pánico, porque el discurso público sobre IA tampoco es que sea necesariamente positivo, y eso no es constructivo. No hay una sociedad más fácilmente manipulable que una sociedad ignorante, pero es que además una sociedad ignorante con miedo es más manipulable. Tenemos que invertir en educación. Es una responsabilidad ética hacer todo lo posible por ayudar a entender el mundo en el que nos movemos y contribuir a eliminar esta visión sensacionalista-apocalíptica que rodea ahora mismo a la IA y que no es acorde a la realidad. La IA tiene un enorme potencial para el bien social. Por ejemplo, la IA es una aliada esencial para ayudar a las personas con discapacidad y mejorar su calidad de vida.

Ahora estamos precisamente en el debate de la regulación, ¿en qué punto nos encontramos?

Europa ha asumido un papel de liderazgo de la IA con el primer reglamento mundial transversal, que entrará en vigor a finales de 2025 o principios de 2026. Su objetivo es asegurar que la IA no compromete los derechos fundamentales de las personas ni los valores de la UE. La calidad de vida [en la UE] es de las mejores, y no es casual, sino fruto de los valores europeos, por eso es fundamental protegerlos frente a la IA. Establece diferentes categorías para los sistemas: los de riesgo inaceptable, que se prohíben. Hablamos de sistemas para manipular el comportamiento de las personas o la biometría masiva en tiempo real, por ejemplo. Una de las preguntas es ¿quién supervisa? La Oficina Europea de IA será la encargada, pero cada Estado miembro debe tener un órgano supervisor, que en España será la Agencia Española de Supervisión de la IA (Aesia). Soy la única vocal independiente del Consejo Rector, que arrancará en unos meses.

¿Se puede regular en la UE mientras el resto del mundo no lo hace? ¿Eso puede funcionar?

El ejemplo más similar es el Reglamento Europeo de Protección de Datos (RGPD), creado para proteger los datos de los europeos, pero que se ha convertido en un estándar de facto. Instituciones y empresas de fuera están cumpliendo con esta regulación porque es más eficiente. Lo que sabemos es que cualquier sistema de IA, sea ruso, chino o italiano, cualquier sistema que se implemente, va a estar sujeto al reglamento europeo si tiene impacto dentro de la UE. Es importante no confundir la innovación tecnológica con el progreso. No toda innovación es progreso. Para mí, progreso es mejorar la calidad de vida de las personas, del planeta y de los seres vivos. ¿De qué nos sirve un desarrollo que va a acabar con el planeta?

“Europa ha asumido un papel de liderazgo de la IA con el primer reglamento mundial”

¿Qué desarrollo de la IA va a ser más revolucionario en los próximos años, en qué ámbito?

Una de los mayores está siendo en la salud y en la ciencia, y cómo se pueden acelerar descubrimientos en muchos ámbitos: astronomía, física, biología, medicina, fabricación de materiales… También para ayudarnos a combatir el cambio climático. La IA permite desarrollar gemelos digitales (representación de algo para su estudio), sobre lo que se hacen simulaciones que ayudan a tomar decisiones.

Uno de los factores que ha propiciado el desarrollo de la IA ha sido la ingente cantidad de datos. ¿Se puede agotar su producción?

Los smartphones, el internet de las cosas, los sensores, unidos a la disponibilidad de grandes capacidades de computación a bajo coste, ordenadores cada vez más potentes, y los algoritmos, redes neurales profundas y muy complejas, nos han permitido desarrollar IA.

Seguimos generando cantidades ingentes de datos. Cada dos años generamos más datos que en los 5.000 años anteriores de la historia de la humanidad. Un elemento que no existía hasta ahora y que cada vez va a ser más importante, es que un porcentaje de estos datos habrá sido generado por los propios algoritmos. Si, por ejemplo, para ChatGPT utilizamos todos los textos digitalizados jamás escritos, hasta ahora sabemos que son textos humanos. Si ahora queremos entrenar la nueva versión de ChatGPT con todos los textos jamás escritos en formato digital, ya no tendremos la garantía de que todos van a ser generados por humanos. Un futurible es que si los humanos cada vez escribimos menos, puede ser que los sistemas de IA sean entrenados con sus propios datos, pero todavía queda mucho para eso.

Hay temas que la sociedad tiene que cambiar. Es decir, una profesora te cuenta ahora que la mayor parte de los trabajos que manda están hechos con IA. ¿Tendremos que cambiar la forma de examinar y de enseñar, por ejemplo?

El impacto de la IA en la educación es enorme. Ese es un ejemplo pero hay muchos más. Tenemos que reflexionar. Defiendo que se introduzca una asignatura de pensamiento computacional desde Primaria, que no necesita ordenador para enseñarla. Tan importante como eso es reforzar las habilidades humanas, como la creatividad y el pensamiento crítico. La IA nos permite tener una educación personalizada, adaptando la enseñanza a cada persona. Eso puede ser revolucionario. En el contexto de la segunda revolución industrial, muy basado en la memoria, ese modelo de mandar deberes no anticipaba que hay un sistema que puede hacer esos deberes en 30 segundos. Hay que motivar el valor de aprender por sí mismo, y no es fácil, porque aprender es un proceso doloroso e individual. Hay que reformular el modelo de enseñanza.

¿Un sistema de IA es invulnerable?

No, hay que tener en cuenta que estos sistemas no son invulnerables, se les puede hackear, pero también se les puede engañar. Hay una disciplina que tiene como objetivo engañar a otros sistemas de IA. ¿Por qué? Si hay un sistema que reconoce caras y yo no quiero que me reconozcan puedo, por ejemplo, usar una pegatina en un determinado sitio que confundiría al sistema. No confundiría al humano, pero sí a la IA. Y sería invisible para el algoritmo.

Si pones en una balanza los aspectos positivos y negativos, ¿dónde te sitúas?

Creo firmemente en el poder de la IA para el bien social pero también en la necesidad de invertir en iniciativas como Ellis Alicante para asegurarnos que este bien social se traduce en una realidad.

 

Continúa Leyendo

Ciberseguridad.
Economía

Ciberseguridad, el empleo del futuro

Por Juan Ramírez / Andrea Reig

Leer artículo: Ciberseguridad, el empleo del futuro
Teresa Perales.
Entrevistas

“Es una suerte tener algo por lo que luchar”

Por Rafael Olea

Leer artículo: “Es una suerte tener algo por lo que luchar”
Ecce Homo
Cultura

El Caravaggio perdido

Por Lidia Rossi

Leer artículo: El Caravaggio perdido
Monja arrodillada
Cultura

La cara oculta del arte

Por Rafael Olea

Leer artículo: La cara oculta del arte