www.zonamovilidad.es
Nuria Oliver: 'Nos están distrayendo con una hipotética situación apocalíptica de una Inteligencia Artificial que no está cerca ni sabemos si algún día la tendremos'

Nuria Oliver: "Nos están distrayendo con una hipotética situación apocalíptica de una Inteligencia Artificial que no está cerca ni sabemos si algún día la tendremos"

martes 16 de mayo de 2023, 21:34h

Escucha la noticia

Nuria Oliver, experta en Inteligencia Artificial, lidera ELLIS, una asociación europea sin ánimo de lucro que busca atraer y retener a los mejores investigadores en IA para fortalecer la competitividad de Europa en el campo. En esta entrevista, Oliver habla sobre ChatGPT y advierte sobre la falta de veracidad y los sesgos algorítmicos en los sistemas generativos de IA. También critica el manifiesto que pide detener los desarrollos actuales y futuros de la IA por considerarlos una amenaza existencial.

Conocía a Nuria Oliver en Telefónica, hace ya algunos años, cuando era directora científica en el área de I+D. Hoy, Oliver es una de esas voces que hay que escuchar, o leer cuando escribe sus artículos con tan buen tino. Es una de esas expertas en Inteligencia Artificial que ha dado a luz este país, y que ahora dedica casi todos sus esfuerzos a ELLIS (European Laboratory for Learning and Intelligent Systems), una asociación europea sin ánimo de lucro con base en Alemania creada por los propios investigadores e investigadoras europeos en Inteligencia Artificial (IA) y fundamentalmente preocupados por la falta de competitividad y la debilidad que tiene Europa en IA, tanto en investigación como en Innovación y en despliegue y uso de la misma.

Con ELLIS Europa a lo que aspira Oliver y sus creadores es a crear un entorno que sea lo suficientemente competitivo como para poder atraer y también retener, y educar e inspirar a la próxima generación de investigadores e investigadoras excelentes en Inteligencia Artificial. El foco de ELLIS es la excelencia, las mejores mentes, las mentes más brillantes, porque son precisamente estas mentes las que tienen muchas oportunidades profesionales y son las que no están eligiendo quedarse en Europa cuando son al mismo tiempo las mentes que van a transformar el mundo y las que van a ser absolutamente claves para ayudarnos a encontrar soluciones a los grandes retos a los que nos enfrentamos.

Pero además de su misión en ELLIS, hemos hablado con Nuria Oliver, para el podcast ConfIA, de Chat GPT, del manifiesto de algunos científicos y pseudocientíficos para pararlo, y de lo que nos espera con la Inteligencia Artificial que hoy tenemos. Animo a escuchar el podcast, pero para el que no pueda esperar, adelanto algunas perlas en este texto.

J.C.F.G.: ¿Hay un antes y un después en Inteligencia Artificial con la aparición de ChatGPT?

"ChatGPT ha puesto la Inteligencia Artificial en el foco de la Sociedad"

Oliver: Desde el punto de vista social, probablemente sí lo haya, porque creo que ChatGPT ha ayudado a hacer tangibles muchos de los avances que se han ido produciendo en la Inteligencia Artificial en los últimos años. Y ha traído la IA a todos los móviles y ordenadores de todas las personas, con lo que ha puesto la Inteligencia Artificial en el foco de la Sociedad.

ChatGPT entra dentro de un ámbito o tipo de IA que se conocen como modelos generativos, todos ellos basados en aprendizaje profundo y en redes neuronales profundas. Modelos extremadamente complejos, entrenados con cantidades ingentes de datos y que tienen la capacidad de generar contenidos, bien sea texto -como es el caso de GPT 3 o GPT4- que es el modelo en el que se basa ChatGPT; o bien imágenes como puede ser DALL-E o Midjourney, Stable Difusion; o vídeo, audio, música o cualquier otro tipo de lenguaje que puede ser código, adn.

Estos modelos generativos existen en la inteligencia artificial desde hace décadas, la parte revolucionaria es que nunca antes habían tenido un nivel de competencia tan bueno como el que tienen ahora que, en muchos casos, es superior al de los humanos. Desde ese punto de vista, nos están sorprendiendo e impactando a todos los humanos, tanto a expertos en Inteligencia Artificial como a ciudadanos y ciudadanas que no tengan nada que ver con la IA. Hay algo mágico detrás de un ordenador que puede generar contenido que hasta ahora en la Historia solo los humanos habíamos sido capaces de generar. Es algo que no sólo no deja de sorprendernos e impactarnos, pero que también nos debe hacer reflexionar.

J.C.F.G.: ¿Hemos avanzado más en los últimos años en IA que en las últimas décadas, o es que ahora tenemos más fácil las personas el acceso a la misma?

Oliver: Sí, por una parte, está la escalabilidad en el acceso, y por otra, el nivel de competencia. Lo que no habíamos conseguido nunca antes con este tipo de modelos generativos y sistemas conversacionales es el nivel de competencia que tienen los sistemas actuales.

"No tenemos ninguna garantía de que lo que están generando sea veraz"

Pero hay que ser muy conscientes de que estos sistemas (como ChatGPT) no son entrenados con un criterio explícito de veracidad. No tienen ningún tipo de entendimiento de si lo que están diciendo es correcto o no, si es veraz o no, por muy creíble que sea o muy bien expresado que esté. Y por eso es muy peligroso utilizarlos sin chequear absolutamente todo lo que producen/generan. No tenemos ninguna garantía de que lo que están generando sea veraz. También tenemos que entender que muchas veces estos sistemas replican y exacerban patrones de discriminación y sesgos que existen en la sociedad, ya que aprenden con todos los datos con los que han sido entrenados. Por ello, se agregan (o deberían agregarse) una serie de capas por encima del gran modelo del lenguaje que sería esta gran red neuronal profunda que son capaces de filtrar/evitar que este chatbot sea racista, xenófobo, sexista, nazi y todos los atributos negativos que podamos imaginarnos, porque, en realidad, lo es. Y esa es una de las áreas que estamos investigando en ELLIS Alicante: cómo tener garantías de no discriminación, que se preserva la privacidad, o cómo tener transparencia en este tipo de sistemas que son extremadamente complejos.

GigaChat no es un meme, es el nuevo chatbot de origen ruso

Leer más

J.C.F.G.: Todos los días, ahora, hay titulares sensacionalistas o estrambóticos que avisan de los peligros o las amenazas de la IA. ¿Deben pararse los desarrollos actuales y futuros sobre la IA, como hay algunos científicos y no científicos que ya lo están pidiendo?

Oliver: Yo creo que es muy importante entender el contexto en el que se hacen este tipo de afirmaciones y no dejarnos distraer. El manifiesto o la carta que en parte ha sido el detonante para todo este tipo de afirmaciones fue propugnado por The Future of Live Institute, que pertenece a un movimiento (religioso) largoplacista que en lo que cree y por lo que lucha, y en ese contexto es en el que hay que entender esta carta, es en que el futuro de la humanidad es tener trillones de humanos digitales viviendo en una gran simulación, conquistando el Cosmos y conviviendo amigablemente con una superinteligencia. Eso es en lo que ellos creen. Y dentro de esa visión, cualquier reto que puedan considerar que representa una amenaza existencial para poder realizar esa misión es lo que les preocupa.

Se trata, lógicamente, de una visión controvertida y que muchos no compartimos, incluyéndome a mí misma. Solamente en el contexto de considerar que quizás si conseguimos tener lo que se conoce como inteligencia artificial general podamos tener ese riesgo existencial, es por lo que consideran publicar estas carta o manifiesto, que como he dicho tiene afirmaciones con las que todo el mundo debería estar de acuerdo. Por ejemplo, tenemos que asegurarnos que el impacto no va a ser negativo en la Sociedad, pero hay muchos elementos en la carta que son altamente cuestionables. Decir que no deberían hacerse sistemas más potentes que GPT4 cuando no sabemos cómo de potente es GPT4, ni se comprometen a asegurarse de tener la transparencia para poder determinar qué es más potente que GPT4. O decir que, en seis meses, de alguna manera, los desarrolladores mágicamente hablando con los reguladores van a encontrar la solución a este reto cuando en Europa llevamos más de dos años trabajando en la regulación europea de Inteligencia Artificial, el AI Act, y todavía no ha sido aprobada y no está en vigor.

Realmente es insultante que propongan que en seis meses este reto se pueda solucionar. Y al mismo tiempo la carta/manifiesto omite los retos reales, inminentes, en los humanos de carne y hueso de hoy en día, no en los trillones de humanos que van a estar en una simulación en no se sabe cuántos años. Pero los retos de hoy en día de la IA como son la violación de la privacidad, algo que está siendo investigado por las agencias de protección de datos de varios países y es lo que ha dado que se prohíba ChatGPT en Italia, por ejemplo; o la falta de transparencia en poder determinar qué datos se han utilizado para entrenarlo; el uso de cantidades masivas de datos sin consentimiento expreso; la explotación a los trabajadores, la mayoría de ellos en países en desarrollo que anotan, entrenan y corrigen la mayoría de estos sistemas de Inteligencia Artificial realmente explotados con sueldos ínfimos. La carta/manifiesto no habla de la discriminación y los sesgos algorítmicos, que no sólo perpetúan sino que exacerban muchas de las estructuras de opresión que tenemos hoy en día. No habla tampoco de la ingente huella de carbono que tienen estos sistemas. No habla de la manipulación subliminal del comportamiento humano. No habla de la falta de veracidad y robustez. No habla de la concentración de poder masiva en las manos de un oligopolio de empresas... En cierto sentido es una distracción, porque nos están distrayendo con una hipotética situación apocalíptica de una Inteligencia Artificial General que ni estamos cerca de tenerla ni sabemos si algún día la tendremos, y nos desvían de los problemas de hoy en día. Muchos de estos problemas generados por los firmantes de la carta, derivados de una IA especifica que la Inteligencia Artificial que hay hoy en día y que tiene muchos retos y problemas que hay que abordar y que no tiene que ver con que sea más o menos potente que ChatGPT 4.

La quema de ChatGPT o el nuevo Índice

Leer más

También la carta tiene una visión de un determinismo tecnológico que tampoco comparto. Se habla de una carrera de la IA que ¿quién ha decidido? No la hemos decidido/consensuado colectivamente. Se están realizando ahora mismo inmensos experimentos sociales sin ningún tipo de regulación. Y la carta habla de que nos adaptemos a esa IA, cuando la realidad o visión sería que la Inteligencia Artificial se adapte a nosotros, porque somos nosotros la que la estamos inventando.

¿Te ha parecido interesante esta noticia?    Si (0)    No(0)

+
0 comentarios