La expansión de la inteligencia artificial (IA) está transformando el mundo, pero sus costuras y su gobierno siguen generando zozobra. Manuel Muñiz, rector de IE University y presidente de IE New York College, ha alertado este martes durante su intervención en el World in Progress (WIP), el foro internacional organizado por el Grupo PRISA, de la falta de mecanismos de control y regulación de los modelos de IA. “La capacidad de estas herramientas, su complejidad y su capacidad para producir daños, es infinitamente superior a los marcos regulatorios y a la capacidad que tenemos de controlar su comportamiento”, ha advertido.
El politólogo alerta en el foro WIP de la falta de mecanismos de control de los modelos de inteligencia artificial y augura nuevos “accidentes en el gobierno de estas herramientas”
La expansión de la inteligencia artificial (IA) está transformando el mundo, pero sus costuras y su gobierno siguen generando zozobra. Manuel Muñiz, rector de IE University y presidente de IE New York College, ha alertado este martes durante su intervención en el World in Progress (WIP), el foro internacional organizado por el Grupo PRISA, de la falta de mecanismos de control y regulación de los modelos de IA. “La capacidad de estas herramientas, su complejidad y su capacidad para producir daños, es infinitamente superior a los marcos regulatorios y a la capacidad que tenemos de controlar su comportamiento”, ha advertido.
El politólogo ha trazado una radiografía sobre el potencial de los modelos de IA y ha recordado que estas herramientas ya baten a los humanos en un puñado de funciones cognitivas, como comprensión verbal escritura o matemáticas: “Y la idea es que esto prosiga, que vaya acelerando. Vamos a tener modelos que seguirán superando capacidades humanas en la práctica totalidad de capacidades cognitivas”, ha indicado.
Ese perfeccionamiento de sus habilidades, no obstante, tiene también una cara B, que tiene que ver con el comportamiento indebido y los problemas de alineamiento que han empezado a revelar esas herramientas. “No se comportan como querríamos que se comportaran”, ha indicado sucintamente antes de recordar el ataque de un modelo de IA contra Hugging Face, otra plataforma de inteligencia artificial. En ese caso, los creadores de ChatGPT probaban sus nuevos modelos asignándole una misión compleja en un entorno aislado, pero la máquina supo salir por su cuenta, escapar del entorno cerrado y atacar Hugging Face porque creyó que era el lugar más probable donde encontrar una solución a la misión.
Muñiz también ha calificado de “anómala” la estructura de poder de estas herramientas, casi totalmente en manos privadas, y ha insistido en que, en este contexto, “los entes reguladores y gobiernos van claramente por detrás”. “Estoy convencido de que nos enfrentaremos a una serie de accidentes en el gobierno de estas herramientas. Habrá algo en el sistema eléctrico, en el financiero y bancario… Y entonces, reaccionaremos e impondremos mecanismos de regulación y supervisión sobre estas herramientas”. El experto ve poco probable un acuerdo de los regulares para adelantarse y actuar preventivamente contra los potenciales desmanes de la IA. No hay “inquietud ni consenso” en los despachos responsables para anticiparse, ha lamentado: “El incidente de Hugging Face ya pide mayor regulación de este proceso de desarrollo y sin embargo, la respuesta de la administración estadounidense fue que eso no era necesario.
El rector de IE University también asume que la IA alimentará la convulsión del espacio económico y del orden mundial porque, si bien abre grandes oportunidades, también plantea “inmesos retos a nivel distributivo”, ha valorado. Y pone contexto: según el experto, hay una tendencia estructural en las economías avanzadas a una caída sostenida de la proporción de renta nacional que va a rentas del trabajo y un aumento que va rentas de capital: “Hemos conseguido ganar en productividad y generar rentas sin emplear a más gente. El volumen que va a salarios está cayendo y esto es una consecuencia directa de la transformación tecnológica”, ha sostenido.
“La paradoja de la abundancia”
En este contexto, Muñiz cree que la IA “va a acelerar la tendencia, va a permitir concentración mayor de rentas en capital porque va a permitir construir empresas altamente productivas sin generar grandes volúmenes de empleo”. “Esto va a profundizar en la paradoja de la abundancia: vivimos en sociedades abundantes y, sin embargo, con un nivel de fractura social muy palpable. Y mi intuición es que la IA va a exacerbar este problema porque va a generar grandísimas ganancias de productividad arriba y nos va a seguir planteando un problema distributivo. Esto es un problema de fractura de nuestro contrato social. El corazón de la convulsión de la sociedad está en el papel distributivo de las rentas del trabajo”, ha reflexionado.
En ese camino que traza el experto desde el espectro tecnológico al económico y al político, ha alertado también de esa convulsión distributiva viene acompañada del vaciado del centro de nuestro centro político. “Esto lleva a los extremos y a una era de iliberalidad”, ha avisado, para subrayar a continuación que ya “está emergiendo una nueva clase social: el precariado”, llena de “pesimismo en el porvenir, antielitista, antiinstitucional y con una clara sensación de urgencia y necesidad de acción muy rápida”.
En este escenario, Muñiz ha asegurado que Europa tendrá que tomar decisiones en los próximos años para decidir su papel en las relaciones internacionales y con esta tecnología. “En este momento somos tomadores de tecnología. No sé si somos conscientes de la dependencia estratégica que puede generar para Europa. Europa debería ambicionar un modelo propio”, ha reivindicado.
Feed MRSS-S Noticias
