La irrupción de ChatGPT ha situado a la inteligencia artificial (IA) en el centro de la escena mundial. Con tantas aplicaciones como controversias por su capacidad para generar vídeos e imágenes que no se distinguen de las reales, las conocidas como ‘deepfakes’, el entusiasmo inicial con el que la sociedad había recibido esta tecnología se ha tornado en preocupación y miedo debido a su potencial para lanzar campañas de desinformación y apropiarse del trabajo de artistas o programadores.
Algunos de estos temores se deben, además, a la dificultad de comprender cómo estos sistemas basados en datos llegan a sus resultados. Se necesitan técnicas que permitan visualizar el interior de los sistemas de IA, identificando patrones que ayuden a descifrar cómo funciona su ‘caja negra’. Este es el objetivo del proyecto ‘EXPLAIN, chat.in.a.box’, que el grupo de Análisis y Visualización de Datos del Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS) presentará en la 30ª edición del festival Sónar, dentro del programa de Sónar+D, que se celebra en Barcelona entre el 15 y el 17 de junio.
Para intentar mostrar cómo funciona la IA desde dentro, el equipo del BSC dirigido por el investigador Fernando Cucchietti ha tomado al propio festival Sónar como referencia. Los científicos han recopilado letras de canciones de artistas que han actuado en las tres décadas de trayectoria del festival y las han introducido en GPT-4, la última versión del popular chatbot de OpenAI, con el fin de visualizar patrones en los datos y cruzarlos con otros artistas y ediciones del evento para descubrir su evolución a lo largo del tiempo.
“Nuestro objetivo es mostrar cómo funciona la IA desde dentro. Hemos cogido 30 años de canciones de Sónar y los hemos introducido en GPT-4 para analizar cómo este sistema ve el trabajo de los artistas. Abrimos así la caja negra de la IA para comprender mejor cómo capta patrones y tendencias en las letras de las canciones. Al explorar el resultado, podemos entender algo más sobre el funcionamiento de GPT-4, pero también sobre Sónar y los artistas que han actuado en su historia”, afirma Cucchietti.
Pese a su nombre, los sistemas de IA no son inteligentes; simplemente reproducen patrones estadísticos no basados en el conocimiento, sin representación alguna de narrativas o estados emocionales. Se trata de herramientas de gran potencia informática, con elevada capacidad de cálculo y acceso a una cantidad ingente de datos que, una vez que han detectado los patrones, pueden completar otros o generar variaciones sobre ellos.
“Por lo tanto, para entender un sistema de IA de este tipo hay que averiguar qué patrones ha encontrado y cómo los utiliza. Esto no es fácil porque los patrones están codificados como parámetros en una red enorme. La mejor manera de hacerlo es crear representaciones visuales de estos patrones para exponer las tendencias de los datos y ver cómo han cambiado con el tiempo”, añade Cucchietti.
Para el proyecto se han recopilado y analizado letras de unas 40.000 canciones de más de mil artistas, y se han identificado patrones distintos para los diferentes estilos musicales y líricos de muchos de ellos, su variación en el tiempo y la similitud o diferencias entre los artistas que han pasado por los escenarios del festival barcelonés.
Las representaciones visuales de esos patrones serán lo que podrán explorar los asistentes a Sónar+D, que en esta edición tiene precisamente como tema principal el impacto de la IA en las artes. Además del proyecto del grupo de Análisis y Visualización de Datos, el BSC también estará representado por el investigador Joan Llort, del departamento de Ciencias de la Tierra.
Llort, oceanógrafo implicado en proyectos de hibridación entre arte y ciencia, participará en Sónar+D para explicar su experiencia en procesos de co-creación con artistas para repensar observaciones oceanográficas desde un punto de vista estético y conceptual. Esta particular aproximación, entre la residencia artística y la comunicación científica, propone borrar las disciplinas para dar nuevas lecturas a datos científicos.
Derechos: Creative Commons.
Fuente: Agencia Sinc
