Un observatorio para promover un enfoque humano y ético sobre diversidad y movilidad en la Inteligencia Artifical

Un Observatorio y Think Tank especializado en las implicaciones éticas de la inteligencia artificial (IA) y su relación con la sociedad en cuanto a las cuestiones de diversidad. Este es el proyecto que lanzan la Universitat Politècnica de València (UPV) y la ingeniería y consultoría Ineco.

Según señalan sus impulsores este observatorio prestará especial atención “a identificar patrones y desigualdades relativos a la movilidad y la diversidad; concienciar y sensibilizar sobre posibles barreras; así como incorporar reflexiones hacia una movilidad inclusiva”.

El Observatorio se desarrolla bajo la premisa de que la IA “no solo debe ser una herramienta eficiente, sino también una fuerza positiva que beneficie a toda la humanidad, reduciendo los riesgos que puedan derivarse de su uso”. El observatorio actuará como un centro de estudio y análisis, reuniendo a expertos en ética, tecnología, economía, derecho, sociología y otras disciplinas relevantes para explorar las complejas interacciones entre la IA y la sociedad. 

Los aspectos sobre los que se articulará el estudio del proyecto son el sesgo algorítmico, privacidad y protección de datos, responsabilidad corporativa, ética en la toma de decisiones autónomas, interacción humano-IA, ética en investigación y desarrollo de IA y gobernanza y regulación.

La constitución de este Observatorio y Think Tank se ha formalizado esta semana con la firma de un convenio de colaboración entre Sergio Vázquez, presidente de Ineco; José Capilla, rector de la UPV; y Nuria Lloret, catedrática de la UPV y directora del Observatorio.

En palabras del presidente de Ineco: “este convenio no solo es muestra del valor que para Ineco tiene el conocimiento que aportan las universidades públicas españolas sino también de nuestro compromiso con el desarrollo de una tecnología con alma”.

El rector de la UPV ha señalado durante el mismo que la IA “es algo que ha llegado y nos va a facilitar la vida. No debemos tenerle ningún temor, lo que tenemos que hacer es incorporarla. Pero sabemos que los modelos generativos tienen sus sesgos y que hay que solucionar esos problemas. En ese sentido, bienvenido sea un Observatorio como el que hoy presentamos, que va a velar por la calidad del uso de la IA evitando problemas de discriminación y favoreciendo la igualdad y la diversidad”.

Por su parte Nuria Lloret, subdirectora del Instituto de Investigación de Diseño y Fabricación (IDF), ha indicado que, si bien el avance y la expansión de la IA han revolucionado la sociedad en múltiples aspectos, desde la automatización de tareas hasta la toma de decisiones en áreas cruciales como la medicina, la educación, las finanzas o la ciberseguridad, “este progreso tecnológico también plantea desafíos éticos y sociales que deben abordarse de manera exhaustiva. Por ello nace este Observatorio”, ha destacado.

Lloret, elegida para el Observatorio, es referencia internacional en el ámbito de la diversidad en los entornos académicos y empresariales, además de una reconocida experta en la mentorización de mujeres jóvenes hacia los estudios STEAM. No en vano, la catedrática de la UPV ha sido profesora invitada de la New York University y del Tecnológico de Monterrey, ha dirigido más de 50 proyectos de investigación a niveles nacional y europeo, y es la fundadora de la plataforma 'Atenea: Women in Art and Stem' y miembro de la plataforma de Estudios de Genero de la Universidades Españolas.

Entidades participantes

El Observatorio en Inteligencia Artificial y Diversidad cuenta con la Asociación de Mujeres Empresarias y Profesionales (EVAP), Woman in AI y la Fundación Diversidad como entidades colaboradoras especializadas en diversidad. También participarán la red de mujeres mINerva y la red de diversidad IRIS, ambas nacidas en Ineco.

Estas entidades testearán las herramientas de IA en una primera fase “sin conocimiento” y, posteriormente, realizarán una formación para desarrollar la segunda parte del testeo. Los datos recopilados serán analizados para realizar comparativas de uso “con y sin conocimiento en materia de inteligencia artificial”.