Usue Mori, experta en IA: “Debemos ser conscientes de que la información que aportemos a la IA va a ser utilizada”

Usue Mori es licenciada en Matemáticas, doctora en Ingeniería Informática y ha cursado varios másteres, entre ellos en modelización matemática, sistemas inteligentes y docencia. Desde el 2015 es profesora universitaria, actualmente profesora agregada en el Departamento de Ciencias de la Computación e Inteligencia Artificial de la Universidad del País Vasco (EHU) y, desde septiembre de 2024, coordinadora del Grado en Inteligencia Artificial.

Más allá de su carrera académica destacada, Mori ha hecho una apuesta por ir más allá de la investigación tradicional y adaptar la inteligencia artificial a las necesidades reales de la sociedad y llevar el conocimiento a la práctica. Por ello, ha sido la ganadora del V Premio Gladys a la tecnóloga, galardón que busca reconocer a jóvenes mujeres vascoparlantes en el ámbito digital, crear referentes para la juventud y visibilizar su labor, al tiempo que recuerda a la informática Gladys del Estal. Se trata de una iniciativa impulsada por la Fundación PUNTUEUS y la Facultad de Informática de la EHU y cuenta con el patrocinio principal de la Diputación Foral de Gipuzkoa y con la colaboración de Emakunde, Danobatgroup, Fundación Euskaltel, EITB y la Dirección de Igualdad de la EHU.

¿Cómo surge su interés en las Matemáticas o la Inteligencia Artificial?

En Bachillerato. Tenía muy claro que iba a ir por Ciencias y, poco a poco fui descartando opciones. No fue una elección muy consciente, sino más bien fue por descarte. Destarté Biología, Química, y me fui quedando con las más teóricas, hasta que decidí estudiar Matemáticas. Cuando acabé la carrera me decanté por la Matemática aplicada, por la aplicación en el mundo real y el análisis de datos. Así, poco a poco me fui metiendo en el ámbito de la computación y acabé donde estoy ahora.

¿Cómo se pueden aplicar las Matemáticas y la Inteligencia Artificial a la vida real?

Se pueden aplicar en todos los ámbitos en los que haya datos. En mi caso, que trabajo con Inteligencia Artificial, son sistemas que se alimentan con datos. Si nos ponemos a pensar, en casi todos los ámbitos en los que nos movemos en el día a día se generan datos de distinto tipo. Un ejemplo muy típico es el del ámbito de la salud, donde se generan imágenes médicas y datos de monitorizaciones de pacientes, un montón de datos sobre distintas enfermedades, sobre pacientes, etc. Esos datos se pueden tratar con Inteligencia Artificial y se pueden aprender patrones, hacer predicciones de diagnosis, de enfermedades, etc. La salud es uno de los ejemplos más claros, pero se pueden aplicar en muchos más.

Recientemente, ha recibido el Premio Gladys que busca reconocer a jóvenes mujeres vascoparlantes en el ámbito digital, crear referentes para la juventud y visibilizar su labor. Al otorgárselo, el jurado ha explicado que en su trayectoria “se ha alejado del modelo de investigación élite actual y ha priorizado el uso de la inteligencia artificial como herramienta para el beneficio social y su transferencia”. ¿De qué manera lo ha hecho?

Hasta hace un par de años yo seguía la trayectoria típica que tiene una persona que trabaja en la Universidad. Una trayectoria como muy académica, con una investigación bastante aplicada pero a la vez muy académica. No hacía mucha transferencia. Hace cuatro años empezamos a colaborar con la Diputación Foral de Gipuzkoa en varios proyectos más reales relacionados con datos sobre todo de políticas sociales. Y entonces ahí empecé a tratar temas y datos más reales y empecé a interesarme más en la transparencia y la divulgación. He participado en proyectos de formación y reflexión sobre cómo es la IA que existe a día de hoy y cómo queremos que sea o cómo podemos enseñarle a la sociedad lo que es la IA para que entre todos podamos tener una discusión un poco más formada acerca del tema. Yo creo que eso es lo que quería decir al jurado, que al final sigo teniendo mi trayectoria académica, sigo investigando en IA como antes, pero he abierto otra vía en la que hago cosas que están más cerca de la gente, cuestiones más cotidianas.

Unas de las críticas más frecuentes cuando hablamos de Inteligencia Artificial son los sesgos de género o racistas que tiene su tecnología. ¿Cómo se pueden evitar?

Ese es un campo de investigación muy importante. Al final, los modelos de inteligencia artificial aprenden de los datos y eso ocurre por varias razones, ya sea porque los datos están sesgados o porque los algoritmos también tienden a exagerar los sesgos que pueda haber en los datos. Efectivamente, los algoritmos tienen sesgos de género, de raza y de cualquier sesgo que exista en la sociedad. Es algo que los modelos al final lo replican porque los modelos están diseñados para hacer el mínimo número de errores, para acertar lo más posible. Por ejemplo, si una base de datos de imágenes tiene pocas personas negras, las métricas te van a salir relacionadas con personas blancas, y aunque funcione no es correcto. Entonces, hay muchos investigadores trabajando en cómo hacer que los modelos sean más justos, definiendo métricas distintas, es un campo en desarrollo.

¿Cuáles considera que son los peligros que tiene la Inteligencia Artificial?

Uno de los peligros principales es el medioambiental. Está comprobado que los modelos grandes que se utilizan consumen mucha energía para poder entrenarlos y ponerlos en uso. Ese es uno de los riesgos más evidentes, pero luego también hay otros riesgos en el uso, sobre todo cuando se usa la IA para cosas que no tienen sentido. Muchas veces la gente desconoce o no entiende muy bien cómo funcionan estos sistemas y al final por el tipo de interfaz que tienen que parece que estás hablando con una persona y se utilizan para cosas que no se deberían. Por eso nosotros insistimos mucho y nos parece muy importante que la gente entienda cómo funcionan estos sistemas para saber para qué pueden ser utilizados y para qué no tiene ningún sentido utilizarlos. Luego también es importante hablar sobre la privacidad de los datos, donde también hay riesgos. Al final la mayoría de los sistemas que están disponibles para todo el mundo porque los dueños o los creadores de esos sistemas son las grandes tecnológicas y hay una opacidad tras estos sistemas, pues no conocemos exactamente con qué datos los han entrenado. No sabemos exactamente cómo es el modelo. Esos modelos se alimentan de datos, se retroalimentan con datos que introducimos nosotros cuando interactuamos con esos sistemas y al final eso les da mucho poder a esas empresas, a las tecnológicas y no sabemos para qué van a utilizar nuestra información. Es importante ser conscientes que los datos que aportamos cuando interactuamos con esos sistemas y la información que introducimos se van a utilizar.

En una entrevista a otro medio de comunicación ha destacado que “hay otros perfiles tecnológicos más allá del hombre blanco y rico”. ¿Cuesta mucho más dedicarse a la tecnología con otro perfil que no sea ese?

Depende. No me gusta mucho generalizar, cada persona tiene una trayectoria muy distinta y, sobre todo la gente que te rodea hace que sea más o menos difícil. En el caso de las mujeres, pues sí que es verdad que hay pocos referentes y que en general el entorno está bastante masculinizado. En ese sentido, las personas que tienes alrededor pueden dificultarte la vida o hacer que no te sientas a gusto. En mi caso, he tenido una trayectoria bastante buena, con mis momentos y mis cosas, pero en general me he rodeado de gente que me ha cuidado y que me ha ayudado a tener una buena trayectoria, pero sé que no todo el mundo vive la misma situación que yo.

¿Considera que estas aplicaciones más sociales de la tecnología pueden abrir, sobre todo en las nuevas generaciones de mujeres, un interés extra para dedicarse a ello?

Me encantaría que fuera así, la verdad. En nuestra facultad es verdad que la mayoría de los estudiantes tienen una visión muy técnica y muchas veces nos desentendemos o no pensamos en el aspecto más social que tienen las tecnologías que creamos y, por eso, uno de los objetivos que tenemos también es eso, formar no solo a la gente de la sociedad, sino también a nuestros alumnos. Creemos que es importante que no vean solamente la parte técnica, porque al final la tecnología no es neutra y es importante también ver otros aspectos. La idea a futuro es ir introduciendo asignaturas que analicen la Inteligencia Artificial desde un prisma un poco más amplio que solo la parte técnica. Estamos ya en ello y lo queremos trabajar.