¿Regular o innovar? Expertos en IA apuestan por gobernarla para que trabaje al servicio de las personas

¿Cuáles son las implicaciones éticas de la Inteligencia Artificial? ¿Cómo definimos un uso responsable de ella? ¿Qué límites tiene su aplicación en medicina o políticas laborales? ¿Y los riesgos y oportunidades que representa? elDiario.es ha convocado este jueves a numerosos expertos para responder a estas y otras cuestiones en la ‘Jornada de Inteligencia Artificial: impacto, desafíos y tendencias’, un evento que ha sido inaugurado por Jordi Hereu, ministro de Industria y Turismo del Gobierno de España.

A lo largo de la mañana se han celebrado varias mesas de debate en las que los expertos, profesionales del sector y líderes de opinión para abordar, en palabras del director de elDiario.es, Ignacio Escolar, “uno de los temas que más cambios va a suponer en nuestra sociedad, nuestra economía, nuestro trabajo y todos los ámbitos de la vida”.

Las diferentes mesas de debate han tratado temas como la nueva ley europea sobre IA, su impacto en sectores estratégicos como la movilidad o las innovaciones más punteras en el campo de la medicina. “Nos vemos inmersos en una nueva revolución”, ha afirmado Hereu, ministro de Industria y Turismo, durante su discurso de inauguración de esta jornada sobre IA, que ha definido como la quinta revolución tecnológica.

La IA, según el ministro, “da un salto muy por encima de lo que era el impacto de Internet y presenta oportunidades desconocidas hasta ahora, pero también tenemos que ser conscientes de los desafíos”. Retos, según los expertos, que pasan desde la regulación de esta nueva tecnología hasta garantizar que su desarrollo no aumente la desigualdad y que sus beneficios lleguen a todos los ciudadanos.

En pleno debate a nivel mundial sobre la IA y cómo encontrar el equilibrio entre su regulación y la flexibilidad que requiere la innovación tecnológica, Hereu ha defendido que “el progreso y la innovación vayan de la mano de la ética, la responsabilidad y la protección de los derechos”. Según el ministro, ese balance debe lograrse gobernando la IA: “es imprescindible gobernar este proceso, establecer reglas”, ha dicho Hereu, “es una revolución imparable pero tenemos que abordarla de la mejor manera posible: gobernarla protegiendo los derechos y el interés general”.

El ministro ha defendido además que quiere una industria “fuerte” gracias a estos avances tecnológicos, pero considera imprescindible que “redunde en un mayor bienestar para nuestra ciudadanía”. El debate, según Hereu, va más allá de la regulación, y por ello ha asegurado que “me preocupa la inteligencia colectiva, la idea de no dejar a nadie atrás, cómo repartimos los beneficios del incremento de los beneficios que tenemos”.

Manuel de la Rocha, Secretario de Estado de Asuntos Económicos y G-20 de Presidencia del Gobierno, ha reiterado en la clausura de estas jornadas la voluntad del Ejecutivo de Pedro Sánchez para que “España juegue un papel relevante a nivel global” en el desarrollo y regulación de la IA. De la Rocha ha recordado que el primer paso de ese liderazgo ha sido la aprobación del marco regulatorio durante la presidencia española del Consejo de la UE. El segundo ha sido el reciente anuncio de la creación de un modelo de lenguaje de inteligencia artificial en castellano y en las lenguas cooficiales del Estado.

Dentro de nuestro país, De la Rocha ha explicado que el Gobierno quiere dar ejemplo con el uso de la IA para dotar al sistema público “de las mejores herramientas”, para mejorar “la interacción con la ciudadanía en el ámbito de la salud y los procesos administrativos” y crear así “un efecto tractor que arrastre al resto de la economía”.

En este sentido, Ignacio de los Ríos, el Subdirector General de Inteligencia Artificial y Tecnologías Habilitadoras Digitales del Ministerio para la Transformación Digital, ha coincidido en que es “muy importante” el paso dado por la UE al crear un reglamento común para estas tecnologías. “Se trata de que lo que mañana va a estar en contacto con nosotros, nos aseguremos que toma decisiones justas que no están sesgadas”, ha explicado De los Ríos, para que si hay errores en su desarrollo, pueda haber un agente “humano” que las haga retroceder.

Los errores de la IA: ¿Es un martillo o un secador?

Uno de esos errores, como ha planteado el moderador y redactor de elDiario.es, Carlos del Castillo, ocurre cuando la IA nace con sesgos de género: por qué interpreta la imagen de un hombre con un martillo como eso, un hombre con un martillo, pero si el personaje es una mujer, interpreta que tiene en la mano un secador.

Nerea Luis Mingueza, Doctora en ciencias de la computación y directora de IA en Sngular, ha explicado que todavía estamos frente a un área de conocimiento “en plena evolución” y que pensamos que “la tecnología tiene que ser obligatoriamente neutra”, pero todavía es necesario crear esos sistemas que corrijan sus errores. “Tendremos que ir aprendiendo a mitigarlos sobre la marcha y ahí es donde entra ese punto tan importante de la regulación”, ha defendido la experta. 

Una de las grandes empresas detrás del desarrollo de la IA es Google, cuyo buscador emplea estos sistemas desde hace dos décadas. “Regular o innovar, ese es el debate”, ha defendido Mapi García Almajano, Field sales representative de la compañía estadounidense. “En Google queremos que se regule esto”, ha dicho Almajano. Según la experta, “posiblemente estemos en una era en la que vamos a pelear para ver quién tiene la IA más potente, pero no creo que vayamos a tener una única”.

Y esa es otra de las realidades que añaden aún más retos a la regulación de este sector: cómo impedir que los intereses económicos de su desarrollo se interpongan a valores éticos. Javier Camacho, Vicedecano del área de empresa y Business Analytics de la Universidad Europea, apuesta por la visión humanista de la tecnología para ordenarla. Camacho defiende que hay algo que defiende a las personas de cualquier otro sistema: la libertad, la voluntad y la consciencia. “Esto nos hace responsables de nuestras acciones”, ha dicho el experto. “Si las decisiones que tomemos están basadas en esos criterios” a la hora de regular la IA, “estaremos en el buen camino”. 

¿Podremos fiarnos algún día de una aplicación que prediga si una persona está empezando a sufrir depresión? ¿O de una IA que detecte una insuficiencia cardíaca con 15 días de antelación? Juan Fernando Muñoz, Secretario general de Salud Digital, Información e Innovación del Sistema Nacional de Salud del Ministerio de Sanidad, ha explicado que la clave “es tener los datos y después podremos llegar a tener las predicciones correctas”. 

Esos datos, han reconocido los expertos, están en todas partes: en las búsquedas que hacemos en Internet, en nuestros hábitos de consumo, en lo que publicamos en las redes sociales, en datos de movilidad y también en los datos clínicos que manejan los profesionales. Uno de los miedos que esta realidad inspira, como ha planteado la subdirectora de elDiario.es Natalia Chientaroli, es la deshumanización de la atención médica, por un lado, y la posibilidad de que los pacientes acudan al médico con  un autodiagnóstico. 

“Apartaremos la pantalla y recuperaremos el cara a cara” con los médicos

“Nada deshumaniza más que no tener tiempo para atender a tu paciente”, ha defendido María Luaces, Directora de la Unidad de Innovación-IdISSC del Hospital Clínico San Carlos. “No creo que haya que tener miedo, apartaremos la pantalla y recuperaremos el cara a cara”, ha dicho Luaces, cardióloga de profesión, tras defender que una de las aplicaciones de la IA es precisamente el apoyo a los profesionales médicos en materia de diagnóstico, por ejemplo, para aumentar los recursos que se pueden emplear en el tratamiento de pacientes.

César Velasco, Director de Innovación y Estrategia Digital de AstraZeneca España, ha planteado que la IA “va más allá de la capacidad de hacer predicciones” y que ya ha entrado en una fase en la que desarrolla proyectos “con impacto en el sistema sanitario”. Uno de esos impactos, por ejemplo, es que deje de ser necesario hacer un implante a un paciente de cardiología porque los cambios en su tono de voz ya dan información sobre cambios en su estado de salud que puede interpretar un sistema de IA. 

A una escala todavía mayor, esa capacidad de predicción podría ayudar a que instituciones y sistemas sanitarios se adelanten a una pandemia como la de Covid-19. “Somos capaces de procesar datos de una forma muy rápida y relacionarlo con apuntes que hacen las personas en redes sociales y predecir patrones de comportamiento”, ha reconocido Antonio Herrero, Director de IA y Big Data Analytics de Quirónsalud. Y una de las consecuencias de esto, afirma, es desde “prever posibles focos o enfermedades epidemiológicas y poder intervenir de forma más precisa” hasta quitar carga administrativa a los centros de atención.

Ese reemplazo de los profesionales por sistemas informáticos ha suscitado miedo a la IA como ocurrió antes con otros avances tecnológicos. Sin embargo, “no se trata de sustituir a los funcionarios sino de darles herramientas de acompañamiento”, según ha defendido José Luis Escrivá, ministro de Transformación Digital y Función Pública y de la Función Pública en declaraciones al director de elDiario.es Ignacio Escolar. Escrivá considera que la oportunidad está en “eliminar muchos trabajos repetitivos y rutinarios que los pueden hacer las máquinas” para que así los profesionales tengan “instrumentos que ayuden a ser más ágiles y rápidos en la respuesta a los ciudadanos”.

Parte de esa oportunidad radica también en centralizar ese desarrollo como pretende hacer España. Escrivá ha defendido que hay que trabajar con las multinacionales líderes del sector. Pero, como destacó anteriormente el ministro Hereu con respecto al potencial del Barcelona Supercomputing Center y el liderazgo en el modelo de IA en lenguaje en español, “tenemos que desarrollar capacidades nacionales específicas y europeas potentes para tener esa autonomía”.

El “mundo soñado” de la movilidad sostenible y asequible gracias a la IA

David Barrientos, Manager de Comunicación de Nissan, ha propuesto que ese desarrollo llegue precisamente a través de la colaboración entre el sector público y privado. “La tecnología ya está preparada”, ha dicho Barrientos. El coche del futuro, que ha descrito como “autónomo, eléctrico y conectado”, avanza a mayor velocidad que las infraestructuras: mientras que Japón cuenta con carreteras donde el vehículo eléctrico carga sus baterías por inducción, los expertos apuntan a un déficit millonario en las infraestructuras españolas. 

“No somos muy conscientes de lo importante que es que las carreteras no estén en mal estado de conservación”, ha explicado Elena de la Peña, Subdirectora general técnica de la Asociación Española de la Carretera. “Necesitamos que se apoye a la industria para que sea líder pero sin olvidarse de la infraestructura”, ha dicho De la Peña, que también aboga por la digitalización como herramienta para resolver el reto de la seguridad y la sostenibilidad, con mejores carreteras y menos contaminantes. 

“Cuando pensamos en la movilidad del futuro, pensamos solo en el vehículo por carretera, pero la movilidad no se queda ahí, entran otros elementos: caminar, usar la bicicleta, el transporte público o el ferrocarril”, ha denunciado Javier de las Heras Molina, Vocal Asesor en la Secretaría General de Transportes Terrestres del Ministerio de Transportes y Movilidad Sostenible. De las Heras, sin embargo, también ha reconocido que aunque la carretera “no es sexy porque se ve como un elemento contaminante”, todavía cumple con un requisito fundamental de la movilidad: “llega a la última vivienda, fábrica, colegio o residencia de la tercera edad”. 

“Todos esos lugares se tienen que beneficiar porque si no, nos vamos a encontrar con un embudo al salir de la autopista”, ha reconocido Ángela Ribeiro, Investigadora del Centro de Automática y Robótica del CSIC. Ribeiro ha explicado que este organismo trabaja en un “sueño”, que es el reparto horizontal de una movilidad que llegue a todos los ciudadanos. Pero para ello ha reconocido que es necesario analizar más datos y encontrar más patrones de los que es capaz la mente humana. “A ese mundo soñado solo se llega con la IA”, ha zanjado Ribeiro.

Cómo educar a los futuros usuarios y creadores de la IA

Y con los profesionales del futuro. Han sido precisamente los expertos del sector de la educación los que han alertado de que “estamos todavía al principio del camino”, en palabras de Julio Albalad, el director del Instituto Nacional de Tecnologías y de Formación del Profesorado (INTEF) del Ministerio de Educación, Formación Profesional y Deportes. El desafío del sector, asegura Albalad, es educar a los estudiantes actuales para ser tanto “futuros usuarios como creadores de la IA”. 

Pilar Bernat, profesora especializada en Tecnologías de la Información, Telecomunicaciones e Inteligencia Artificial, ha recordado que el estallido del interés en la IA se ha producido porque ha despegado la IA generativa, la capaz de crear textos e imágenes, “pero los entornos de IA que solventan y automatizan rutinas existen desde hace mucho tiempo”, por lo que ha apostado por centrar la atención de este debate más allá de los alumnos que puedan utilizar esa IA para generar textos e imágenes: en los profesores que les van a enseñar. 

El debate ha dejado un ejemplo del impacto de las herramientas con las que tomarán decisiones los futuros profesionales, como es el uso de la IA para leer más de 50.000 comentarios de una encuesta elaborada por Securitas Direct para consultar a sus empleados. “Antes sólo podíamos leer 5.000”, ha reconocido Álvaro Vázquez, Director de Gestión de Personas de Securitas Direct para Iberia, Italia y América Latina. Ahora han podido obtener conclusiones gracias a los patrones de respuesta detectados por una herramienta hecha con chat GPT. 

Expertos como Daniel Burgos, Vicerrector de Proyectos Internacionales y Director del Instituto de Investigación, Innovación y Tecnologías Educativas de UNIR iTED, piden sin embargo cautela y tratar la IA como una herramienta más, por muy innovadora que resulte. “Vemos mucho cambio porque el potencial es muy grande”, ha dicho Burgos, “pero no deja de ser una herramienta adicional dentro de una estructura más grande y centrada en las personas. Es muy pronto para decir”.