La Inteligencia Artificial que predice cuándo morirás pero que nadie sabe cómo: “Está viendo cosas que los humanos no ven”
Una Inteligencia Artificial (IA) desarrollada por varios investigadores estadounidenses ha conseguido predecir, usando 1,77 millones de electrocardiogramas (ECG) pertenecientes a 400.000 personas, quiénes tienen un mayor riesgo de morir de aquí a un año. Sin embargo, la forma en la que lo hace aún sigue siendo un misterio incluso para sus creadores.
Brandon Fornwalt es el director del laboratorio tecnológico de Imagen Cardíaca en Geisinger, una empresa de sanidad privada regional en EEUU y dirige el proyecto junto a otros compañeros. La red neuronal que ha desarrollado es capaz de anticipar, antes que los médicos, los patrones erráticos en los electrocardiogramas; por eso es buena prediciendo qué pacientes pueden morir de aquí a un año. Como son impulsos eléctricos en un tabla, la IA puede interpretarlo y descubrir datos ocultos que los profesionales no.
El objetivo final del proyecto era encargarle a una Inteligencia Artificial que analizase los resultados de los ECG para saber si esta era capaz de 'ver' o interpretar cosas que tradicionalmente los médicos de carne y hueso no detectan.
Interpretando patrones mejor que los médicos
En primer lugar, los investigadores prepararon dos modelos diferentes con los que alimentar a la IA: por un lado estaban los electrocardiogramas sin más datos que el de la señal eléctrica del corazón del paciente y, por otro, los mismos electrocardiogramas a los que se les añadió la edad y el sexo.
Las IAs que se desarrollan cada día en el mundo funcionan a partir de los datos: primero son entrenadas con la información básica y luego el proceso se repite de nuevo añadiéndoles más capas de datos. De esta forma, y a través del análisis de los patrones ocultos, las máquinas pueden sacar conclusiones o resultados más enriquecidos que los propios profesionales. A la vez esto supone un problema, porque a pesar de que las máquinas ofrezcan cada vez un mayor grado de sofisticación a la hora de analizar información, no sabemos cómo lo hacen. Es lo que comúnmente se conoce como la black box (o la caja negra) de la IA.
Fornwalt y su equipo midieron los resultados del entrenamiento del algoritmo con el índice AUC (Área Bajo la Curva). Esta métrica es común entre la comunidad científica (sobre todo en papers relacionados con IAs) porque indica cómo de bien el sistema es capaz de distinguir entre dos conjuntos de datos. En este caso, la máquina tenía que diferenciar entre personas muertas en menos de un año y personas vivas y lo hizo muy bien; sacando, de media, más de 0,85 puntos en los electrocardiogramas con los que se entrenó.
Para poner la cifra en contexto, una puntuación de 0,5 indica que la IA no es capaz de distinguir entre los dos grupos y una puntuación de 1 quiere decir que funciona de forma excelente. Pero aquí viene lo revelador, y es que mientras que todos los análisis de la máquina sacaron puntuaciones superiores a 0,85, los modelos que manejan los médicos para predecir el riesgo de muerte en los ECG oscilan entre el 0,65 y el 0,8 en la escala AUC. Sencillamente, la IA es mejor que los humanos prediciendo cuándo alguien morirá.
“Está viendo cosas que los humanos no ven”
Tras los resultados, tres cardiólogos revisaron por separado los electrocardiogramas considerados “normales” y que la máquina había etiquetado como peligrosos. Ninguno de ellos pudo detectar los patrones en los que la máquina se basó para calificar los ECGs como “de riesgo”.
“Ese hallazgo sugiere que el modelo está viendo cosas que los humanos probablemente no pueden ver, o al menos que simplemente ignoramos y pensamos que son normales”, dice Fornwalt a la publicación New Scientist. “La IA predijo con precisión el riesgo de muerte incluso en personas que los cardiólogos consideraban que tenían un ECG normal”, continúa.
Los resultados finales del proyecto serán presentados por Fornwalt y su equipo el día 16 de noviembre en las sesiones científicas que organiza Asociación Americana del Corazón en Dallas (EEUU).
