Los hospitales avanzan en el uso de la IA sin reglas comunes para proteger los datos de los pacientes

La inteligencia artificial en el ámbito sanitario debe ser como un copiloto. “Todo lo que se genere con inteligencia artificial tiene que llevar detrás la supervisión humana. Está muy bien tener un copiloto, pero la responsabilidad legal al final es del profesional sanitario. Y en Sanidad no podemos permitirnos el más mínimo error”, explica Carlos Espejo, enfermero con máster en IA.

Espejo ha sido uno de los ponentes del I Congreso Internacional de Enfermería y Fisioterapia, que el Sindicato de Enfermería SATSE ha organizado en Toledo esta semana para analizar el presente y el futuro de un sector en el que cada vez cobra más importancia la digitalización.

El enfermero impartió un taller para utilizar la IA -en concreto, Gemini Notebook- como asistente para poder utilizarlo en su servicio para dar recursos a los pacientes o para temas de gestión y docencia.

“No se trata de un mero chatbot como pueden ser Cloud, Gemini y Chat GTP, sino que lo puedes entrenar con tu propia documentación para reducir esas alucinaciones que suelen tener los chatbots generales, que en Sanidad no podemos permitirlas”.

Con esta herramienta, Carlos Espejo asegura que cada profesional puede preparar sesiones clínicas, divulgar información, hacer una investigación o personalizar recursos sanitarios para los pacientes, adaptándolos a su nivel de comprensión lectora para posibilitar que, aunque el sanitario emplee un lenguaje muy técnico, el mensaje se entienda adecudamente.

También sirve para algo que la profesión exige: estar al día. Los profesionales sanitarios, recuerda, “estamos sujetos a trabajar con la última evidencia científica”, y ahí la herramienta ahorra horas. “En minutos tenemos una comparativa con un informe de actualización de cuidados para actualizar cualquier tipo de protocolo que los profesionales tengamos que usar en el día a día”. En la misma línea cita otras herramientas, como Vera Health, entrenada exclusivamente con artículos científicos del ámbito sanitario.

Pero el asistente no hace el trabajo por sí solo, sino que es un apoyo que debe de contar con la supervisión de un profesional sanitario, que es quien debe de tener la última palabra y la responsabilidad. “Tienes que ser tú el que ha verificado que ese conocimiento que tiene esta inteligencia artificial es realmente el que se tiene que usar en tu gerencia”, advierte. Si los datos que se le dan son los correctos, la herramienta genera sin problema una presentación, un informe, un plan de cuidados de enfermería o una pauta de ejercicio de fisioterapia. Lo que no cambia es quién responde: “La responsabilidad de lo que le da al paciente es del profesional sanitario y no es de la herramienta de inteligencia artificial”.

Del Excel a la Inteligencia Artificial

Si Carlos Espejo habla desde la consulta, David Barberán lo hace desde la gestión. Enfermero y experto universitario en inteligencia artificial, trabaja en el Hospital Clínico San Carlos de Madrid como supervisor de Hospitalización Medicina Interna y Urología.

Su diagnóstico es que la digitalización sanitaria, sobre todo en el terreno de la gestión, “está en pañales”. Aun así, matiza que hay áreas donde ya está asentada, como en la gestión de personas, de turnos y de coberturas, e incluso en la de recursos materiales. Es en esas tareas donde el uso de herramientas digitales “está muy interiorizado” y donde ayudan a “optimizar” recursos y gastos.

Barberán explica que en los últimos años se ha pasado de un mundo de tablas en Word o Excel a otro en el que la inteligencia artificial permite controlar los objetivos y reportar la información necesaria “con mucha más facilidad”. En Enfermería, eso se traduce en planes de cuidados, informes de continuidad y registros vinculados a la seguridad del paciente.

Estos procesos, sin embargo, no están todavía estandarizados en los sistemas de salud. Por eso, Barberán cuenta que, aunque las consejerías de Sanidad marcan unos mínimos, cada hospital tiene autonomía para gestionar sus objetivos y decide qué herramientas emplea.

La línea roja: los datos del paciente

En lo que coinciden ambos ponentes es en dónde está el límite. “Hay que acotar muy bien qué es lo que usamos”, insiste Espejo, para quien no se pueden volcar datos de los pacientes en estas herramientas. Gemini Notebook, el software que ha explicado en su taller durante el congreso de SATSE, no es un software propio de ningún sistema de salud -pertenece a Google- ni cuenta con la certificación que deben tener los productos sanitarios. Por eso, los profesionales que quieran trabajar con ellas deben anonimizar los datos personales para que no acaben en un sistema que pertenece a una empresa ajena al sistema de salud.

Barberán señala que la protección de datos es precisamente la parte “menos reglamentada” por parte de los protocolos hospitalarios. “Al final trabajas con unos datos muy sensibles de pacientes”, recuerda. Mientras no haya una limitación real, defiende, “no puedes estar metiendo una serie de datos de paciente de manera muy explícita”.

Las reglas, por ahora, las pone cada centro. “Hay centros que sí que protocolizan un poco la utilización de herramientas tipo ChatGPT, Gemini o Copilot”, explica Barberán, y sus servicios informáticos delimitan con qué se puede trabajar y con qué no. “Pero yo creo que todavía a estas alturas es más a un nivel más interno de los centros que una legislación más global o más general a nivel sanitario”.

Hay centros que sí que protocolizan un poco la utilización de herramientas tipo ChatGPT, Gemini o Copilot pero todavía no hay una legislación más global o más general a nivel sanitario

Otro factor a tener en cuenta es la desconfianza que los propios pacientes muestran hacia el empleo de estas herramientas en el sistema sanitario. Un recelo que el propio Barberán ha sentido. “Yo creo que a estas alturas todavía el paciente es reticente a saber dónde llegan sus datos”, apunta el gestor, que percibe desconfianza sobre adónde puede ir a parar esa información y para qué podría usarse en el futuro.

“No hay que tenerle miedo”

El taller de Carlos Espejo durante el congreso de SATSE despertó mucha curiosidad: los asistentes, cuenta, “flipan” cuando ven lo que se puede hacer con estas herramientas. Pero también reconoce que hay profesionales que “son reticentes”, bien porque “les queda poco” para jubilarse o porque piensan que la inteligencia artificial “nos va a sustituir”.

Barberán descarta ese aspecto por completo. “Lo que no podemos plantear en ningún caso es que una herramienta digital sustituya a un profesional sanitario”, afirma. La tecnología puede aportar valor al cuidado y aligerar la parte más administrativa, pero sustituir puestos sanitarios por herramientas digitales, avisa, no tendría una buena repercusión para el paciente.

Espejo comparte el mensaje y le da la vuelta al miedo. “No hay que tenerle miedo al uso de la IA”, defiende. Hay que formarse, porque “no todo vale con la IA” y la responsabilidad será siempre del profesional sanitario. Y a quien tema perder su puesto le responde que “ni muchísimo menos”: “Lo que vamos a necesitar son profesionales con criterio para filtrar”.