La Inteligencia Artificial (IA) comienza a incorporarse a distintos procesos asistenciales, desde el análisis de imágenes hasta la elaboración de resúmenes clínicos o la predicción de riesgos.
Ante esta evolución, la Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud ha elaborado una nueva guía dirigida a los profesionales que seleccionan, supervisan o utilizan herramientas de IA en la atención sanitaria.
El documento establece una serie de pautas para garantizar un uso seguro y responsable de estas tecnologías y pone el foco en aspectos como la supervisión humana, la protección de los datos de los pacientes, la validación de las herramientas y la formación de los profesionales.
¿Quién responde si la IA se equivoca?
El documento también aborda las implicaciones legales del uso de estas tecnologías. La IA no tiene personalidad jurídica y, por tanto, su utilización no traslada la responsabilidad de una decisión clínica al algoritmo.
Según las circunstancias, esta puede recaer en el profesional o en la institución sanitaria, sin perjuicio de la posible responsabilidad del fabricante o proveedor cuando exista un defecto del sistema.
Por ello, la guía incide en la necesidad de que los profesionales conozcan las limitaciones de las herramientas, supervisen sus resultados y puedan justificar las decisiones adoptadas cuando se hayan apoyado en sistemas de IA. En caso de que una recomendación generada por la herramienta contradiga el criterio médico o la evidencia disponible, el profesional deberá priorizar la seguridad del paciente, documentar la discrepancia y evitar basar su decisión exclusivamente en el resultado del algoritmo.
La IA como apoyo, no como sustituto del médico
Una de las principales recomendaciones de la guía es que la IA debe utilizarse como una herramienta de apoyo a la decisión clínica, pero nunca sustituir el criterio del profesional. Antes de incorporar una recomendación generada por IA, el médico debe revisarla, contrastarla con la evidencia disponible y valorar si resulta adecuada para las circunstancias concretas del paciente.
La guía también establece que no deben introducirse datos personales o clínicos identificables en herramientas que no estén autorizadas para su utilización sanitaria o que no ofrezcan las garantías necesarias en materia de protección de datos.
