Resumen
La inteligencia artificial (IA) está en camino de su uso diario en el ámbito médico. Sin embargo, si la IA no considera la variabilidad
intrínseca de los datos médicos y la práctica asistencial, decisiones médicas basadas en datos potencialmente sesgados pueden poner
en riesgo la seguridad y los derechos fundamentales de millones de personas. La variabilidad se presenta como cambios en las
distribuciones estadísticas a lo largo del tiempo y entre distintas fuentes, o también como problemas de calidad de datos o diferencias en
subpoblaciones. Estos cambios pueden producirse durante y después del entrenamiento de los modelos, limitando su generalización a
nuevos casos, su rápida reacción ante cambios inesperados, como pandemias, o su transportabilidad entre sitios. Se necesita
urgentemente un nuevo paradigma de IA adaptable y explicable frente a estos sesgos potenciales en datos médicos del mundo real.
En KINEMAI desarrollaremos una innovadora metodología de ciencia de datos informada por física y herramientas computacionales hacia
una IA médica confiable y resistente a los cambios. Su planteamiento se basa en un modelo cinemático de distribuciones estadísticas en
tiempo y espacio en sus espacios de información latentes, denominados variedades estadísticas. La hipótesis de partida es que la
variabilidad de covariables, salidas, su distribución condicionada, y los parámetros de modelos IA pueden explicarse y predecirse a corto
plazo modelando la cinemática de su trayectoria en sus variedades estadísticas. La predicción de la trayectoria permitirá una IA continua
y autoadaptativa a corto plazo, y una reacción ultrarrápida ante cambios, incluso sin nuevos datos. Además, la explicabilidad de las
variedades ayudará interpretar clínicamente los cambios o su asociación a calidad de datos o a cuestiones de derechos fundamentales,
como diferencias entre género en el rendimiento de la IA.
El proyecto demostrará su aplicación real en un caso de estudio del servicio de Emergencias Médicas 112 de la Comunidad Valenciana
(CV), con 2M de incidentes durante 10 años y en un conjunto de datos públicos. Las herramientas resultantes ayudarán a científicos de
datos biomédicos e investigadores a comprender el comportamiento cambiante de sus datos antes de su uso y a desarrollar soluciones
confiables de ciencia de datos e IA. Los resultados del proyecto permitirán crear un servicio de auditoría del rendimiento y fiabilidad de la
IA médica en el tiempo y entre centros.
KINEMAI comprende un equipo multidisciplinar de investigadores experimentados en Ciencia de Datos e IA Biomédica del Dep. de Física
Aplicada de la Universitat Politècnica de València y Médicos con experiencia en tecnologías de la información e IA de la Consellería de
Sanitat de la CV. El equipo tiene una sólida base y liderazgo en investigación y transferencia relacionada nacional e internacional, y en la
formación de estudiantes de doctorado.
Este proyecto contribuirá a un avance metodológico y tecnológico en IA médica resiliente a los efectos y sesgos de la variabilidad,
mejorando su seguridad, durabilidad y reducción de costes en la curación de datos. Todas las herramientas resultantes se publicarán
como código abierto, siendo extensibles a otras áreas además de la medicina. KINEMAI pretende mejorar la fiabildad de la toma de
decisiones basada en datos, mejorando la medicina de precisión y la asistencia sanitaria.
