Volver atrás Proyecto

TECNOLOGIAS DE APRENDIZAJE Y RAZONAMIENTO RAPIDO Y LENTO

Institut Universitari Valencià d'investigació en Intel·ligència Artificial

Imprimir

¿Quieres contarnos tu reto? Pincha aquí y te ayudamos a encontrar una solución

Año de inicio

2023

Organismo financiador

CONSELLERIA DE INNOVACION, UNIVERSIDADES, CIENCIA Y SOCIEDAD DIGITAL

Tipo de proyecto

INV. COMPETITIVA PROYECTOS

Responsable científico

Ramírez Quintana María José

Resumen

El interés que despierta en usuarios expertos y no-expertos la Inteligencia Artificial (IA) y la ciberseguridad han puesto de manifiesto la necesidad de garantizar que las aplicaciones software que manejamos diariamente cumplen con ciertos estándares de calidad como la seguridad, eficiencia y corrección, en definitiva que carecen de fallos y vulnerabilidades. Estos aspectos son fundamentales para que los humanos confíen en la forma en la que los sistemas software actuales manipulan datos y toman decisiones, con repercusiones catastróficas cuando no se han diseñado, validado y/o verificado con garantías suficientes. El objetivo de este proyecto es el desarrollo de nuevos métodos de análisis y razonamiento basados en datos (fast) y basados en métodos formales (low), con especial énfasis en la aplicabilidad de las técnicas desarrolladas para afrontar los retos de corrección, seguridad, confianza, robustez, eficiencia y explicabilidad de los sistemas software actuales (con mayor o menor grado de integración de técnicas de IA). Tradicionalmente, estos dos tipos de razonamiento se han considerado ortogonales, es decir independientes. La hipótesis de partida de este proyecto es que el razonamiento basado en datos y el razonamiento formal no deben verse como dos paradigmas desconectados sino que ambos deben trabajar de forma coordinada para poder garantizar que nuestros sistemas poseen las cualidades deseadas. Por ello, el presente proyecto persigue investigar en diferentes tecnologías y formalismos matemáticos orientados a asegurar la confiabilidad de los sistemas software y de IA, reuniendo un equipo consolidado con 30 años de trayectoria de investigación en estas áreas y enfocándose hacia los siguientes objetivos: el desarrollo de aproximaciones basadas en datos, lógica y estadística para razonar sobre propiedades de los sistemas de IA y sobre su evaluación, y el desarrollo de técnicas y herramientas software para el análisis, verificación y depuración de sistemas heterogéneos complejos.