Volver atrás Proyecto

Engineering Value Awareness in Social AI

Institut Universitari Valencià d'investigació en Intel·ligència Artificial

Imprimir

¿Quieres contarnos tu reto? Pincha aquí y te ayudamos a encontrar una solución

Año de inicio

2025

Organismo financiador

AGENCIA ESTATAL DE INVESTIGACION

Tipo de proyecto

INV. COMPETITIVA PROYECTOS

Responsable científico

Heras Barberá Stella María

Resumen

EVASAI aborda el reto de la alineación de valores en IA ampliando el razonamiento con valores hacia un razonamiento sobre valores, incorporando además su dimensión social. El proyecto desarrollará técnicas para identificar y representar valores desde texto, analizar conflictos mediante marcos de argumentación y simular la evolución de valores en sistemas multiagente. También creará interfaces explicables que permitan interacciones humano-agente basadas en valores. Esta aproximación permitirá a los agentes comprender motivaciones ajenas, mejorar la colaboración y facilitar consensos colectivos. El subproyecto validará estos avances en aplicaciones reales como salud, lucha contra incendios o asignación de plazas escolares.