Engineering Value Awareness in Social AI

2025

AGENCIA ESTATAL DE INVESTIGACION

INV. COMPETITIVA PROYECTOS

Heras Barberá Stella María

EVASAI aborda el reto de la alineación de valores en IA ampliando el razonamiento con valores hacia un razonamiento sobre valores, incorporando además su dimensión social. El proyecto desarrollará técnicas para identificar y representar valores desde texto, analizar conflictos mediante marcos de argumentación y simular la evolución de valores en sistemas multiagente. También creará interfaces explicables que permitan interacciones humano-agente basadas en valores. Esta aproximación permitirá a los agentes comprender motivaciones ajenas, mejorar la colaboración y facilitar consensos colectivos. El subproyecto validará estos avances en aplicaciones reales como salud, lucha contra incendios o asignación de plazas escolares.