APRENDIZAJE PARA PLANIFICACIÓN SENSIBLE AL HUMANO

2022

AGENCIA ESTATAL DE INVESTIGACION

INV. COMPETITIVA PROYECTOS

Sebastiá Tarín Laura

Desde sus inicios, la Inteligencia Artificial (IA) ha tenido una relación ambivalente con los humanos, que oscila entre sustituirlos o ayudarlos a alcanzar sus objetivos. Ahora, a medida que las tecnologías de IA se incorporan a nuestra vida cotidiana a un ritmo cada vez mayor, se hace más necesario que los sistemas de IA trabajen en sinergia con los humanos. Para hacerlo eficazmente, los sistemas de IA deben prestar más atención a los aspectos de la inteligencia que facilitan esta colaboración. Por tanto, es importante que un sistema de IA comprenda y modele el comportamiento humano para poder reproducirlo, o para adaptar el proceso de toma de decisiones al comportamiento humano observado. Este proyecto se centra en el aprendizaje a partir de la observación del comportamiento humano. Estas observaciones pueden ser de distinta naturaleza y a diferentes niveles de abstracción, desde planes de alto nivel hasta datos de sensores. Además, una vez que el sistema toma una decisión o realiza una acción encaminada a proporcionar asistencia al humano, puede ser necesario dar una explicación para que éste entienda las razones de esa decisión. En resumen, el objetivo principal de este proyecto es desarrollar herramientas y técnicas de planificación automatizada que tengan en cuenta a los humanos, aprendiendo de ellos y proporcionando explicaciones cuando sea necesario. Cuando el ser humano resuelve un problema de planificación, utiliza algunas estrategias, como la de divide y vencerás o la de asignar primero los recursos más escasos. Nuestro objetivo en este contexto es diseñar mecanismos que permitan al agente aprender estas estrategias humanas. En este sentido, el humano puede mostrar al agente cómo deliberar para resolver un problema específico y el agente puede utilizar una estrategia aprendida en su propio proceso de planificación. Diseñaremos técnicas para estos objetivos. Cuando el humano está ejecutando un plan, el agente puede recoger algunas observaciones de esta ejecución y aprender de ellas. Es decir, a partir de una colección de observaciones del plan (incompleta y, probablemente, ruidosa), se desarrollarán varias técnicas para capturar la esencia del modelo de acción subyacente que podría explotarse posteriormente en la resolución de otros problemas. Generar un modelo de acción fiable (correcto y completo) es un reto, por lo que propondremos diferentes enfoques para mejorar la confianza de dichos modelos. Cuando el sistema aprende el mecanismo de deliberación humano o cuando el sistema realiza una acción para ayudar al humano, puede ser necesario proporcionarle una explicación. Se desarrollarán algunas técnicas para proporcionar explicaciones comprensibles. Por último, se demostrará la viabilidad y aplicabilidad de las técnicas desarrolladas en este proyecto mediante su aplicación en varios pilotos. En concreto, estas técnicas se aplicarán en el contexto del reconocimiento de actividades en el aula, para descubrir patrones de comportamiento de los profesores a partir de las grabaciones de las clases, y en el análisis del comportamiento de los turistas, para conocer sus preferencias de planificación (duración y orden de las actividades, tiempo libre, etc.) y generar mejores planes. Esperamos que este proyecto tenga un impacto significativo en el desarrollo de futuros sistemas de IA que muestren una comprensión y reproducibilidad del comportamiento humano en el contexto de los sistemas de planificación automatizados.