MAIXAI4TRUST: IA explicable multimodal, afectiva e interactiva para la confianza

Informes recientes apuntan a un aumento en la percepción de riesgo asociada al potencial impacto socio-económico de la IA en la vida cotidiana de los ciudadanos, lo que lleva a un nerviosismo creciente ante la posibilidad de usar servicios basados en IA. Esta percepción puede hacer que la gente no confíe en la IA. La IA explicable (XAI) contribuye al desarrollo de una IA responsable y confiable, dado que la explicabilidad es un requisito necesario para dotar de confiabilidad a los sistemas inteligentes. Se espera que los sistemas XAI interactúen naturalmente con los humanos, proporcionándoles explicaciones comprensibles. Sin embargo, faltan métodos en la literatura científica que permitan adaptar de forma interactiva explicaciones centradas en el ser humano a las necesidades (evolutivas) de los usuarios y medir la eficacia de las explicaciones proporcionadas en términos de mejorar la comprensión del usuario. Aunando conceptos y herramientas tanto de interacción persona-ordenador (IPO) como de los campos de la IA, este proyecto proveerá a la comunidad científica con un conjunto de herramientas XAI para la creación de explicaciones fiables que se sustententes en tres pilares fundamentales: multimodalidad, afectividad y métodos interactivos para XAI. Esto nos lleva a la definición alineada de los correspondientes objetivos: (O1) diseñar, desarrollar, y validar técnicas y algoritmos para manejar el procesamiento multimodal de los datos (involucrando una combinación de múltiples orígenes de datos y modalidades heterogéneas ya sean texturales, visuales o temporales); (O2) diseñar, desarrollar, y validar técnicas y algoritmos para habilitar las interacciones sensibles a las emociones; (O3) diseñar, desarrollar, y validar una infraestructura para el diálogo basada en modelos grandes de lenguaje que integre facilidades conversacionales multimodales y afectivas con el propósito de traer diálogos explicativos fiables; y (O4) evaluar empíricamente la efectividad y usabilidad del conjunto de herramientas al asistir a los investigadores en la construcción de prototipos en el ámbito de dos contextos interactivos socialmente relevantes relacionados con el envejecimiento activo (i.e., estimulación cognitiva en personas mayores educación para mejorar la nutrición).

En resumen, el proyecto MAIXAI4TRUST contribuirá, en primer término, al campo de investigación con el conjunto de herramientas, incluyendo algoritmos y técnicas a diseñar, para facilitar la generación y validación de IA fiable en sistema socio-técnicos, potenciados por los métodos XAI multimodales, afectivos e interactivos. En segundo término, el proyecto investigará como dotar a los agentes conversacionales basados en IA con la capacidad de manejar adecuadamente el contexto del usuario multimodal y afectivo, entregando diálogos basados en modelos de lenguaje y otros modelos generativos en combinación con técnicas XAI. Los agentes conversacionales se implementarán con dos interfaces diferentes (i.e., interfaz gráfica basada en chat y un robot social) para investigar como puede esto afectar a la fiabilidad y aspectos de diseño en las interacciones persona-IA que involucran técnicas XAI. En tercer lugar, el proyecto validará los prototipos técnicos en dos contextos interactivos que son socialmente relevantes, para evaluar así en qué medida estos prototipos favorecen interacciones persona-IA con las explicaciones más exitosas y fiables.

<p>Informes recientes apuntan a un aumento en la percepción de riesgo asociada al potencial impacto socio-económico de la IA en la vida cotidiana de los ciudadanos, lo que lleva a un nerviosismo creciente ante la posibilidad de usar servicios basados en IA. Esta percepción puede hacer que la gente no confíe en la IA. La IA explicable (XAI) contribuye al desarrollo de una IA responsable y confiable, dado que la explicabilidad es un requisito necesario para dotar de confiabilidad a los sistemas inteligentes. Se espera que los sistemas XAI interactúen naturalmente con los humanos, proporcionándoles explicaciones comprensibles. Sin embargo, faltan métodos en la literatura científica que permitan adaptar de forma interactiva explicaciones centradas en el ser humano a las necesidades (evolutivas) de los usuarios y medir la eficacia de las explicaciones proporcionadas en términos de mejorar la comprensión del usuario. Aunando conceptos y herramientas tanto de interacción persona-ordenador (IPO) como de los campos de la IA, este proyecto proveerá a la comunidad científica con un conjunto de herramientas XAI para la creación de explicaciones fiables que se sustententes en tres pilares fundamentales: multimodalidad, afectividad y métodos interactivos para XAI. Esto nos lleva a la definición alineada de los correspondientes objetivos: (O1) diseñar, desarrollar, y validar técnicas y algoritmos para manejar el procesamiento multimodal de los datos (involucrando una combinación de múltiples orígenes de datos y modalidades heterogéneas ya sean texturales, visuales o temporales); (O2) diseñar, desarrollar, y validar técnicas y algoritmos para habilitar las interacciones sensibles a las emociones; (O3) diseñar, desarrollar, y validar una infraestructura para el diálogo basada en modelos grandes de lenguaje que integre facilidades conversacionales multimodales y afectivas con el propósito de traer diálogos explicativos fiables; y (O4) evaluar empíricamente la efectividad y usabilidad del conjunto de herramientas al asistir a los investigadores en la construcción de prototipos en el ámbito de dos contextos interactivos socialmente relevantes relacionados con el envejecimiento activo (i.e., estimulación cognitiva en personas mayores educación para mejorar la nutrición).</p><p>En resumen, el proyecto MAIXAI4TRUST contribuirá, en primer término, al campo de investigación con el conjunto de herramientas, incluyendo algoritmos y técnicas a diseñar, para facilitar la generación y validación de IA fiable en sistema socio-técnicos, potenciados por los métodos XAI multimodales, afectivos e interactivos. En segundo término, el proyecto investigará como dotar a los agentes conversacionales basados en IA con la capacidad de manejar adecuadamente el contexto del usuario multimodal y afectivo, entregando diálogos basados en modelos de lenguaje y otros modelos generativos en combinación con técnicas XAI. Los agentes conversacionales se implementarán con dos interfaces diferentes (i.e., interfaz gráfica basada en chat y un robot social) para investigar como puede esto afectar a la fiabilidad y aspectos de diseño en las interacciones persona-IA que involucran técnicas XAI. En tercer lugar, el proyecto validará los prototipos técnicos en dos contextos interactivos que son socialmente relevantes, para evaluar así en qué medida estos prototipos favorecen interacciones persona-IA con las explicaciones más exitosas y fiables.</p> - PID2024-157680NB-I00 - José María Alonso Moral, Alejandro Catalá Bolós - Paulo Félix Lamas, Nelly Condori Fernández, Jesús María Rodríguez Presedo