MAIXAI4TRUST: IA explicable multimodal, afectiva e interactiva para a confianza

Informes recentes apuntan a un aumento na percepción de risco asociada ao potencial impacto socioeconómico da IA na vida cotiá da cidadanía, o que leva a un crecente nerviosismo ante a posibilidade de empregar servizos baseados en IA. Esta percepción pode facer que a xente non confíe na IA. A IA explicable (XAI) contribúe ao desenvolvemento dunha IA responsable e fiable, xa que a explicabilidade é un requisito necesario para dotar de confiabilidade os sistemas intelixentes. Espérase que os sistemas XAI interactúen de maneira natural cos humanos, proporcionándolles explicacións comprensibles.Porén, na literatura científica faltan métodos que permitan adaptar de forma interactiva explicacións centradas no ser humano ás necesidades (evolutivas) dos usuarios e medir a eficacia das explicacións proporcionadas en termos de mellorar a comprensión do usuario. Reunindo conceptos e ferramentas tanto da interacción persoa-ordenador (IPO) como dos campos da IA, este proxecto proporcionará á comunidade científica un conxunto de ferramentas XAI para a creación de explicacións fiables sustentadas en tres piares fundamentais: multimodalidade, afectividade e métodos interactivos para XAI.Isto lévanos á definición aliñada dos correspondentes obxectivos: (O1) deseñar, desenvolver e validar técnicas e algoritmos para xestionar o procesamento multimodal dos datos (involucrando unha combinación de múltiples orixes de datos e modalidades heteroxéneas xa sexan textuais, visuais ou temporais); (O2) deseñar, desenvolver e validar técnicas e algoritmos para habilitar interaccións sensibles ás emocións; (O3) deseñar, desenvolver e validar unha infraestrutura para o diálogo baseada en grandes modelos de linguaxe que integre facilidades conversacionais multimodais e afectivas co propósito de ofrecer diálogos explicativos fiables; e (O4) avaliar empiricamente a efectividade e usabilidade do conxunto de ferramentas ao asistir aos investigadores na construción de prototipos no ámbito de dous contextos interactivos socialmente relevantes relacionados co envellecemento activo (é dicir, estimulación cognitiva en persoas maiores e educación para mellorar a nutrición).

En resumo, o proxecto MAIXAI4TRUST contribuirá, en primeiro lugar, ao campo da investigación co conxunto de ferramentas, incluíndo os algoritmos e técnicas a deseñar, para facilitar a xeración e validación de IA fiable en sistemas socio-técnicos, potenciados polos métodos XAI multimodais, afectivos e interactivos. En segundo lugar, o proxecto investigará como dotar aos axentes conversacionais baseados en IA coa capacidade de manexar adecuadamente o contexto do usuario multimodal e afectivo, proporcionando diálogos baseados en modelos de linguaxe e noutros modelos xerativos en combinación con técnicas XAI. Os axentes conversacionais implementaranse con dúas interfaces diferentes (é dicir, unha interface gráfica baseada en chat e un robot social) para investigar como isto pode afectar á fiabilidade e aos aspectos de deseño nas interaccións persoa-IA que involucran técnicas XAI. En terceiro lugar, o proxecto validará os prototipos técnicos en dous contextos interactivos socialmente relevantes, para avaliar así en que medida estes prototipos favorecen interaccións persoa-IA coas explicacións máis exitosas e fiables.

Informes recentes apuntan a un aumento na percepción de risco asociada ao potencial impacto socioeconómico da IA na vida cotiá da cidadanía, o que leva a un crecente nerviosismo ante a posibilidade de empregar servizos baseados en IA. Esta percepción pode facer que a xente non confíe na IA. A IA explicable (XAI) contribúe ao desenvolvemento dunha IA responsable e fiable, xa que a explicabilidade é un requisito necesario para dotar de confiabilidade os sistemas intelixentes. Espérase que os sistemas XAI interactúen de maneira natural cos humanos, proporcionándolles explicacións comprensibles.Porén, na literatura científica faltan métodos que permitan adaptar de forma interactiva explicacións centradas no ser humano ás necesidades (evolutivas) dos usuarios e medir a eficacia das explicacións proporcionadas en termos de mellorar a comprensión do usuario. Reunindo conceptos e ferramentas tanto da interacción persoa-ordenador (IPO) como dos campos da IA, este proxecto proporcionará á comunidade científica un conxunto de ferramentas XAI para a creación de explicacións fiables sustentadas en tres piares fundamentais: multimodalidade, afectividade e métodos interactivos para XAI.Isto lévanos á definición aliñada dos correspondentes obxectivos: (O1) deseñar, desenvolver e validar técnicas e algoritmos para xestionar o procesamento multimodal dos datos (involucrando unha combinación de múltiples orixes de datos e modalidades heteroxéneas xa sexan textuais, visuais ou temporais); (O2) deseñar, desenvolver e validar técnicas e algoritmos para habilitar interaccións sensibles ás emocións; (O3) deseñar, desenvolver e validar unha infraestrutura para o diálogo baseada en grandes modelos de linguaxe que integre facilidades conversacionais multimodais e afectivas co propósito de ofrecer diálogos explicativos fiables; e (O4) avaliar empiricamente a efectividade e usabilidade do conxunto de ferramentas ao asistir aos investigadores na construción de prototipos no ámbito de dous contextos interactivos socialmente relevantes relacionados co envellecemento activo (é dicir, estimulación cognitiva en persoas maiores e educación para mellorar a nutrición).En resumo, o proxecto MAIXAI4TRUST contribuirá, en primeiro lugar, ao campo da investigación co conxunto de ferramentas, incluíndo os algoritmos e técnicas a deseñar, para facilitar a xeración e validación de IA fiable en sistemas socio-técnicos, potenciados polos métodos XAI multimodais, afectivos e interactivos. En segundo lugar, o proxecto investigará como dotar aos axentes conversacionais baseados en IA coa capacidade de manexar adecuadamente o contexto do usuario multimodal e afectivo, proporcionando diálogos baseados en modelos de linguaxe e noutros modelos xerativos en combinación con técnicas XAI. Os axentes conversacionais implementaranse con dúas interfaces diferentes (é dicir, unha interface gráfica baseada en chat e un robot social) para investigar como isto pode afectar á fiabilidade e aos aspectos de deseño nas interaccións persoa-IA que involucran técnicas XAI. En terceiro lugar, o proxecto validará os prototipos técnicos en dous contextos interactivos socialmente relevantes, para avaliar así en que medida estes prototipos favorecen interaccións persoa-IA coas explicacións máis exitosas e fiables. - PID2024-157680NB-I00 - José María Alonso Moral, Alejandro Catalá Bolós - Paulo Félix Lamas, Nelly Condori Fernández, Jesús María Rodríguez Presedo