CONFIA: Cara ao desenvolvemento dunha IA fiable

A confianza é un dos elementos fundamentais no desenvolvemento dunha sociedade. Na nosa interacción diaria con outras persoas tendemos a xulgalos, aínda que inconscientemente, en función da confianza que nos transmiten. Non se trata simplemente de se cremos que teñen boa reputación, ou de se son máis ou menos intelixentes, ou de se consideramos que son persoas boas ou malas, senón un conxunto de características cognitivas, comportamentais e emocionais que transmiten confianza. Por exemplo, se unha persoa fai con frecuencia declaracións infundadas, tendemos a pensar que o seu criterio e opinión non son fiables e cada vez lle concedemos menos credibilidade. A confianza na Intelixencia Artificial (IA) é un proceso ainda máis complexo. A principal pregunta de investigación que se abordará neste proxecto é: como podemos medir e aumentar a confianza nas máquinas equipadas con IA? Así, o obxectivo principal do proxecto é obter evidencias empíricas sobre como os humanos atribúen confianza aos sistemas baseados na IA no ámbito da educación financeira, un tema de gran relevancia para as entidades financeiras.

Obxectivos

No proxecto CONFIA, imos:

1. Identificar os elementos que interveñen na xeración de confianza entre os humanos e a IA.

2. Desenvolver unha metodoloxía que permita medir cualitativa e cuantitativamente a confianza dos usuarios nun sistema equipado con IA.

3. Realizar un estudo piloto que permita a validación empírica do marco teórico de análise e da metodoloxía proposta.