CONFIA: Hacia el desarrollo de una IA confiable
La confianza es uno de los elementos fundamentales en el desarrollo de una sociedad. En nuestra interacción diaria con otras personas solemos juzgarlas, aunque sea de un modo inconsciente, en función de la confianza que nos transmiten. No se trata simplemente de si creemos que tienen una buena reputación, ni si son más o menos inteligentes, ni si consideramos que son buenas o malas personas, sino de un conjunto de características cognitivas, conductuales y emocionales que nos transmiten confianza. Por ejemplo, si una persona hace con frecuencia manifestaciones sin fundamento tendemos a pensar que su criterio y opinión no es confiable y le concedemos cada vez menos credibilidad. La confianza en la Inteligencia Artificial (IA) es un proceso aún más complejo. La principal pregunta de investigación a abordar en este proyecto es: ¿cómo podemos medir y aumentar la confianza en las máquinas dotadas con IA? Así, el objetivo principal del proyecto es obtener evidencia empírica sobre cómo los humanos atribuimos confianza a los sistemas basados en IA en el ámbito de la educación financiera, tema de gran relevancia para las instituciones financieras.
Objetivos
En el proyecto CONFIA, vamos a:
1. Identificar los elementos que intervienen en la generación de la confianza entre humanos e IA.
2. Desarrollar una metodología que permita medir cualitativa y cuantitativamente la confianza de los usuarios en un sistema dotado de IA.
3. Realizar un estudio piloto que permita validar empíricamente el marco teórico de análisis y la metodología propuesta.
Proyecto
/research/projects/cara-ao-desenvolvemento-dunha-ia-fiable
<p>La confianza es uno de los elementos fundamentales en el desarrollo de una sociedad. En nuestra interacción diaria con otras personas solemos juzgarlas, aunque sea de un modo inconsciente, en función de la confianza que nos transmiten. No se trata simplemente de si creemos que tienen una buena reputación, ni si son más o menos inteligentes, ni si consideramos que son buenas o malas personas, sino de un conjunto de características cognitivas, conductuales y emocionales que nos transmiten confianza. Por ejemplo, si una persona hace con frecuencia manifestaciones sin fundamento tendemos a pensar que su criterio y opinión no es confiable y le concedemos cada vez menos credibilidad. La confianza en la Inteligencia Artificial (IA) es un proceso aún más complejo. La principal pregunta de investigación a abordar en este proyecto es: ¿cómo podemos medir y aumentar la confianza en las máquinas dotadas con IA? Así, el objetivo principal del proyecto es obtener evidencia empírica sobre cómo los humanos atribuimos confianza a los sistemas basados en IA en el ámbito de la educación financiera, tema de gran relevancia para las instituciones financieras.</p><p>En el proyecto CONFIA, vamos a:</p><p>1. Identificar los elementos que intervienen en la generación de la confianza entre humanos e IA.</p><p>2. Desarrollar una metodología que permita medir cualitativa y cuantitativamente la confianza de los usuarios en un sistema dotado de IA.</p><p>3. Realizar un estudio piloto que permita validar empíricamente el marco teórico de análisis y la metodología propuesta.</p><p><br></p> - José María Alonso Moral - Senén Barro Ameneiro, Alberto José Bugarín Diz
projects_es