NL4XAI: Tecnologías del Lenguaje Natural Interactivas para la Inteligencia Artificial Explicable

Según la paradoja de Polany, las personas saben más de lo que pueden explicar, principalmente como consecuencia de la gran cantidad de conocimiento implícito y subconsciente que se adquiere a través de la cultura, la herencia, etc. Lo mismo se podría aplicar a los sistemas de Inteligencia Artificial (AI) que aprenden principalmente de los datos por medio de técnicas automáticas. Sin embargo, y de acuerdo con la legislación europea, las personas tienen el derecho a recibir la explicación de las decisiones que les afectan, sin importar quién (o qué sistema de AI) produzca dicha decisión. NL4XAI se focalizará en la formación creativa, innovadora y emprendedora de 11 estudiantes de doctorado (ESRs), que se enfrentarán a los retos más importantes para hacer la AI auto-explicativa y así contribuir a trasladar este conocimiento en productos y servicios que puedan redundar en un beneficio económico y social, con el apoyo de sistemas de AI explicable (XAI). Además, el foco de NL4XAI es la generación automática de explicaciones interactivas en lenguaje natural (NL), tal como hacen los humanos, y en el soporte de estas explicaciones por medio de tecnologías de visualización. Como resultado, se espera que los ESRs faciliten el uso de modelos y técnicas de AI incluso para usuarios no expertos. Todos los desarrollos serán validados por humanos en casos de uso específicos, y los principales resultados serán difundidos e integrados en un framework open source para la XAI que será accesible a todos los ciudadanos europeos. Además, los resultados que se exploten comercialmente serán protegidos por medio de licencias o patentes. Es valioso mencionar que para la propuesta se ha seleccionado un conjunto de los investigadores europeos (tanto de la academia como de la industria) más destacados en cada uno de los tópicos fundamentales, creando un programa formativo conjunto de gran calidad que puede ser visto como una pirámide en la cual el objetivo principal (diseño y construcción de modelos XAI) se encuentra en la cima. Este objetivo será alcanzado a través del esfuerzo investigador conjunto en los objetivos que sustentan esta pirámide (generación de Lenguaje Natural y procesado para XAI; Tecnologías de Argumentación para XAI; Interfaces Interactivos para XAI). Los ESRs también serán formados en aspectos éticos y legales, así como en habilidades transversales.

Objetivos

El objetivo de la red NL4XAI es formar a una nueva generación de científicos que puedan ser la semilla para el desarrollo de sistemas de A.I. más centrados en las personas, enfrentándose a los retos actuales y futuros de la XAI, a través de una aproximación multidisciplinar que combine AI, tecnologías del lenguaje (NLP, NLG y argumentación) y HCI.

Enlace a la página web del proyecto

<p>Según la paradoja de Polany, las personas saben más de lo que pueden explicar, principalmente como consecuencia de la gran cantidad de conocimiento implícito y subconsciente que se adquiere a través de la cultura, la herencia, etc. Lo mismo se podría aplicar a los sistemas de Inteligencia Artificial (AI) que aprenden principalmente de los datos por medio de técnicas automáticas. Sin embargo, y de acuerdo con la legislación europea, las personas tienen el derecho a recibir la explicación de las decisiones que les afectan, sin importar quién (o qué sistema de AI) produzca dicha decisión. NL4XAI se focalizará en la formación creativa, innovadora y emprendedora de 11 estudiantes de doctorado (ESRs), que se enfrentarán a los retos más importantes para hacer la AI auto-explicativa y así contribuir a trasladar este conocimiento en productos y servicios que puedan redundar en un beneficio económico y social, con el apoyo de sistemas de AI explicable (XAI). Además, el foco de NL4XAI es la generación automática de explicaciones interactivas en lenguaje natural (NL), tal como hacen los humanos, y en el soporte de estas explicaciones por medio de tecnologías de visualización. Como resultado, se espera que los ESRs faciliten el uso de modelos y técnicas de AI incluso para usuarios no expertos. Todos los desarrollos serán validados por humanos en casos de uso específicos, y los principales resultados serán difundidos e integrados en un framework open source para la XAI que será accesible a todos los ciudadanos europeos. Además, los resultados que se exploten comercialmente serán protegidos por medio de licencias o patentes. Es valioso mencionar que para la propuesta se ha seleccionado un conjunto de los investigadores europeos (tanto de la academia como de la industria) más destacados en cada uno de los tópicos fundamentales, creando un programa formativo conjunto de gran calidad que puede ser visto como una pirámide en la cual el objetivo principal (diseño y construcción de modelos XAI) se encuentra en la cima. Este objetivo será alcanzado a través del esfuerzo investigador conjunto en los objetivos que sustentan esta pirámide (generación de Lenguaje Natural y procesado para XAI; Tecnologías de Argumentación para XAI; Interfaces Interactivos para XAI). Los ESRs también serán formados en aspectos éticos y legales, así como en habilidades transversales.</p><p>El objetivo de la red NL4XAI es formar a una nueva generación de científicos que puedan ser la semilla para el desarrollo de sistemas de A.I. más centrados en las personas, enfrentándose a los retos actuales y futuros de la XAI, a través de una aproximación multidisciplinar que combine AI, tecnologías del lenguaje (NLP, NLG y argumentación) y HCI.</p> - Senén Barro Ameneiro - Nikolay Babakov, Ettore Mariotti, Alberto José Bugarín Diz, José María Alonso Moral, Alejandro Catalá Bolós