IA fiable

A Intelixencia Artificial (IA) fiable representa a liña de investigación en IA, por e para as persoas, co obxectivo de deseñar modelos e implementar tecnoloxías intelixentes capaces de interactuar de forma amigable, non daniña e confiable, sendo respectuosas co medio ambiente e acordes á lexislación internacional, aos dereitos humanos e aos principios de desenvolvemento sustentable. É unha liña de investigación multidisciplinar que involucra non só aspectos tecnolóxicos, senón tamén éticos, legais, socio-económicos e culturais.

O resultado do noso traballo inclúe o desenvolvemento de novos modelos e tecnoloxías intelixentes, infraestruturas, ferramentas software e estándares internacionais que poidan porse ao servizo da cidadanía, a administración e as empresas, co fin de democratizar e facilitar o uso dunha IA fiable.

A nosa investigación aborda o deseño de modelos de IA inherentemente interpretables, optimizando o equilibrio entre interpretabilidade e precisión e hibridando coñecemento explícito con aprendizaxe automática. Tamén traballamos no desenvolvemento de novos enfoques e metodoloxías para facilitar a interpretabilidade e explicabilidade dos modelos de IA incorporando estratexias didácticas e dialécticas, para deseñar modelos de IA auto explicativos e sostibles (redución, reutilización, e reciclado de recursos dispoñibles), e para a avaliación de modelos de IA fiable (protocolos, métricas e ferramentas) durante o ciclo completo do seu desenvolvemento.

O noso traballo céntrase tamén na valoración, detección e prevención de todo tipo de sesgos, tanto aqueles existentes nos datos, como os que ocorren nos modelos de IA ou os derivados dos mecanismos para a súa avaliación, tendo en conta rumbos cognitivos, culturais ou doutra natureza.

O CiTIUS está afiliado á iniciativa Z-Inspection®. Adopta o proceso Z-Inspection® para a avaliación da fiabilidade dos sistemas e aplicacións de IA da vida real. Z-Inspection® é un proceso holístico usado para avaliar a fiabilidade das tecnoloxías baseadas na IA en diferentes fases do ciclo de vida da IA. Céntrase, en particular, na identificación e discusión de cuestións e tensións éticas a través do desenvolvemento de escenarios sociotécnicos. Utiliza as directrices do Grupo de expertos de alto nivel da Unión Europea (EU HLEG) para unha IA fiable. O proceso Z-Inspection® distribúese baixo os termos e condicións da licenza Creative Commons (Recoñecemento-Non comercial-CompartirIgual CC BY-NC-SA). Z-Inspection® figura no novo Catálogo de ferramentas e métricas de IA da OCDE.