[object Object]

IA fiable

A Intelixencia Artificial (IA) fiable representa a liña de investigación en IA, por e para as persoas, co obxectivo de deseñar modelos e implementar tecnoloxías intelixentes capaces de interactuar de forma amigable, non daniña e confiable, sendo respectuosas co medio ambiente e acordes á lexislación internacional, aos dereitos humanos e aos principios de desenvolvemento sustentable. É unha liña de investigación multidisciplinar que involucra non só aspectos tecnolóxicos, senón tamén éticos, legais, socio-económicos e culturais.

O resultado do noso traballo inclúe o desenvolvemento de novos modelos e tecnoloxías intelixentes, infraestruturas, ferramentas software e estándares internacionais que poidan porse ao servizo da cidadanía, a administración e as empresas, co fin de democratizar e facilitar o uso dunha IA fiable.

A nosa investigación aborda o deseño de modelos de IA inherentemente interpretables, optimizando o equilibrio entre interpretabilidade e precisión e hibridando coñecemento explícito con aprendizaxe automática. Tamén traballamos no desenvolvemento de novos enfoques e metodoloxías para facilitar a interpretabilidade e explicabilidade dos modelos de IA incorporando estratexias didácticas e dialécticas, para deseñar modelos de IA auto explicativos e sostibles (redución, reutilización, e reciclado de recursos dispoñibles), e para a avaliación de modelos de IA fiable (protocolos, métricas e ferramentas) durante o ciclo completo do seu desenvolvemento.

O noso traballo céntrase tamén na valoración, detección e prevención de todo tipo de sesgos, tanto aqueles existentes nos datos, como os que ocorren nos modelos de IA ou os derivados dos mecanismos para a súa avaliación, tendo en conta rumbos cognitivos, culturais ou doutra natureza.


Canonical link