Defensa de Tese: 'Abrindo a caixa negra da IA: Avances en Intelixencia Artificial Explicable (XAI)'

A Intelixencia Artificial (IA) está a transformar diversos sectores, pero moitos modelos avanzados funcionan como «caixas negras» , tomando decisións difíciles de interpretar. Isto expón retos en termos de transparencia, confianza e responsabilidade, o que subliña a necesidade dunha IA máis explicable. 

Esta tese aborda este problema desde a óptica da Intelixencia Artificial eXplicable (XAI). O noso obxectivo é explorar como os modelos transparentes poden actuar como sistemas autoexplicativos e como ferramentas para explicar o comportamento de sistemas máis complexos. Presentamos CNAM, un modelo que equilibra interpretabilidade e rendemento, e novas métricas baseadas nos valores de Shapley, como Shap Length e Shap Gap, para medir a complexidade do modelo e a explicación da fidelidadefidelidade da explicación. Desenvolvemos os marcos TextFocus para avaliar a fidelidade dos métodos de explicación post-hoc. Demostramos o valor práctico de XAI a través de casos de uso en INDITEX, aplicando tanto modelos de caixa branca como explicacións de caixa negra para descubrir patróns complexos e mellorar a eficiencia e a transparencia en procesos clave.

Este traballo representa un paso cara á democratización da IA, facendo que os modelos complexos sexan máis accesibles, comprensibles e fiables, co potencial de transformar a forma en que interactuamos coa IA e fomentar a innovación responsable.

Directores: José María Alonso Moral y Albert Gatt