ExpliClas

Copyright (C) 2018 Bruno López Trigo <bruno.lopez.trigo@rai.usc.es>

Este programa é software libre; podes redistribuílo e/ou modificalo segundo os termos da GNU General Public License publicada pola Free Software Foundation, ben na versión 2 da licenza ou (se o prefires) en calquera versión posterior.

Algunhas partes deste software están dispoñibles segundo os termos da Eclipse Public License 2.0, dispoñible en https://www.eclipse.org/org/documents/epl-2.0/EPL-2.0.txt. Estas partes tamén poden estar dispoñibles segundo a Licenza Secundaria cando se cumpran as condicións para esa dispoñibilidade establecidas na Eclipse Public License, v. 2.0: GNU General Public License, versión 2 con GNU Classpath Exception, dispoñible na GNU General Public License, ben na versión 2 da licenza ou (se o prefires) en calquera versión posterior, dispoñible en https://www.gnu.org/licenses/old-licenses/gpl-2.0.txt.

QUE É ESTE PROXECTO?

Nos últimos anos, a intelixencia artificial integrouse en moitos sistemas cuxas necesidades van máis alá dos aspectos técnicos. Entre estas necesidades, atopamos os aspectos éticos e legais relacionados coa interacción das persoas usuarias cos sistemas intelixentes. Moitos sistemas intelixentes, en particular case todos os que aprenden automaticamente a partir de datos, utilizan un modelo de caixa negra no que as persoas usuarias confían nas decisións que toman estes sistemas, sen preocuparse por como se tomaron. Así xorde o paradigma da intelixencia artificial explicable (eXplainable Artificial Intelligence, JHA), que fai referencia á construción de sistemas intelixentes capaces de proporcionar información sobre como toman as súas decisións. Mesmo nos sistemas intelixentes que utilizan un modelo de caixa branca, é necesaria a intervención dunha persoa experta para interpretar este modelo, polo que resulta interesante aplicar o paradigma XAI para obter un sistema autoexplicativo. Segundo o Código Ético da ACM, a explicación é un principio básico para garantir a transparencia dos algoritmos e a responsabilidade das institucións polas decisións tomadas polos algoritmos mencionados. Ademais, a aplicación recente do novo Regulamento xeral de protección de datos europeo fai fincapé no «dereito á explicación» das persoas cidadás europeas, independentemente de se as decisións as toman persoas ou sistemas intelixentes. Neste contexto, ExpliClas ten como obxectivo abordar o problema de xerar explicacións para un sistema intelixente. En particular, os sistemas intelixentes de clasificación que utilizan un modelo de caixa branca e, máis concretamente, os sistemas baseados en árbores de decisión. ExpliClas estuda a xeración de explicacións mediante a xeración de linguaxe natural, co obxectivo de obter explicacións capaces de aclarar ás persoas usuarias como toman decisións os sistemas de clasificación. Ademais, o obxectivo destas explicacións non é só facer que o sistema sexa máis comprensible, senón tamén aumentar a confianza das persoas usuarias no propio sistema e na súa fiabilidade. Outro aspecto relevante da explicación é a interactividade das persoas usuarias co sistema, que se reflectirá na variación das explicacións segundo as accións que executen no sistema. O servizo ExpliClas está actualmente operativo e despregado na URL: https://demos.citius.usc.es/ExpliClas/. A API correspondente de ExpliClas está dispoñible en: https://demos.citius.usc.es/ExpliClasAPI/.

ONDE ESTÁ O CÓDIGO

O código de ExpliClas está dispoñible nos seguintes repositorios: https://gitlab.citius.usc.es/bruno.lopez.trigo/ExpliClas-TFG e https://forxa.mancomun.org/scm/browser.php?group_id=419. O código do servizo web de demostración está dispoñible en /codigo/expliclas. O código da API REST está dispoñible en /codigo/expliclas-api.