ExpliClas

Copyright (C) 2018 Bruno López Trigo <bruno.lopez.trigo@rai.usc.es>

Este programa es software libre; puedes redistribuirlo y/o modificarlo según los términos de la GNU General Public License publicada por la Free Software Foundation, ya sea la versión 2 de la licencia o (si lo prefieres) cualquier versión posterior.

Algunas partes de este software están disponibles según los términos de la Eclipse Public License 2.0, disponible en https://www.eclipse.org/org/documents/epl-2.0/EPL-2.0.txt. Estas partes también pueden estar disponibles bajo la Licencia Secundaria cuando se cumplan las condiciones para dicha disponibilidad establecidas en la Eclipse Public License, v. 2.0: GNU General Public License, versión 2 con GNU Classpath Exception, disponible en la GNU General Public License, ya sea la versión 2 de la licencia o (si lo prefieres) cualquier versión posterior, disponible en https://www.gnu.org/licenses/old-licenses/gpl-2.0.txt.

¿QUÉ ES ESTE PROYECTO?

En los últimos años, la inteligencia artificial se ha integrado en muchos sistemas cuyas necesidades van más allá de los aspectos técnicos. Entre estas necesidades, encontramos los aspectos éticos y legales relacionados con la interacción de las personas usuarias con los sistemas inteligentes. Muchos sistemas inteligentes, en particular casi todos los que aprenden automáticamente a partir de datos, utilizan un modelo de caja negra en el que las personas usuarias confían en las decisiones que toman estos sistemas, sin preocuparse por cómo se han tomado. Así surge el paradigma de la inteligencia artificial explicable (eXplainable Artificial Intelligence, JHA), que hace referencia a la construcción de sistemas inteligentes capaces de proporcionar información sobre cómo toman sus decisiones. Incluso en los sistemas inteligentes que utilizan un modelo de caja blanca, es necesaria la intervención de una persona experta para interpretar este modelo, por lo que resulta interesante aplicar el paradigma XAI para obtener un sistema autoexplicativo. Según el Código Ético de la ACM, la explicación es un principio básico para garantizar la transparencia de los algoritmos y la responsabilidad de las instituciones por las decisiones tomadas por dichos algoritmos. Además, la reciente aplicación del nuevo Reglamento General de Protección de Datos europeo hace hincapié en el «derecho a la explicación» de la ciudadanía europea, independientemente de si las decisiones las toman personas o sistemas inteligentes. En este contexto, ExpliClas tiene como objetivo abordar el problema de generar explicaciones para un sistema inteligente. En particular, los sistemas inteligentes de clasificación que utilizan un modelo de caja blanca y, más concretamente, los sistemas basados en árboles de decisión. ExpliClas estudia la generación de explicaciones mediante la generación de lenguaje natural, con el objetivo de obtener explicaciones capaces de aclarar a las personas usuarias cómo toman decisiones los sistemas de clasificación. Además, el objetivo de estas explicaciones no se limita a hacer que el sistema sea más comprensible, sino que también busca aumentar la confianza de las personas usuarias en el propio sistema y en su fiabilidad. Otro aspecto relevante de la explicación es la interactividad de las personas usuarias con el sistema, que se reflejará en la variación de las explicaciones según las acciones que ejecuten en el sistema. El servicio ExpliClas está actualmente operativo y desplegado en la URL: https://demos.citius.usc.es/ExpliClas/. La API correspondiente de ExpliClas está disponible en: https://demos.citius.usc.es/ExpliClasAPI/.

DÓNDE SE ENCUENTRA EL CÓDIGO

El código de ExpliClas está disponible en los siguientes repositorios: https://gitlab.citius.usc.es/bruno.lopez.trigo/ExpliClas-TFG y https://forxa.mancomun.org/scm/browser.php?group_id=419. El código del servicio web de demostración está disponible en /codigo/expliclas. El código de la API REST está disponible en /codigo/expliclas-api.