Título: Explicabilidad basada en lógica para modelos simples de Inteligencia Artificial: Sobre la complejidad y los algoritmos para el cálculo de features relevantes, necesarias y útiles en clasificadores booleanos

Director: Santiago Cifuentes

Jurados: Santiago Figueira, Sergio Abriola

Esta tesis propone una exploración sobre el campo de la explicabilidad en modelos de inteligencia artificial, comúnmente conocido como XAI. En concreto, el enfoque de este trabajo está puesto en la explicabilidad basada en lógica; esto es, dado un modelo de clasificación y una entrada para el mismo, seleccionar aquellas features o atributos que cumplan con ciertas propiedades lógicas. Esto da lugar a las nociones de features relevantes y necesarias, en cuyo cálculo se profundiza aquí. Se aportan resultados formales que sustenten algoritmos existentes en la literatura, así como también se proponen algoritmos eficientes para detectar la necesidad de features en modelos tanto simples (e.g. árboles de decisión) como complejos (e.g. redes neuronales). A su vez, se exploran generalizaciones para la noción de relevancia, con el objetivo de capturar una visión más detallada del comportamiento de un modelo para una predicción dada. Por último, se introduce una nueva noción global de utilidad, que apunta a explicar si una feature es importante para el comportamiento de un modelo a nivel general, sin considerar una entrada en particular. De aquí surge también una propuesta para un sistema de feature ranking basado en utilidad, para cuyo cálculo se presentan algoritmos eficientes para ciertos modelos.