User-oriented explainable AI (XAI) for decision-making in critical sectors

Abstract

(English) The increasing integration of Artificial Intelligence (AI) into critical sectors demands a comprehensive understanding of decision-making processes to ensure trust and accountability. To address these challenges, Explainable Artificial Intelligence (XAI) has emerged as a research area aimed at enhancing the transparency of AI workflows. In detail, XAI seeks to provide insights into AI decision-making processes, thus improving trust and accountability. This dissertation explores the role of XAI in ensuring informed decision-making in critical sectors, focusing on the development and evaluation of explainability techniques tailored to real-world industrial scenarios that demand accurate XAI interfaces to ensure the usability in big data scenarios requiring time constrained explainability assesments. In detail, the dissertation contributes to the field by proposing novel interfaces and frameworks for XAI, designed to operate efficiently in big data environments. These contributions are validated through published works in reputable conferences and journals, demonstrating the practical utility and impact of the proposed methods. Ultimately, this research advances the understanding of XAI’s role in enhancing the transparency and accountability of AI systems, ensuring their safe and effective deployment in critical sectors.

(Català) L'adopció creixent de la Intel·ligència Artificial (IA) en sectors crítics exigeix una comprensió profunda dels processos de presa de decisions per garantir la confiança de l'usuari final. Per abordar aquests desafiaments, la Intel·ligència Artificial Explicable (XAI) ha sorgit com una àrea de recerca enfocada a millorar la transparència dels fluxos de treball de la IA. En detall, XAI busca proporcionar informació sobre els processos de presa de decisions de la IA, millorant així la confiança envers els models d'aprenentatge automàtic. Aquesta tesi doctoral explora el paper de XAI en la presa de decisions informades en sectors crítics, centrant-se en el desenvolupament i l'avaluació de tècniques d'explicabilitat adaptades a escenaris industrials del món real que requereixen interfícies precises de XAI per garantir-ne la usabilitat en entorns amb grans volums de dades i restriccions de temps en les avaluacions d'explicabilitat. En particular, la dissertació contribueix al camp proposant noves interfícies i marcs de treball per a XAI, dissenyats per operar de manera eficient en sectors crítics. Aquestes contribucions es validen a través de treballs publicats en conferències i revistes de prestigi, demostrant la utilitat pràctica i l'impacte dels mètodes proposats.

(Español) La creciente adopción de la Inteligencia Artificial (IA) en sectores críticos exige una comprensión profunda de los procesos de toma de decisiones para garantizar la confianza del usuario final. Para abordar estos desafíos, la Inteligencia Artificial Explicable (XAI) ha surgido como un área de investigación enfocada en mejorar la transparencia de los flujos de trabajo de la IA. En detalle, XAI busca proporcionar información sobre los procesos de toma de decisiones de la IA, mejorando así la confianza del usuario final. Esta tesis doctoral explora el papel de XAI en la toma de decisiones informadas en sectores críticos, centrándose en el desarrollo y la evaluación de técnicas de explicabilidad adaptadas a escenarios industriales del mundo real que requieren interfaces precisas de XAI para garantizar su usabilidad en entornos con grandes volúmenes de datos y restricciones de tiempo en las evaluaciones de explicabilidad. En particular, la disertación contribuye al campo proponiendo nuevas interfaces y marcos para XAI, diseñados para operar de manera eficiente. Estas contribuciones se validan a través de trabajos publicados en conferencias y revistas de prestigio, demostrando la utilidad práctica y el impacto de los métodos propuestos.