A (small) step towards explainable artificial intelligence

Un (petit) pas vers l’explicabilité de l’intelligence artificielle

Romain Giot (1)

1 LaBRI - Laboratoire Bordelais de Recherche en Informatique

This document outlines my contributions since joining the LaBRI in September 2013, and my research plans for the coming years. The primary areas of research I discuss are: - Data analysis and machine learning. Here, I present work on biometric authentication and how features are attributed within deep neural networks. - Information visualization. This involves my research on techniques for drawing large graphs and grid-based visualization methods. - The intersection of information visualization and machine learning. I describe research on using visualization to aid machine learning, including biometric authentication, analysis and visualization of labeled datasets, and enhancing the understanding of deep neural networks. Additionally, I discuss using machine learning to improve visualization, such as automatically comparing visualization techniques, improving graph drawing, and removing overlaps in graph visualization. Research perspectives focus on this aspect.

Ce manuscrit retrace une partie de mes contributions depuis mon arrivée au LaBRI en septembre 2013, ainsi que les perspectives de recherche pour les prochaines années. Les aspects principaux de ma recherche concernent : - L'analyse de données et l'apprentissage automatique. Je présente des travaux liés à l'authentification biométrique et l'attribution de caractéristiques dans les réseaux de neurones profonds. - La visualisation d'informations. Je décris des travaux sur le dessin de grands graphes et la représentation de données dans des grilles. - La symbiose entre la visualisation d'informations et l'apprentissage automatique. Je discute des travaux sur la visualisation pour l'apprentissage (en authentification biométrique, analyse de base étiquetée et visualisation pour les réseaux de neurones profonds), et l'apprentissage pour la visualisation (pour la comparaison automatique de techniques de visualisation, le dessin de graphes et la suppression de chevauchements dans les nœuds en dessin de graphe). Les perspectives de recherche se focalisent sur cette thématique.

Mots clés: Machine learning; Biometric authentication; Graph visualization; Big data visualization; Explainability in machine learning; Machine learning for visualization; Visualization for machine learning

Mots clés: Apprentissage automatique; Authentification biométrique; Visualisation de graphes; Visualisation de masses de données; Explicabilité des modèles d'apprentissage; Apprentissage pour la visualisation; Visualisation pour l'apprentissage

Domaines: Informatique [cs]

Romain Giot. Un (petit) pas vers l’explicabilité de l’intelligence artificielle. Informatique [cs]. Université de Bordeaux, 2024. ⟨tel-04463271⟩