Detection and Explanation of Contextual Anomalies in Attributed Graphs
Détection et Explication des Anomalies Contextuelles dans les Graphes Attribués
Résumé
Anomaly detection in relational data represented as a graph has proven to be very useful in a lot of different domains, for example to detect fraudulent behavior on online platform or intrusion on telecommunications networks. However, most of existing methods use hand-crafted feature and do not necessarily use local information. To that end, we propose CoBaGAD, for Context Based Graph Anomaly Detector, that uses local information to detect anomalous nodes in an attributed graph in a semi-supervised setup. CoBaGAD is a graph neural network with custom attention mechanism that is able to generate a representation for the nodes, aggregate them and classify nodes unseen during training. Even though machine learning methods has proven very useful in a wide range of applications from computer vision to natural language processing and graph mining, a lot of these approaches are seen as black boxes where the output cannot humanly be related to the input in a simple way. This implies a lack of understanding of the underlying model and its results. In this work, we present a new method to explain, in a human-understandable fashion, the decision of a black-box model for anomaly detection on attributed graph data. More specifically, we focus on explaining node classification by learning a local interpretable model around a node to be explained. We show that our method can recover the information that leads the model to label a node as anomalous.
La détection d'anomalies dans des données relationnelles représentées sous forme de graphe s'est avérée très utile dans de nombreux domaines différents, par exemple pour détecter des comportements frauduleux sur des plateformes en ligne ou des intrusions dans des réseaux de télécommunications. Cependant, la plupart des méthodes existantes utilisent des caractéristiques créées à la main et n'utilisent pas nécessairement les informations locales. Dans ce but, nous proposons CoBaGAD, un détecteur d’anomalies contextuelles dans les graphes qui utilise l'information locale pour détecter les nœuds anormaux dans un graphe attribué dans une configuration semi-supervisée. CoBaGAD est un réseau neuronal sur graphe doté d'un mécanisme d'attention personnalisé capable de générer une représentation des nœuds, de les agréger et de classer les nœuds non vus pendant l’entraînement. Bien que les méthodes d'apprentissage automatique se soient avérées très utiles dans un large éventail d'applications allant de la vision par ordinateur au traitement du langage naturel et à l'exploration de graphes, un grand nombre de ces approches sont considérées comme des boîtes noires dont les résultats ne peuvent être humainement reliés aux entrées de manière simple. Cela implique un manque de compréhension du modèle sous-jacent et de ses résultats. Dans ce travail, nous présentons une nouvelle méthode pour expliquer, d'une manière compréhensible par l'homme, la décision d'un modèle de boîte noire pour la détection d'anomalies sur des données de graphes attribuées. Plus précisément, nous nous concentrons sur l'explication de la classification des nœuds en apprenant un modèle local interprétable autour d'un nœud à expliquer. Nous montrons que notre méthode peut récupérer l'information qui conduit le modèle à étiqueter un nœud comme anormal.
Domaines
Cryptographie et sécurité [cs.CR]
Origine : Version validée par le jury (STAR)