Classification and segmentation of vascular network in histological images : application to renal cell carcinoma - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Classification and segmentation of vascular network in histological images : application to renal cell carcinoma

Classification et segmentation du réseau vasculaire dans les images histologiques : application au carcinome à cellules rénales

Rudan Xiao
  • Fonction : Auteur
  • PersonId : 1355707
  • IdRef : 275960110

Résumé

Renal Cell Carcinoma (RCC) is one of the most common malignancies and histopathological image analysis is a gold standard for RCC diagnostic method. Recognizing the type of RCC tumor and the possibility of cell migration highly depends on the geometric and topological properties of the vascular network. Motivated by the diagnosis pipeline, we explore whether the vascular network visible in RCC histopathological images is sufficient to characterize the RCC subtype. To achieve this, we firstly build a new RCC histopathological image dataset, namely the BigRCC dataset, which contains 63430 patch images of clear Cell RCC (ccRCC), papillary RCC (pRCC), Chromophobe (chRCC), and Oncocytoma. Then we build a vascular network-based RCC histopathological image dataset of 31 patients, namely the VRCC dataset, with 424 weakly-labeled vascular network annotations, coming from tumor patch images of ccRCC, pRCC, and chRCC. Based on these vascular networks of the VRCC dataset, we propose new handcrafted features, namely skeleton features and lattice features. These features well represent the geometric and topological properties of the vascular networks of RCC histopathological images. Then we build strong benchmark results with various algorithms (both traditional and deep learning models) on the VRCC dataset. The results of skeleton and lattice features outperform popular deep learning models. Unfortunately, there is a lack of large manually annotated vascular network databases for learning-based methods. Moreover, vascular network annotating is very time-consuming, which would limit its potential application. Besides, automatic vascular network segmentation from histopathological images is still a challenge due to the background complexity. To facilitate vascular network application, in this thesis, we propose a method that reduces reliance on labeled data through semi-supervised learning (SSL). Additionally, considering the correlation between tumor classification and vascular segmentation, we propose a multi-task learning (MTL) model that can simultaneously segment the vascular network using SSL and predict the tumor class in a supervised context. This multi-task learning procedure offers an end-to-end machine learning solution to jointly segment the vascular network from histopathological images and classify tumor subtypes. Experiments were carried out on the VRCC dataset and then tested on both own RCC and open-source TCGA datasets. The results show that the proposed MTL-SSL model outperforms the conventional supervised-learning segmentation approach.
Le carcinome à cellules rénales (RCC) est l'une des tumeurs malignes les plus courantes et le diagnostic pathologique postopératoire est la méthode étalon pour le diagnostic du RCC. La reconnaissance du type de tumeur RCC et la possibilité de migration cellulaire dépendent fortement des propriétés géométriques et topologiques du réseau vasculaire. Dans ce travail, nous explorons le réseau vasculaire visible dans les images histopathologiques du RCC et étudions s’il est suffisant pour caractériser le sous-type de RCC. Pour ce faire, nous construisons d'abord une nouvelle base de données images histopathologiques RCC, à savoir l'ensemble de données BigRCC, qui contient 63430 imagettes de carcinome à cellules claires (ccRCC), de carcinome papillaire (pRCC), chromophobe (chRCC) et oncocytome. Ensuite, nous construisons une seconde base de données d'images histopathologiques de RCC du réseau vasculaire de 31 patients, à savoir la base de données VRCC, contenant 424 annotations du réseau vasculaire, provenant d'images de patchs tumoraux de ccRCC, pRCC et chRCC. Sur la base de ces réseaux vasculaires du jeu de données VRCC, nous proposons de nouvelles caractéristiques, à savoir des caractéristiques du squelette du réseau et des caractéristiques des zones entre les vaisseaux . Ces caractéristiques représentent bien les propriétés géométriques et topologiques des réseaux vasculaires des images histopathologiques. Ensuite, nous construisons des résultats de référence solides avec divers algorithmes (modèles d'apprentissage traditionnels et profonds) sur l'ensemble de données VRCC. Les résultats des caractéristiques de squelette et de réseau surpassent les modèles classiques par apprentissage profond. Malheureusement, il existe peu de grandes bases de données de réseaux vasculaires annotées manuellement. De plus, l'annotation du réseau vasculaire est très chronophage, ce qui limite son application potentielle. En outre, la segmentation automatique du réseau vasculaire à partir d'images histopathologiques reste un défi majeur en raison de la complexité de l'arrière-plan. Pour faciliter l'utilisation du réseau vasculaire nous proposons, dans cette thèse, une méthode qui réduit la dépendance aux données étiquetées grâce à l'apprentissage semi-supervisé (SSL). De plus, compte tenu de la corrélation entre la classification tumorale et la segmentation vasculaire, nous proposons un modèle d'apprentissage multi-tâches (MTL) qui peut simultanément segmenter le réseau vasculaire à l'aide du SSL et prédire la classe tumorale dans un contexte supervisé. Cette procédure d'apprentissage multi-tâches offre une solution d'apprentissage automatique de bout en bout pour segmenter conjointement le réseau vasculaire à partir d'images histopathologiques et classer les sous-types de tumeurs. Des expériences ont été menées sur l'ensemble de données VRCC, puis testées sur nos propres ensembles de données RCC et sur les données de la base TCGA. Les résultats montrent que le modèle MTL-SSL proposé surpasse l'approche conventionnelle de segmentation par apprentissage supervisé.
Fichier principal
Vignette du fichier
2022COAZ4075.pdf (22.84 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-04472337 , version 1 (22-02-2024)

Identifiants

  • HAL Id : tel-04472337 , version 1

Citer

Rudan Xiao. Classification and segmentation of vascular network in histological images : application to renal cell carcinoma. Image Processing [eess.IV]. Université Côte d'Azur, 2022. English. ⟨NNT : 2022COAZ4075⟩. ⟨tel-04472337⟩
37 Consultations
7 Téléchargements

Partager

Gmail Facebook X LinkedIn More