Applications of Deep Learning to the Design of Enhanced Wireless Communication Systems - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Applications of Deep Learning to the Design of Enhanced Wireless Communication Systems

Applications de l’Apprentissage Profond à la Conception de Systèmes de Communication Sans Fil Améliorés

Résumé

Innovation in the physical layer of communication systems has traditionally been achieved by breaking down the transceivers into sets of processing blocks, each optimized independently based on mathematical models. This approach is now challenged by the ever-growing demand for wireless connectivity and the increasingly diverse set of devices and use-cases. Conversely, deep learning (DL)-based systems are able to handle increasingly complex tasks for which no tractable models are available. By learning from the data, these systems could be trained to embrace the undesired effects of practical hardware and channels instead of trying to cancel them. This thesis aims at comparing different approaches to unlock the full potential of DL in the physical layer. First, we describe a neural network (NN)-based block strategy, where an NN is optimized to replace one or multiple block(s) in a communication system. We apply this strategy to introduce a multi-user multiple-input multiple-output (MU-MIMO) detector that builds on top of an existing DL-based architecture. The key motivation is to replace the need for retraining on each new channel realization by a hypernetwork that generates optimized sets of parameters for the underlying DL detector. Second, we detail an end-to-end strategy, in which the transmitter and receiver are modeled as NNs that are jointly trained to maximize an achievable information rate. This approach allows for deeper optimizations, as illustrated with the design of waveforms that achieve high throughputs while satisfying peak-to-average power ratio (PAPR) and adjacent channel leakage ratio (ACLR) constraints. Lastly, we propose a hybrid strategy, where multiple DL components are inserted into a traditional architecture but trained to optimize the end-to-end performance. To demonstrate its benefits, we propose a DL-enhanced MU-MIMO receiver that both enable lower bit error rates (BERs) compared to a conventional receiver and remains scalable to any number of users. Each approach has its own strengths and shortcomings. While the first one is the easiest to implement, its individual block optimization does not ensure the overall system optimality. On the other hand, systems designed with the second approach are computationally complex and do not comply with current standards, but allow the emergence of new opportunities such as high-dimensional constellations and pilotless transmissions. Finally, even if the block-based architecture of the third approach prevents deeper optimizations, the combined flexibility and end-to-end performance gains motivate its use for short-term practical implementations.
L’innovation dans la couche physique des systèmes de communications a traditionnellement été réalisée en modélisant les émetteurs-récepteurs comme une suite de blocs, chacun étant optimisé indépendamment sur la base de modèles mathématiques. Cette approche est aujourd’hui remise en question par la demande croissante de connectivité et la diversité des cas d’utilisation. À l’inverse, les systèmes basés sur l’apprentissage profond (deep learning, DL) sont capables de traiter des tâches de plus en plus complexes en apprenant à partir de données. Cette thèse vise donc à comparer différentes approches pour exploiter le plein potentiel du DL dans la couche physique. Tout d’abord, nous décrivons une stratégie basée sur un réseau neuronal (neural network, NN) qui est optimisé pour remplacer un ou plusieurs blocs consécutifs dans un système de communication. Nous appliquons cette stratégie pour introduire un détecteur multi-utilisateurs à entrées et sorties multiples (multi-user multiple-input multiple-output, MU-MIMO) qui s’appuie sur un détecteur existant basé sur du DL. L’idée est d’utiliser un hyper-réseau de neurones pour générer des paramètres optimisés pour le détecteur DL sous-jacent. Deuxièmement, nous détaillons la stratégie de bout en bout, dans laquelle les émetteurs-récepteurs sont modélisés comme des NNs qui sont entraînés conjointement pour maximiser un taux d’information réalisable. Cette approche permet des optimisations plus profondes, comme l’illustre la conception de formes d’onde qui atteignent des débits élevés tout en satisfaisant des contraintes sur le signal et son spectre. Enfin, nous proposons une stratégie hybride, où plusieurs composants DL sont insérés dans une architecture traditionnelle mais entraînés pour optimiser les performances de bout en bout. Pour démontrer ses avantages, nous proposons un récepteur MU-MIMO amélioré par DL qui permet à la fois de réduire les taux d’erreur binaire (bit error rate, BER) par rapport à un récepteur classique et de rester adaptable à un nombre variable d’utilisateurs. Chaque approche a ses propres forces et faiblesses. Si la première est la plus facile à implémenter, l’optimisation individuelle de chaque bloc ne garantit pas l’optimalité du système entier. En revanche, les systèmes conçus selon la seconde approche sont souvent trop complexes et ne sont pas conformes aux standards actuels, mais ils permettent l’émergence de nouvelles possibilités telles que des constellations de grande dimension et des transmissions sans pilote. Enfin, même si l’architecture par blocs de la troisième approche empêche des optimisations plus poussées, la combinaison de sa flexibilité et de son optimisation de bout en bout motive son utilisation pour des implémentations à court terme.
Fichier principal
Vignette du fichier
PhD_Mathieu_GOUTAY.pdf (16.56 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-03656696 , version 1 (02-05-2022)

Identifiants

  • HAL Id : tel-03656696 , version 1

Citer

Mathieu Goutay. Applications of Deep Learning to the Design of Enhanced Wireless Communication Systems. Information Theory [cs.IT]. Université de Lyon, 2022. English. ⟨NNT : ⟩. ⟨tel-03656696⟩
76 Consultations
13 Téléchargements

Partager

Gmail Facebook X LinkedIn More