The interplay of machine learning and metaheuristics

Les interactions entre le machine learning et la métaheuristique

Hojjat Rakhshani (1)

1 IRIMAS - Institut de Recherche en Informatique Mathématiques Automatique Signal - IRIMAS - UR 7499

Optimization algorithms have seen unprecedented growth thanks to their successful applications in fields including engineering and health sciences. Similarly, machine learning has been popularly used in perceptual tasks by both academic and industrial researchers. They are both designed to find solutions for some specific tasks and it is not straightforward to apply an existing method to a new domain and still have superior results. Hence, experts have to construct specialized methods for each given task. The extra degree of freedom from the design space could make this process very time-consuming and has motivated a demand for automated search methods that can be adopted easily without any expert knowledge. In this thesis, we claim the mentioned contribution by porting existing methodsfrom machine learning to optimization domain and vice versa. The first part of this thesis suggests many lines of investigation with possibilities related to the development of more enhanced optimization algorithms using machine learning. The second part discusses a modeling scheme to optimize the performance of machine learning tools with metaheuristic algorithms.

Les algorithmes d’optimisation ont connu une croissance sans précédent grâce leurs applications russies dans de nombreux domaines notamment en ingnierie et en sant. De mme, les algorithmes d'apprentissage automatique ont t couramment utiliss sur des problmes de perception par les chercheurs et les industriels. Les deux catgories dalgorithmes sont conus pour trouver des meilleures solutions à certains problèmes spécifiques et leurs adaptations pour un nouveau problème ne garantit pas l'obtention de bons rsultats. Par consquent, les experts doivent construire des mthodes spcialises pour chaque problme donn. Cela ajoute un degr de libert supplmentaire dans la phase de conception qui pourrait rendre le processus de dveloppement trs long. Cela a motiv une demande de mthodes de recherche qui peuvent tre adoptes facilement sans aucune connaissance experte. Dans cette thse, nous proposonsdes pistes dintgration des mthodes dapprentissage automatique dans les mtaheuristiques et vice-versa. La premire partie de cette thse dcrit quelques pistes d’investigation avec des possibilits lies au dveloppement d’algorithmes d’optimisation plus avancs utilisant le machine learning. La deuxime partie prsente un schma de modlisation pour optimiser les performances des outils d’apprentissage automatique tout en utilisant des algorithmes doptimisation bass sur des mtaheuristiques.

Mots clés: Metaheuristics; Deep learning; GPU computing; Optimization; Neural networks; Hybrid algorithms

Mots clés: Métaheuristique; Apprentissage profond; Informatique GPU; Optimisation; Réseaux neuronaux; Algorithmes hybrides

Domaines: Algorithme et structure de données [cs.DS]; Apprentissage [cs.LG]; Réseau de neurones [cs.NE]

Hojjat Rakhshani. The interplay of machine learning and metaheuristics. Data Structures and Algorithms [cs.DS]. Université de Haute Alsace - Mulhouse, 2020. English. ⟨NNT : 2020MULH3361⟩. ⟨tel-03666679⟩