The Hybrid Methods in Combinatorial Optimization: Exact Algorithms and Heuristics
Les Méthodes Hybrides en Optimisation Combinatoire :
Algorithmes Exacts et Heuristiques
Résumé
The thesis is in the field of the particular field of operations research and combinatorial optimisation that is the modeling and algorithmic resolution. In this thesis we propose to study two
particular NP-Hard variant problems of the binary knapsack type. More precisely, we treat the
Knapsack Sharing Problem namely KSP and the Mutiple Choice Multidimensional Knapsack
Problem namely MMKP. The first part of this dissertation is concerning to develop approxiamate
algorithms for the two evoked variants of the 01 knapsask problem. The second part is
particularly concerning with the exact resolution of the MMKP. The exact approach which we
propose is of branch-and bound type which : (i) computes of lower and upper bounds and (ii)
develops a son-brother double node branches with a best first startegy of exploration.
Indeed, the first part gets the study of the two problems KSP and MMKP. We are interested
to develop approximate algorithms based upon local search strategies. First and concerning the
KSP, we propose a first version of an approximate algorithm based upon tabu search strategy.
Second, we enhance this version by combining the intensification of the search in the space of
solutions and the diversifiaction of the obtained solution. Experimental results shows the fastness
ofthe first version and the effectiveness and the efficiency of the second one. Next, we propose
two iterative local search methods for the MMKP. The first one is an heuristic based guided
local search end the second is a heuristic that we call a reactive local search approach with some
improving degrading and debloking strategies of the solution based local swapping search.
In the second part of the dissertation, we propose an optimal method based branch-and-bound for
solving the MMKP. First, we propose to transform the MMKP into an MMKPaux problem which
is a Multiple-Choice Knapsack Problem MCKP.We compute an upper bound for MMKPaux and
we establish the theoritical result for which an upper bound for MMKPaux is also an upper bound
for MMKP. After, we deal with the computing of lower and upper bounds which are necessary
to reduce the space search in a branch-and-bound approach. Add to this, the resolution strongly
depends on the density and the size of the treated instances. The experimental study shows
the the efficiency of the proposed algorithm which is able tos solve different groups of instances
of small and medium sizes. Finally, we explain the limits of the branch-and-bound developed
algorithm which are because of the the complexity of the studied model.
particular NP-Hard variant problems of the binary knapsack type. More precisely, we treat the
Knapsack Sharing Problem namely KSP and the Mutiple Choice Multidimensional Knapsack
Problem namely MMKP. The first part of this dissertation is concerning to develop approxiamate
algorithms for the two evoked variants of the 01 knapsask problem. The second part is
particularly concerning with the exact resolution of the MMKP. The exact approach which we
propose is of branch-and bound type which : (i) computes of lower and upper bounds and (ii)
develops a son-brother double node branches with a best first startegy of exploration.
Indeed, the first part gets the study of the two problems KSP and MMKP. We are interested
to develop approximate algorithms based upon local search strategies. First and concerning the
KSP, we propose a first version of an approximate algorithm based upon tabu search strategy.
Second, we enhance this version by combining the intensification of the search in the space of
solutions and the diversifiaction of the obtained solution. Experimental results shows the fastness
ofthe first version and the effectiveness and the efficiency of the second one. Next, we propose
two iterative local search methods for the MMKP. The first one is an heuristic based guided
local search end the second is a heuristic that we call a reactive local search approach with some
improving degrading and debloking strategies of the solution based local swapping search.
In the second part of the dissertation, we propose an optimal method based branch-and-bound for
solving the MMKP. First, we propose to transform the MMKP into an MMKPaux problem which
is a Multiple-Choice Knapsack Problem MCKP.We compute an upper bound for MMKPaux and
we establish the theoritical result for which an upper bound for MMKPaux is also an upper bound
for MMKP. After, we deal with the computing of lower and upper bounds which are necessary
to reduce the space search in a branch-and-bound approach. Add to this, the resolution strongly
depends on the density and the size of the treated instances. The experimental study shows
the the efficiency of the proposed algorithm which is able tos solve different groups of instances
of small and medium sizes. Finally, we explain the limits of the branch-and-bound developed
algorithm which are because of the the complexity of the studied model.
La thèse se situe dans le domaine de l'optimisation combinatoire, en particulier celui de la
modélisation et de la résolution algorithmique. Dans cette thèse, nous étudions deux variantes
NP-difficiles de problèmes de type sac-à-dos. Plus précisément, nous traitons le problème de
la distribution équitable (le Knapsack Sharing Problem : KSP) et le problème du sac-à-dos
généralisé à choix multiple (le Multiple-choice Multidimensional Knapasck Problem : MMKP).
Dans la première partie de cette thèse, nous nous intéressons au développement d'algorithmes
approchés pour les deux variantes évoquées du problème de type sac-à-dos. La deuxième partie
traite essentiellement de la résolution exacte du problème du sac-à-dos généralisé à choix multiple.
L'approche exacte que nous proposons est de type séparation et évaluation s'appuyant
principalement sur : (i) le calcul des bornes inférieure et supérieure et (ii) l'utilisation de la
stratégie par le meilleur d'abord en développant des branches à double noeuds fils et frère.
La première partie porte sur l'étude et la résolution approchée des deux problèmes KSP et
MMKP. Concernant le problème de la distribution équitable, nous proposons dans un premier
temps, une première version de l'algorithme exploitant certaines caractéristiques de la
recherche tabou. Dans un deuxième temps, nous développons une deuxième version de l'algorithme dont l'idée principale consiste à tenter de combiner l'intensification de la recherche dans l'espace des solutions et la diversification de la solution obtenue. Nous soulignons la rapidité
de la première version et l'efficacité de la deuxième. Ensuite nous nous intéressons au problème
de sac-à-dos généralisé à choix multiple. Nous proposons deux heuristiques de recherche locale
itérative. Le premier algorithme s'appuie sur une “recherche guidée”. Le deuxième algorithme
est une recherche locale que nous appelons réactive avec stratégies de déblocage et de dégradtion améliorantes de la solution et basées sur l'inter-change local.
Dans la deuxième partie de cette thèse, nous proposons une méthode de résolution exacte de type séparation et évaluation pour le problème du sac-à-dos généralisé à choix multiple. D'une part, nous nous proposons la réduction du problème initial au problème auxiliaire MMKPaux qui n'est autre que le problème de sac-à-dos à choix multiple MCKP. Nous calculons une borne supérieure pour le MMKPaux et nous établissons le résultat théorique pour lequel une borne supérieure pour le MMKPaux est une borne supérieure pour le MMKP. D'autre part, nous proposons le calcul d'une borne supérieure ainsi qu'une borne inférieure de départ pour le problème étudié qui sont nécessaires pour la réduction de l'espace de recherche. L'étude expérimentale montre l'efficacité de la méthode proposée sur différents groupes d'instances de petite et moyenne taille.
Nous expliquons enfin pourquoi cet algorithme exact atteint ses limites de résolution, dˆues
principalement à la complexité intrinsèque du modèle étudié. D'autant la résolution dépend de
la taille et la densité des instances traitées.
modélisation et de la résolution algorithmique. Dans cette thèse, nous étudions deux variantes
NP-difficiles de problèmes de type sac-à-dos. Plus précisément, nous traitons le problème de
la distribution équitable (le Knapsack Sharing Problem : KSP) et le problème du sac-à-dos
généralisé à choix multiple (le Multiple-choice Multidimensional Knapasck Problem : MMKP).
Dans la première partie de cette thèse, nous nous intéressons au développement d'algorithmes
approchés pour les deux variantes évoquées du problème de type sac-à-dos. La deuxième partie
traite essentiellement de la résolution exacte du problème du sac-à-dos généralisé à choix multiple.
L'approche exacte que nous proposons est de type séparation et évaluation s'appuyant
principalement sur : (i) le calcul des bornes inférieure et supérieure et (ii) l'utilisation de la
stratégie par le meilleur d'abord en développant des branches à double noeuds fils et frère.
La première partie porte sur l'étude et la résolution approchée des deux problèmes KSP et
MMKP. Concernant le problème de la distribution équitable, nous proposons dans un premier
temps, une première version de l'algorithme exploitant certaines caractéristiques de la
recherche tabou. Dans un deuxième temps, nous développons une deuxième version de l'algorithme dont l'idée principale consiste à tenter de combiner l'intensification de la recherche dans l'espace des solutions et la diversification de la solution obtenue. Nous soulignons la rapidité
de la première version et l'efficacité de la deuxième. Ensuite nous nous intéressons au problème
de sac-à-dos généralisé à choix multiple. Nous proposons deux heuristiques de recherche locale
itérative. Le premier algorithme s'appuie sur une “recherche guidée”. Le deuxième algorithme
est une recherche locale que nous appelons réactive avec stratégies de déblocage et de dégradtion améliorantes de la solution et basées sur l'inter-change local.
Dans la deuxième partie de cette thèse, nous proposons une méthode de résolution exacte de type séparation et évaluation pour le problème du sac-à-dos généralisé à choix multiple. D'une part, nous nous proposons la réduction du problème initial au problème auxiliaire MMKPaux qui n'est autre que le problème de sac-à-dos à choix multiple MCKP. Nous calculons une borne supérieure pour le MMKPaux et nous établissons le résultat théorique pour lequel une borne supérieure pour le MMKPaux est une borne supérieure pour le MMKP. D'autre part, nous proposons le calcul d'une borne supérieure ainsi qu'une borne inférieure de départ pour le problème étudié qui sont nécessaires pour la réduction de l'espace de recherche. L'étude expérimentale montre l'efficacité de la méthode proposée sur différents groupes d'instances de petite et moyenne taille.
Nous expliquons enfin pourquoi cet algorithme exact atteint ses limites de résolution, dˆues
principalement à la complexité intrinsèque du modèle étudié. D'autant la résolution dépend de
la taille et la densité des instances traitées.