Abstract : The main part of this work consists in the study of spins submitted to competing interactions, and which are therefore frustrated. We give a detailed description of the experimental and numerical situation. We emphasize on the fact that it is necessary to go beyond perturbation theory for understanding the physical behavior of these systems. \\\indent A non-perturbative approach is therefore needed. We describe such an approach, based on an exact renormalization group equation. We discuss in details the case of vectorial models in order to show how this approach is implemented in practice, and to stress on its outstanding features. While studying frustrated systems, this non-perturbative approach indicates that these systems exhibit a weakly first order phase transition, in good agreement with experimental and numerical results. We present in the last chapter a study of the Ising model in presence of non-magnetic impurities by using the same non-perturbative approach.
Résumé : La majeure partie de ce travail consiste en l'étude de systèmes de spins soumis à des interactions compétitives et présentant de la frustration. Nous donnons une description détaillée de la situation expérimentale et numérique dans le domaine. Un des points cruciaux qui découle de cette analyse est la nécessité d'aller au delà des théories de perturbation pour comprendre la physique de ces systèmes. Ceci justifie d'utiliser une approche non-perturbative. Nous présentons une telle approche, basée sur une équation exacte du groupe de renormalisation. Nous discutons en détail les résultats obtenus lors de l'étude du modèle vectoriel, afin d'illustrer son utilisation dans les situations concrètes et de montrer la puissance de cette méthode. Lors de l'étude des systèmes frustrés, l'utilisation de cette méthode non-perturbative mène à la conclusion que ces systèmes présentent une transition faiblement du premier ordre. Ce comportement est en bon accord avec les résultats expérimentaux et numériques. Nous présentons dans le dernier chapitre une étude du modèle d'Ising en présence d'impuretés non magnétiques, en utilisant la même approche non perturbative.