Communications control in distributed-memory parallel machines : a contribution to messages routing
Contrôle des communications dans les machines parallèles à mémoire distribuée : contribution au routage automatique des messages
Abstract
Massivelly parallel computers with thousand and more processors are considered one of today's promising technologies to achieve high performance computing. Such large-scale multiprocessors machines are usually organized as sets of nodes, where each node has its own processor and local memory, connected by some interconnection network. As generally nodes do not share memory, they communicate by passing messages through the network. In this dissertation, we adress the problem of messages routing in massivelly parallel computers. The stress is put on scalable algorithms which require an amount of resources independent of the network size and shape. Through the example of the supernode architecture (dynamically reconfigurable networks of transputers) we show that the complexity of handling the message exchanges by dynamically connecting processors is high in large scale machines. Our study focusses then on the problem of deadlock-free routing in non regular networks and we propose a novel algorithm. Recently the trend in parallel computer architectures is to offer hardware support for handling messages exchanges within nodes. To efficiently achieve this objective for massivelly parallel computers, new methods for compacting routing information on a node are required. A technique well suited for non regular networks is the interval routing introduced by Santoro and Khatib. For this kind of methods we propose deadlock-free solutions for k-ary ncubes and general networks. For the k-ary ncube our method gives moreover nearly optimal paths. Finally, we propose an original extension for interval labelling which needs routing tables of size $O(d^2)$ (where $d$ is the number of neighbors) for a node. This extension allows to represent more routing functions than the original interval labelling.
Cette these traite d'un ensemble de problemes lies a l'acheminement des messages dans les machines paralleles a memoire distribuee. L'accent est mis sur des solutions extensibles qui necessitent un nombre de ressources independant de la taille de la machine. A travers l'exemple des machines Supernodes (dont les processeurs sont interconnectes par un reseau de Clos 3-etages) nous montrons que l'acheminement des messages par reconfiguration dynamique est difficilement envisageable dans des machines de grande taille. Nous nous interessons ensuite au routage des messages dans des reseaux a topologie quelconque, et proposons une nouvelle methode de generation de fonctions de routage sans interblocage. La nouvelle generation des machines paralleles integre de plus en plus de fonctions dans le materiel, notamment le routage des messages. Pour que cette integration soit la plus efficace possible, des methodes nouvelles de representation compacte de l'information de routage sont necessaires. Santoro et Khatib ont propose une methode, le routage par intervalles, bien adaptee aux reseaux generaux. La deuxieme partie de cette these s'inscrit dans la continuite de ce type de travail et propose de nouvelles methodes de generation de fonctions de routage par intervalles. Deux cas sont consideres : le tore, et les reseaux generaux. Nous insistons plus particulierement sur des solutions sans interblocage, caracteristique rarement prise en compte. De plus dans le cas du tore, les longueurs des chemins sont proches des optima. Enfin, nous proposons une extension de la notion de routage par intervalles, le schema d'etiquetage etendu (SEE), permet de representer un spectre plus large de fonctions de routage.
Loading...