Enforcing Service-Specific Replica Consistency Models and Response Time Requirements for Heterogeneous Replicated Services
La réalisation de modèles de cohérence et de requis de temps de réponse pour des services répliqués hétérogènes
Résumé
Replication is largely accepted as a technique to improve
the performance of popular Internet services, especially when they are
accessed simultaneously by many wide-area dispersed clients.
In the context of Replicated Service Hosting Systems, we address the problem of
selecting the replica, that provides satisfactory response time, to
the final clients and the problem of providing the appropriate
consistency constraints for all replicas. Existing work recognizes the
response time, as the metric that correlates directly with the user perceived performance. However, they don't take into account the real resource demands of the services and the current resource utilization.
This is not appropriate when we consider that each service has its specific needs with respect to
the system and the network resources that it uses. %the variety of the service workloads.
Also, the resources are heterogeneous, with respect to their capacities and load. We propose a response time estimation approach, where the
response time is decomposed into independent components (service times
and waiting times), and each component is approximated separately, by
taking into account the capacity and the current utilization of the resources, needed by the service workload. The service supplier expresses the performance he/she wishes to be observed by the clients, by specifying a bound or by requiring the best possible response time.
The response time requirement is enforced by a replica selection protocol, configured with the criterion, defining what is the suitable replica which should perform the clients' requests. We implemented this solution and the results, obtained experimentally, showed satisfactory fulfillment of the response time requirements, at a reasonable cost.
Existing work on replica consistency management offers a limited set of guarantees, for all the replicated services. However, different consistency constraints are pertinent from a service to another. We identify three consistency dimensions: quality of observable state, scheduling and dependency control. We propose a consistency meta-model, which reifies existing consistency guarantees, by identifying the parameters characterizing each dimension.
The meta-model is attached a consistency protocol, which enforces service-specific consistency
models, specified statically by the service suppliers. A
service-specific consistency model contains the safety constraints,
needed for the service to function correctly, when it is replicated,
and the liveness constraints needed for bounding the discrepancy
between the state of a particular replica and the ideal replica
state. The protocol is built up of three independent building bricks,
corresponding to the three orthogonal consistency dimensions. The
main thesis message is that our replication approach was able to manage the heterogeneity
of the services, with respect to their operation semantics and resource demands,
when providing the appropriate replica consistency guarantees and performance requirements.
the performance of popular Internet services, especially when they are
accessed simultaneously by many wide-area dispersed clients.
In the context of Replicated Service Hosting Systems, we address the problem of
selecting the replica, that provides satisfactory response time, to
the final clients and the problem of providing the appropriate
consistency constraints for all replicas. Existing work recognizes the
response time, as the metric that correlates directly with the user perceived performance. However, they don't take into account the real resource demands of the services and the current resource utilization.
This is not appropriate when we consider that each service has its specific needs with respect to
the system and the network resources that it uses. %the variety of the service workloads.
Also, the resources are heterogeneous, with respect to their capacities and load. We propose a response time estimation approach, where the
response time is decomposed into independent components (service times
and waiting times), and each component is approximated separately, by
taking into account the capacity and the current utilization of the resources, needed by the service workload. The service supplier expresses the performance he/she wishes to be observed by the clients, by specifying a bound or by requiring the best possible response time.
The response time requirement is enforced by a replica selection protocol, configured with the criterion, defining what is the suitable replica which should perform the clients' requests. We implemented this solution and the results, obtained experimentally, showed satisfactory fulfillment of the response time requirements, at a reasonable cost.
Existing work on replica consistency management offers a limited set of guarantees, for all the replicated services. However, different consistency constraints are pertinent from a service to another. We identify three consistency dimensions: quality of observable state, scheduling and dependency control. We propose a consistency meta-model, which reifies existing consistency guarantees, by identifying the parameters characterizing each dimension.
The meta-model is attached a consistency protocol, which enforces service-specific consistency
models, specified statically by the service suppliers. A
service-specific consistency model contains the safety constraints,
needed for the service to function correctly, when it is replicated,
and the liveness constraints needed for bounding the discrepancy
between the state of a particular replica and the ideal replica
state. The protocol is built up of three independent building bricks,
corresponding to the three orthogonal consistency dimensions. The
main thesis message is that our replication approach was able to manage the heterogeneity
of the services, with respect to their operation semantics and resource demands,
when providing the appropriate replica consistency guarantees and performance requirements.
Le problème que je traite dans la thèse est comment offrir de
manière efficace les contraintes de cohérence et les requis de temps de
réponse, demandés par des services repliqués hétérogènes, accédés à large échelle.
La réplication est une technique classique utilisée pour améliorer la performance des applications
Internet populaires, surtout quand elles sont accédées concurremment
par un grand nombre de clients, dispersés à travers le monde.
Les travaux existants ne prennent pas en compte la diversité des demandes des services
pour différentes ressources système et réseau. Cette hypothèse relève une difficulté importante du problème de l'estimation du temps de réponse.
Une autre difficulté est déterminée par la hétérogénéité des capacités des ressources et par la variabilité des disponibilités des ressources.
Nous proposons une approche d'estimation, où le temps de réponse est décomposé dans des composants indépendants (temps de service et temps
d'attente), et chaque composante est approximée séparément, en prenant
en compte les capacités et les utilisations courantes des ressources demandées par le service.
Le requis sur le temps de réponse est spécifié par le fournisseur du
service, par un seuil qui correspond à la moyenne de temps de
service des requêtes, ou comme critère d'optimisation, demandant le meilleur temps de réponse.
Le requis est realisé par un protocole générique qui détermine quel
est le réplicat approprié à choisir pour répondre aux requêtes de
chaque client, parmi tous les réplicats existants. Nous avons implementé cette solution et les résultats expérimentaux obtenus ont montrés la satisfaction du requis sur le temps de réponse, à un coût raisonnable.
Les approches existantes pour la gestion de la cohérence des
réplicats, offre un ensemble limité des garanties pour tous les
services. Tout de même, la variété des sémantiques des services,
demande des combinaisons des garanties différentes d'un service à
l'autre. Nous proposons un meta-modèle de cohérence, qui réifie les
garanties de cohérence existantes, en identifiant les paramètres qui
caractérisent chaqu'une des trois dimensions de la cohérence: contrôle
de divergence, contrôle de concurrence et contrôle de dépendances.
Le meta-modèle est attaché un protocole de cohérence générique, qui réalise des modèles de cohérence spécifiques aux services. Un modèle de cohérence, spécifié par le fournisseur du service, contient
des contraintes de sûreté, nécessaires pour que le service fonctionne
correctement lorsqu'il est répliqué, et des contraintes de vivacité,
nécessaires pour limiter la discrépance entre l'état d'un réplicat
particulier et l'état du réplicat idéal. Le protocole de cohérence
assemble trois briques de base indépendantes, qui correspondent aux
trois dimensions orthogonales de la cohérence.
Le message de la thèse c'est que notre approche de réplication gère la hétérogénéité des
services en terme de sémantiques des opérations et de demandes de
ressources, en satisfaisant les contraintes appropriées concernant la cohérence des réplicats
et la performance observé par les requetes des clients.
manière efficace les contraintes de cohérence et les requis de temps de
réponse, demandés par des services repliqués hétérogènes, accédés à large échelle.
La réplication est une technique classique utilisée pour améliorer la performance des applications
Internet populaires, surtout quand elles sont accédées concurremment
par un grand nombre de clients, dispersés à travers le monde.
Les travaux existants ne prennent pas en compte la diversité des demandes des services
pour différentes ressources système et réseau. Cette hypothèse relève une difficulté importante du problème de l'estimation du temps de réponse.
Une autre difficulté est déterminée par la hétérogénéité des capacités des ressources et par la variabilité des disponibilités des ressources.
Nous proposons une approche d'estimation, où le temps de réponse est décomposé dans des composants indépendants (temps de service et temps
d'attente), et chaque composante est approximée séparément, en prenant
en compte les capacités et les utilisations courantes des ressources demandées par le service.
Le requis sur le temps de réponse est spécifié par le fournisseur du
service, par un seuil qui correspond à la moyenne de temps de
service des requêtes, ou comme critère d'optimisation, demandant le meilleur temps de réponse.
Le requis est realisé par un protocole générique qui détermine quel
est le réplicat approprié à choisir pour répondre aux requêtes de
chaque client, parmi tous les réplicats existants. Nous avons implementé cette solution et les résultats expérimentaux obtenus ont montrés la satisfaction du requis sur le temps de réponse, à un coût raisonnable.
Les approches existantes pour la gestion de la cohérence des
réplicats, offre un ensemble limité des garanties pour tous les
services. Tout de même, la variété des sémantiques des services,
demande des combinaisons des garanties différentes d'un service à
l'autre. Nous proposons un meta-modèle de cohérence, qui réifie les
garanties de cohérence existantes, en identifiant les paramètres qui
caractérisent chaqu'une des trois dimensions de la cohérence: contrôle
de divergence, contrôle de concurrence et contrôle de dépendances.
Le meta-modèle est attaché un protocole de cohérence générique, qui réalise des modèles de cohérence spécifiques aux services. Un modèle de cohérence, spécifié par le fournisseur du service, contient
des contraintes de sûreté, nécessaires pour que le service fonctionne
correctement lorsqu'il est répliqué, et des contraintes de vivacité,
nécessaires pour limiter la discrépance entre l'état d'un réplicat
particulier et l'état du réplicat idéal. Le protocole de cohérence
assemble trois briques de base indépendantes, qui correspondent aux
trois dimensions orthogonales de la cohérence.
Le message de la thèse c'est que notre approche de réplication gère la hétérogénéité des
services en terme de sémantiques des opérations et de demandes de
ressources, en satisfaisant les contraintes appropriées concernant la cohérence des réplicats
et la performance observé par les requetes des clients.