Depuis sa création, eBay a constitué un portefeuille de 12 centres de données pour faire face à sa charge informatique sans cesse croissante.
Il n'est donc pas surprenant que les coûts d'exploitation des centres de traitement de données d'eBay augmentent également chaque année, à mesure que l'activité se développe.
En réponse, eBay a élaboré et mis en œuvre un plan quadriennal pour ses centres de données, avec un objectif ambitieux : réduire de moitié ses coûts énergétiques et doubler ses performances de calcul. Parallèlement, cette nouvelle architecture d’infrastructure devait garantir une plus grande agilité opérationnelle et une fiabilité accrue.
Pour atteindre ces objectifs, eBay allait regrouper ses actifs dans un nombre réduit de centres de données, chacun étant conçu dès le départ pour une efficacité énergétique maximale sans compromettre la disponibilité.
« Une stratégie de centre de données performante part du principe que la demande de calcul augmentera chaque année, mais permet cette croissance sans augmentation proportionnelle des dépenses d'exploitation », explique Dean Nelson, responsable de la stratégie et des opérations des centres de données chez eBay.
« Nous devons rompre la relation linéaire entre la charge de calcul et les coûts d'exploitation, ce qui exige des progrès réguliers et significatifs en matière d'efficacité énergétique, de capacité de calcul et d'utilisation des serveurs. »
En mai 2010, eBay a inauguré son centre de données phare, le projet Topaz, pierre angulaire de sa nouvelle stratégie.
Situé à South Jordan, dans l'Utah, Topaz représente le plus important investissement jamais réalisé par eBay et hébergera plus d'un tiers de son infrastructure serveur mondiale. Malgré la présence de toutes les redondances requises pour un centre de données de niveau IV, Topaz affiche un coefficient d'efficacité énergétique de seulement 1,4.
L'efficacité maximale des racks est obtenue grâce à des pratiques exemplaires.
En employant des mécanismes innovants et économes en énergie dans son infrastructure, tels qu'une conception architecturale améliorée, des dispositifs d'économie d'eau, la récupération des eaux de pluie et des commandes dynamiques dans les sous-systèmes électriques et de refroidissement, les installations de Topaz fournissent de l'énergie et du refroidissement à l'étage supérieur à un coût minimal.
Outre ces mesures sur site, Topaz a également mis en œuvre de nombreuses bonnes pratiques dans l'espace du plancher technique, en collaborant étroitement avec le fournisseur de la centrale de refroidissement afin de contribuer à l'obtention de la certification LEED Or.
Cinq caractéristiques du plancher technique Topaz sont particulièrement intéressantes de par leur valeur et leur applicabilité à tous les centres de données modernes :
1. Confinement des allées chaudes :
Afin d'optimiser le refroidissement, eBay a mis en œuvre une conception de confinement des allées chaudes rigoureuse, avec un prototype soigneusement calculé avant la construction.
À son siège de San Jose, l'équipe d'architecture des centres de données d'eBay a construit des maquettes à l'échelle 1 de différents systèmes de confinement et a testé diverses stratégies (confinement des allées chaudes versus confinement des allées froides), matériaux (portes de confinement versus revêtement plastique) et dimensions. Ce processus de conception a permis de déterminer un équilibre optimal entre coût, flexibilité et fiabilité avant le déploiement à grande échelle. eBay a constaté qu'aucun autre système de confinement des allées chaudes n'offrait une marge de manœuvre aussi importante que le confinement des allées froides en cas de panne d'un climatiseur de précision. L'équipe a déployé des allées de confinement composées d'armoires 45U et a collaboré avec le distributeur pour garantir une conception modulaire tout en minimisant les fuites.
2. Distribution 400 V pour chaque baie :
eBay souhaitait que chaque baie, contenant plusieurs serveurs lames, puisse fournir une puissance allant jusqu’à 17 kW. Si un système de distribution 208 V classique permet d’atteindre cet objectif, Topaz réduit considérablement les coûts en étendant la distribution haute tension à toutes les baies.
En fournissant une alimentation de 400 V à chaque baie, eBay réduit les pertes liées à la transformation de tension et à la transmission par câble, ainsi que la consommation de cuivre.
Plus précisément, eBay fournit une alimentation triphasée de 400 V à deux unités de distribution d'alimentation (PDU) Raritan Smart Rack (également appelées multiprises ou PDU de rack) dans chaque baie. Ces PDU, avec leur câblage interne triphasé en étoile (WYE), alimentent chaque serveur en monophasé 240 V, une tension compatible avec la quasi-totalité des équipements informatiques.
En éliminant les transformations de tension inutiles, l'alimentation 400 V permet de réduire les coûts énergétiques de 2 à 3 % par rapport à une distribution 208 V et de 4 à 5 % par rapport à une distribution 120 V.
Distributeur mondial d'unités de distribution d'énergie pour racks, Raritan propose une vaste gamme de configurations compatibles avec une prise 400 V. Bien que la distribution 400 V soit relativement récente en Amérique du Nord, Raritan a déployé des systèmes 400 V qui constituent la norme en Australie et dans de nombreux pays européens.
3. Mesure détaillée de la consommation électrique des serveurs.
Le coût total par recherche est sans doute l'indicateur économique le plus important pour l'équipe d'exploitation du centre de données. Compte tenu de l'augmentation considérable de la capacité des processeurs des serveurs à chaque nouvelle génération de produits, eBay remplace ses serveurs tous les deux ans, car le gain en performance par watt compense largement le coût des nouveaux équipements.
Pour chaque serveur acquis, eBay ne peut toutefois réduire son coût par recherche qu'en prenant en compte l'ensemble des coûts d'exploitation du serveur, et non seulement les dépenses d'investissement. Les coûts énergétiques représentent notamment le poste de dépense le plus important pour tout actif.
Pour optimiser ses économies, eBay a installé des PDU rack Raritan qui fournissent des données précises de consommation énergétique pour l'alimentation de chaque serveur. Conformes aux normes de facturation IEC/ANSI, les PDU rack Dominion PX de Raritan fournissent des données continues de consommation en kilowattheures (kWh) avec un taux d'erreur inférieur à 1 % pour chaque équipement du centre de données. Conçus dans le respect des normes informatiques et d'infrastructure, les Dominion PX peuvent transmettre ces données aux systèmes de gestion des bâtiments et de suivi des actifs en temps réel, atteignant ainsi le niveau de surveillance PUE3 défini par Green Grid.
« Dominion PX me permet d'obtenir la précision nécessaire pour calculer au centime près les coûts d'exploitation réels de chaque serveur », explique Nelson. « Je peux ainsi comprendre les profils d'efficacité et les besoins énergétiques de tous les fabricants, qui sont pris en compte dans le prochain appel d'offres pour les serveurs. ».
4. Instrumentation de température granulaire
Après avoir intégré de nombreux mécanismes de pointe dans son infrastructure de refroidissement, Topaz a également amélioré son efficacité de refroidissement, tant en termes d'économies de coûts que de fiabilité, grâce à une compréhension en temps réel de l'environnement d'exploitation de tous les serveurs.
Bien que la plupart des centres de données surveillent les températures de consigne et de retour, ces données ne reflètent qu'approximativement l'environnement réel des serveurs. Ces approximations obligent les opérateurs à créer des marges de sécurité et des zones de refroidissement insuffisantes, ce qui, par définition, engendre un gaspillage d'énergie.
À l'inverse, eBay connaît la température exacte d'entrée et de sortie de chaque baie du centre de données Topaz. Plus précisément, Topaz respecte les recommandations ASHRAE en matière de surveillance de l'environnement des serveurs, en mesurant la température des allées froides en haut, au milieu et en bas, en plus de celle des allées chaudes. Grâce à cette surveillance continue, eBay peut optimiser ses paramètres de refroidissement pour une efficacité maximale et être alerté instantanément en cas de panne de serveur.
En règle générale, déployer un tel niveau de surveillance environnementale dans chaque baie serait prohibitif. Cependant, la gamme complète de PDU intelligents Dominion PX offre cette instrumentation précise sans frais d'infrastructure supplémentaires, hormis les capteurs de température plug-and-play.
La couche réseau existante fournie par les PDU de rack de Raritan est prête à mesurer et à surveiller les données d'humidité et de température
5. Conduits de distribution électrique aériens :
La plupart des centres de données possèdent un enchevêtrement de câbles sous le plancher, reliant les panneaux à chaque baie. Or, cette conception entrave considérablement la circulation de l’air et nuit à l’efficacité du refroidissement. Comme ces conduits sont généralement situés sous le plancher technique, le problème est souvent négligé et peut s’avérer important.
De plus, une conception standard avec des connexions sous plancher dédiées pour chaque disjoncteur entraîne une consommation excessive et sous-utilisée de cuivre, tout en limitant la flexibilité lors de l’installation de nouvelles baies.
Pour résoudre ce problème, Topaz utilise un conduit de distribution électrique aérien permettant de raccorder facilement n'importe quelle armoire à une source d'alimentation de 400 A. Deux barres omnibus parcourent chaque rangée d'armoires, assurant une alimentation redondante et éliminant ainsi tout besoin de raccordements sous plancher. L'ajout de prises de courant est possible en quelques minutes, n'importe où le long de la rangée, grâce à l'installation d'une boîte de jonction protégée par un disjoncteur, évitant ainsi d'attendre plusieurs jours l'intervention d'un électricien.
Résumé :
eBay est une entreprise qui privilégie la fiabilité, car les coûts d’indisponibilité s’élèvent à 2 000 $ par seconde, soit 120 000 $ par minute. L’ampleur de ses opérations implique également la maîtrise des coûts d’équipement et d’électricité. Pour ce faire, eBay a développé un modèle de centre de données qui garantit une fiabilité optimale de ses opérations informatiques et un coût 50 % inférieur à celui des centres de données qu’elle met hors service.
En plus de minimiser les pannes et de réduire les coûts d'exploitation, l'usine d'eBay à South Jordan (Utah, États-Unis) a obtenu la distinction or pour le Leadership in Energy and Green Design (LEED) du US Green Building Council.
Cependant, la flexibilité conçue pour le centre de données d'eBay n'est pas moins importante que la certification LEED Or en matière d'efficacité énergétique ou la fiabilité de niveau IV.
Il s'agit d'un centre de données adaptable à l'évolution des besoins et des équipements, et notamment pour eBay, à la demande croissante qui exige de l'espace pour la croissance future.
En appliquant les meilleures pratiques du secteur informatique, illustrées par eBay, même les centres de données de plus petite taille peuvent améliorer leur disponibilité, réduire leurs coûts et gagner en efficacité grâce à l'utilisation d'équipements existants et de processus et techniques simples.
Auteur:
Article fourni par Raritan
