Ce terme qui revient de plus en plus dans les annonces des grands fournisseurs : l'architecture IA rack-scale; nous l'évoquions récemment à propos de l'alliance entre Cisco et NVIDIA, dans notre article sur l'infrastructure IA sécurisée en entreprise. Mais concrètement, qu'est-ce que cela change par rapport à une infrastructure IA "classique" ? Et surtout, à partir de quel moment une entreprise doit-elle commencer à y penser sérieusement ?
Du serveur individuel au rack comme unité de calcul
Pendant longtemps, un data center s'est pensé serveur par serveur. Chaque machine avait ses propres GPU, sa propre mémoire, son propre rôle. Le rack qui les contenait n'était qu'un support physique, pas une unité de calcul en soi.
Avec l'IA générative à grande échelle, cette logique a changé. Les modèles les plus lourds ne tiennent plus sur un seul serveur : ils doivent répartir leurs calculs sur plusieurs GPU interconnectés, parfois des dizaines à la fois. Le rack entier devient alors l'unité de référence, pensé et vendu comme un système unique plutôt que comme une collection de machines indépendantes.
Pourquoi l'interconnexion change tout
Ce qui distingue une architecture rack-scale, c'est la vitesse à laquelle les GPU communiquent entre eux à l'intérieur du rack. Des technologies comme le NVLink de NVIDIA permettent à des dizaines de GPU de partager leur mémoire et leurs calculs presque comme s'ils formaient un seul et immense processeur.
Cette interconnexion très rapide à l'intérieur du rack se distingue du réseau classique qui relie les racks entre eux. C'est une nuance importante : une architecture rack-scale combine une interconnexion ultra-rapide en interne, et un réseau performant pour relier l'ensemble à l'infrastructure de l'entreprise, un sujet que nous détaillons dans notre article sur le réseau nouvelle génération.
Le vrai défi : la puissance et le refroidissement
Un rack IA moderne peut consommer plusieurs dizaines de kilowatts, parfois plus de 100 kW, là où un rack classique dépasse rarement 10 à 15 kW. Cette densité change tout : le refroidissement par air ne suffit plus, et le refroidissement liquide devient la norme plutôt que l'exception.
Concrètement, cela veut dire que déployer ce type d'architecture ne se limite pas à acheter du matériel : il faut aussi repenser l'alimentation électrique et le système de refroidissement de la salle serveur elle-même. C'est souvent ce point, plus que le prix des GPU, qui bloque les projets mal préparés.
Le stockage doit suivre le même rythme
Un cluster de calcul aussi dense ne sert à rien si les données n'arrivent pas assez vite. Nous l'expliquions dans notre article sur le stockage intelligent pour l'IA : les GPU passent parfois plus de temps à attendre des données qu'à calculer, si le stockage n'est pas dimensionné en conséquence.
C'est pour cette raison que les architectures rack-scale les plus récentes intègrent directement des couches de stockage haute performance au plus proche du calcul, un principe déjà posé dans notre article sur le stockage haute performance pour l'IA.
La sécurité ne peut plus être une option ajoutée après coup
Plus une architecture concentre de puissance de calcul et de données sensibles, plus elle devient une cible critique. C'est tout l'enjeu de l'approche défendue par Cisco et NVIDIA dans leur Secure AI Factory : intégrer la sécurité directement dans la conception du rack, plutôt que de la superposer après le déploiement.
Cette logique rejoint les principes plus larges que nous détaillions dans notre article sur la cybersécurité des infrastructures IA : la protection d'un système IA doit être pensée à chaque étage, du réseau jusqu'au stockage.
Une architecture réservée aux hyperscalers ?
Pas nécessairement. Si les déploiements les plus spectaculaires concernent effectivement des géants du cloud, la logique du rack-scale se retrouve aujourd'hui à des échelles plus modestes chez des fournisseurs comme Dell, dans des offres pensées pour accompagner la montée en charge progressive des entreprises, comme nous le détaillions dans notre article sur Dell AI Factory.
Pour une entreprise malgache ou régionale, l'enjeu n'est généralement pas de déployer un rack à 100 kW dès le premier projet, mais de comprendre cette logique pour éviter de construire une infrastructure qui devra être entièrement repensée dès que les besoins en IA augmenteront. C'est le fil conducteur de notre article sur l'infrastructure IA d'entreprise.
Les questions à se poser avant de s'engager
- Le bâtiment dispose-t-il de la capacité électrique et de refroidissement nécessaire ?
- Le stockage est-il capable de suivre le rythme du calcul, ou deviendra-t-il le nouveau goulot d'étranglement ?
- La sécurité est-elle pensée dès la conception, ou ajoutée après coup ?
- L'architecture peut-elle évoluer progressivement, ou faut-il tout redimensionner dès le premier ajout de GPU ?
Comment NextHope accompagne ces projets
Chez NextHope Madagascar, nous voyons de plus en plus d'entreprises s'intéresser à ces architectures sans toujours mesurer les implications physiques et budgétaires qu'elles impliquent. Notre équipe aide à cadrer ces projets dès la phase de faisabilité : puissance disponible, refroidissement, réseau et sécurité, pour éviter les mauvaises surprises une fois le matériel commandé.
Foire aux questions
Qu'est-ce qu'une architecture IA rack-scale ?
C'est une conception où un rack entier de serveurs est pensé comme une seule unité de calcul, avec des GPU interconnectés à très haute vitesse, plutôt que comme une simple collection de machines indépendantes.
Pourquoi le refroidissement liquide devient-il nécessaire ?
Parce que la densité de puissance d'un rack IA moderne dépasse largement ce que le refroidissement par air peut évacuer efficacement, notamment au-delà de 30 à 40 kW par rack.
Une PME peut-elle envisager ce type d'architecture ?
Rarement à l'échelle complète d'un hyperscaler, mais les mêmes principes de conception globale s'appliquent à une infrastructure IA plus modeste, pour éviter de devoir tout reconstruire plus tard.
Quelle est la différence entre le réseau interne du rack et le réseau de l'entreprise ?
Le réseau interne du rack (comme NVLink) relie les GPU entre eux à très haute vitesse, tandis que le réseau d'entreprise relie ce rack au reste du système d'information et aux utilisateurs.
Ranarison Tsilavo, CEO de NextHope Madagascar
Depuis plus de dix ans, Ranarison Tsilavo pilote NextHope Madagascar avec une conviction simple : les entreprises malgaches et de la région Océan Indien méritent des infrastructures IT aussi solides que celles des grands groupes internationaux. Sous sa direction, l'équipe NextHope accompagne aujourd'hui ses clients dans la conception d'architectures IA, réseau et cybersécurité pensées pour durer. Retrouvez son actualité et ses prises de position sur son profil LinkedIn.
