Par Adri 
Un GPU très rapide peut rester inutilisé pendant qu'un agent d'intelligence artificielle attend le résultat d'un programme, consulte des données ou prépare son prochain appel au modèle. C'est l'un des problèmes que NVIDIA et Oracle cherchent à résoudre avec leur nouvel accord autour de Vera Rubin.
Le 27 octobre, à l'occasion d'Oracle AI World, les deux entreprises ont annoncé la disponibilité générale des systèmes NVIDIA Vera Rubin NVL72 et des processeurs Vera sur Oracle Cloud Infrastructure. Elles préparent en parallèle une extension de leurs installations à l'échelle de plusieurs gigawatts, ainsi qu'une nouvelle catégorie de serveurs à huit GPU.
Il faut distinguer trois niveaux dans cette annonce. Oracle présente NVL72 et Vera CPU comme disponibles dans son offre cloud. L'expansion des superclusters à plusieurs gigawatts reste un projet. Quant à la configuration HGX Rubin NVL8, elle est annoncée pour une introduction ultérieure, sans calendrier commercial précis.
Vera Rubin NVL72 : 72 GPU reliés dans une même baie
Le système NVL72 repose sur 72 GPU NVIDIA Rubin connectés par l'interconnexion NVLink de sixième génération. L'objectif est de permettre à un ensemble important d'accélérateurs d'échanger rapidement des données, notamment pour l'entraînement de grands modèles et leur utilisation en inférence.
La capacité de calcul d'un GPU isolé ne suffit plus à expliquer les performances des plus grandes infrastructures IA. Les modèles peuvent être répartis entre plusieurs accélérateurs, ce qui impose de transférer des données, de synchroniser des opérations et de coordonner les différentes étapes du traitement.
Plus ces échanges prennent de temps, moins les unités de calcul les plus coûteuses sont utilisées efficacement. NVLink répond à cette contrainte à l'intérieur de la baie, tandis que le réseau du centre de données assure les communications entre les différents ensembles de machines.
Oracle présente les systèmes Vera Rubin comme une évolution importante par rapport à NVIDIA Blackwell. Dans son annonce technique, le fournisseur revendique jusqu'à 30 fois plus de débit d'inférence par watt et un gain pouvant atteindre un facteur quatre en entraînement.
Ces chiffres représentent des performances annoncées pour des conditions de comparaison déterminées. Ils ne garantissent pas une accélération identique pour tous les modèles, toutes les tailles de contexte ou tous les environnements logiciels. L'infrastructure devra être évaluée sur des charges réelles avant de pouvoir établir les économies obtenues par les clients.
La mémoire HBM4 et NVLink 6 occupent une place importante dans les améliorations revendiquées. L'enjeu n'est pas simplement d'ajouter des opérations par seconde, mais de conserver un débit suffisant entre calcul, mémoire et communications pendant l'exécution de charges distribuées.
150 000 processeurs Vera pour les opérations entre deux appels IA
L'autre nouveauté concerne les CPU. Oracle annonce un déploiement initial de 150 000 processeurs NVIDIA Vera afin de répondre à la demande croissante d'applications agentiques. Il ne s'agit pas de 150 000 GPU supplémentaires : Vera est un processeur généraliste conçu notamment pour exécuter les opérations qui entourent les modèles d'intelligence artificielle.
Un processeur Vera comprend 88 cœurs Olympus compatibles avec l'architecture Arm et 176 threads grâce à Spatial Multithreading. NVIDIA annonce jusqu'à 1,2 To/s de bande passante mémoire LPDDR5X, ainsi qu'une bande passante de 3,4 To/s au niveau de son infrastructure interne de cohérence.
Oracle prévoit des instances associant deux processeurs Vera, soit 176 cœurs CPU et 352 threads au total. La configuration publiée comprend 1 To de mémoire LPDDR5X, 7,68 To de stockage NVMe local et une connectivité Acceleron à 200 Gbit/s.
Ces caractéristiques visent des applications différentes de celles qui saturent traditionnellement les GPU. L'exécution de code, les services d'orchestration, les recherches vectorielles, certains traitements en mémoire et la gestion de milliers de requêtes concurrentes peuvent mobiliser intensément le CPU.
NVIDIA revendique une amélioration de 80 % des performances CPU dans certaines charges agentiques. Cette estimation reste liée aux tests et aux scénarios choisis par le constructeur ; elle ne doit pas être confondue avec une augmentation universelle de 80 % des performances d'un agent complet.
Les processeurs Vera sont annoncés comme généralement disponibles dans l'offre OCI, avec un déploiement régional progressif. Oracle précise que les instances correspondantes seront proposées dans certaines régions au cours du trimestre. La disponibilité commerciale globale ne signifie donc pas une capacité immédiatement accessible dans chaque région cloud.
Les CPU et GPU pourront être dimensionnés séparément
L'un des aspects les plus intéressants de l'annonce ne concerne pas directement une nouvelle puce. Oracle Kubernetes Engine doit permettre de dimensionner séparément les ressources CPU et GPU utilisées par les applications.
Pour un modèle qui passe l'essentiel de son temps à générer des tokens, le nombre d'accélérateurs graphiques reste une contrainte majeure. Un agent qui alterne raisonnement, exécution de programmes, navigation dans des documents et appels à des services externes possède un profil de charge beaucoup moins uniforme.
Une allocation fixe entre CPU et GPU peut alors produire des périodes de sous-utilisation. Les GPU restent réservés pendant que le programme exécute des étapes principalement CPU, ou les processeurs attendent à leur tour le résultat de calculs graphiques.
En permettant d'ajuster séparément les deux catégories de ressources, Oracle cherche à limiter ces pertes. Le résultat économique dépendra toutefois du comportement réel des applications et du coût de chaque type d'instance.
Le fournisseur met également en avant l'isolation matérielle assurée par Oracle Acceleron pour certains traitements exécutant du code non fiable. C'est un point important dans les systèmes où un modèle peut générer puis lancer des programmes. Le degré de protection effectif dépendra néanmoins de la configuration, des permissions et des mécanismes d'isolation utilisés.
Oracle Acceleron relie les baies à grande échelle
Une seule baie NVL72 représente déjà une puissance de calcul importante, mais Oracle ambitionne de connecter des ensembles beaucoup plus vastes. Ses OCI Superclusters associent les systèmes NVIDIA aux technologies réseau Oracle Acceleron, Spectrum-X Ethernet, Spectrum-6 et BlueField-4.
Oracle décrit une architecture réseau multiplan destinée à éviter qu'une liaison congestionnée ne pénalise l'ensemble d'un calcul distribué. Plusieurs chemins indépendants permettent de répartir les communications et de maintenir le fonctionnement lorsqu'une partie du réseau rencontre des difficultés.
Le mécanisme Multipath Reliable Connection, ou MRC, peut distribuer le trafic d'une connexion entre plusieurs chemins plutôt que de le limiter à une route unique. Oracle indique utiliser huit plans réseau afin d'améliorer le débit, la résilience et la régularité des temps de communication.
Cette organisation est particulièrement importante pour l'entraînement de grands modèles. Une panne réseau peut interrompre une opération mobilisant un nombre considérable d'accélérateurs, obligeant parfois à reprendre le calcul depuis un point de sauvegarde.
Oracle revendique une architecture capable de prendre en charge plus de 131 000 GPU avec deux niveaux de commutation Ethernet dans certaines configurations. Il s'agit d'une capacité architecturale annoncée, et non de la preuve qu'un tel ensemble Vera Rubin est déjà déployé et exploité simultanément.
L'entreprise annonce également son intention d'étendre ses superclusters Vera Rubin à une échelle de plusieurs gigawatts. Cette ambition concerne notamment les besoins d'alimentation électrique, de refroidissement liquide et d'infrastructure physique. Aucun calendrier de mise en service de la totalité de cette capacité n'est fixé dans le communiqué conjoint.
HGX Rubin NVL8 : une configuration à huit GPU prévue pour plus tard
Oracle et NVIDIA préparent aussi HGX Rubin NVL8. Contrairement à NVL72, cette architecture rassemble huit GPU Rubin reliés par NVLink dans une configuration serveur reposant sur des processeurs x86.
La plateforme prévue doit utiliser deux processeurs Intel Xeon 6 à 64 cœurs, 4 To de mémoire DDR5 et une connectivité RDMA annoncée à 6,4 Tbit/s.
Cette approche répond à un autre besoin que celui des plus grands systèmes intégrés. Certaines entreprises souhaitent disposer de nouveaux accélérateurs sans nécessairement adopter une infrastructure entière de type NVL72, ou conserver des applications et des outils déjà optimisés pour x86.
HGX Rubin NVL8 pourrait ainsi être utilisé pour l'entraînement, l'adaptation de modèles et l'inférence sur des installations plus modestes. Il serait toutefois incorrect de le présenter comme une alternative déjà disponible sur OCI : Oracle annonce son introduction future, sans préciser sa date de commercialisation ni son tarif.
OpenAI figure parmi les utilisateurs cités
Oracle et NVIDIA citent OpenAI parmi les entreprises travaillant déjà avec leurs infrastructures. Les partenaires indiquent que GPT-6 Astra a été entraîné et servi sur un supercluster OCI comprenant plus de 100 000 GPU NVIDIA Blackwell à Abilene, au Texas.
Cette référence ne concerne pas un entraînement effectué sur Vera Rubin. Les GPU mentionnés appartiennent à la génération Blackwell, précédente plateforme majeure de NVIDIA. L'exemple illustre principalement l'échelle des installations déjà exploitées par Oracle.
OpenAI fait également partie des clients ayant eu accès aux processeurs Vera en amont. Son responsable technique des infrastructures de calcul évoque leur utilisation pour les environnements isolés destinés à exécuter du code et des outils au service des agents.
Les deux entreprises annoncent aussi des travaux logiciels autour de NVIDIA Dynamo pour l'inférence, de la recherche vectorielle accélérée avec cuVS et de l'optimisation combinant les technologies NVIDIA aux services de bases de données Oracle.
Ces fonctions ne partagent pas toutes le même statut de disponibilité. Certaines sont annoncées comme intégrées à des services existants, tandis que d'autres correspondent à des projets, des expérimentations ou des extensions prévues.
La puissance annoncée ne dit pas encore combien coûtera l'inférence
Oracle entre dans une phase où l'infrastructure pour l'IA doit répondre à deux objectifs distincts : entraîner des modèles toujours plus exigeants et exploiter commercialement des services qui multiplient les requêtes. Les agents ajoutent encore des opérations intermédiaires à cette équation.
Les performances par watt mises en avant par NVIDIA donnent un indicateur d'efficacité matérielle. Elles ne suffisent cependant pas à calculer le coût complet d'une tâche. Ce dernier dépend aussi du tarif cloud, de la mémoire mobilisée, du nombre de requêtes, des communications réseau et de la durée d'utilisation des équipements.
Les économies possibles devront donc être évaluées à l'échelle des applications, notamment en mesurant le temps de traitement complet, le nombre d'opérations réussies et l'utilisation réelle des ressources CPU et GPU.
Oracle n'a pas communiqué de tarif public détaillé des nouvelles configurations dans son annonce conjointe. Le groupe n'a pas non plus précisé combien de baies Vera Rubin NVL72 seront effectivement mises en service à court terme.
La disponibilité générale constitue néanmoins une étape commerciale distincte des ambitions de déploiement. Vera Rubin NVL72 et Vera CPU entrent dans le catalogue OCI annoncé comme disponible ; l'extension à plusieurs gigawatts et les serveurs HGX Rubin NVL8 restent des évolutions futures.