Oracle et AMD annoncent que les GPU AMD Instinct™ MI355X seront disponibles sur Oracle Cloud Infrastructure (OCI) pour offrir aux clients davantage de choix, et pour leur fournir un ratio prix-performances pour les workloads d’entraînement et d’inférence d’IA à grande échelle plus de deux fois meilleur par rapport à la génération précédente. Oracle proposera des clusters d’IA zettascale accélérés par les derniers processeurs AMD Instinct avec jusqu’à 131 072 GPU MI355X pour permettre aux clients de créer, d’entraîner et d’inférer à grande échelle.

« Pour soutenir les clients qui exécutent les workloads d’IA les plus exigeants dans le cloud, nous sommes déterminés à fournir les offres d’infrastructure d’IA les plus larges », explique Mahesh Thiagarajan, Executive Vice President, Oracle Cloud Infrastructure. « Les GPU AMD Instinct, associés aux performances, à la mise en réseau avancée, à la flexibilité, à la sécurité et à l’évolutivité d’OCI, aideront nos clients à répondre à leurs besoins d’inférence et d’entraînement pour les workloads d’IA et les nouvelles applications avec des agents. »

Pour prendre en charge les nouvelles applications d’IA qui nécessitent des jeux de données plus volumineux et plus complexes, les clients ont besoin de solutions de calcul d’IA spécifiquement conçues pour l’entraînement à grande échelle. OCI Supercluster, un cluster zettascale avec des GPU AMD Instinct MI355X, répond à ce besoin en fournissant une architecture réseau de cluster RDMA à très faible latence et haut débit avec jusqu’à 131 072 GPU MI355X. L’AMD Instinct MI355X offre presque le triple de la puissance de calcul et une augmentation de 50 % de la mémoire à bande passante élevée par rapport à la génération précédente.

« AMD et Oracle ont toujours eu la préoccupation de fournir aux clients des solutions ouvertes pour s’adapter aux hautes performances, à l’efficacité et à une plus grande flexibilité de conception de système », explique Forrest Norrod, Executive Vice President et General Manager, Data Center Solutions Business Group, AMD. « La dernière génération de GPU AMD Instinct et de cartes d’interface réseau Pollara sur OCI aidera à prendre en charge de nouveaux cas d’utilisation en matière d’inférence, d’affinage et d’entraînement, offrant plus de choix aux clients à mesure que l’adoption de l’IA augmente. »

L’AMD Instinct MI355X arrive sur OCI

Les formes alimentées par AMD Instinct MI355X sont conçues avec une valeur supérieure, une flexibilité du cloud et une compatibilité open source, ce qui les rend idéales pour les clients exécutant les plus grands modèles de langage et workloads d’IA. Avec AMD Instinct MI355X sur OCI, les clients pourront bénéficier des avantages suivants :

• Amélioration significative des performances : aide les clients à augmenter leurs performances pour les déploiements d’IA avec un débit jusqu’à 2,8 fois plus élevé. Pour favoriser l’innovation en matière d’IA à grande échelle, les clients peuvent s’attendre à des résultats plus rapides, à une latence plus faible et à la possibilité d’exécuter des workloads d’IA de plus grande envergure.
• Mémoire plus grande et plus rapide : permet aux clients d’exécuter des modèles volumineux entièrement en mémoire, ce qui améliore les vitesses d’inférence et d’entraînement pour les modèles nécessitant une bande passante de mémoire élevée. Les nouvelles formes offrent 288 gigaoctets de mémoire à bande passante élevée 3 (HBM3) et jusqu’à huit téraoctets par seconde de bande passante de mémoire.
• Nouveau support FP4 : permet aux clients de déployer des modèles modernes d’IA générative et de langage volumineux de manière rentable avec la prise en charge de la nouvelle norme de calcul à virgule flottante 4 bits (FP4). Cela permet une inférence ultra-efficace et à grande vitesse.
• Conception dense et refroidie par liquide : permet aux clients d’optimiser la densité de performances à 125 kilowatts par baie pour les workloads d’IA exigeants. Avec 64 GPU par baie à 1 400 watts chacun, les clients pourront obtenir des temps d’entraînement plus rapides avec un débit plus élevé et une latence plus faible.
• Conçu pour l’entraînement et l’inférence à l’échelle de la production : Prend en charge le déploiement de nouvelles applications d’agents avec un délai de mise en service plus rapide (TTFT, « time-to-first token ») et un débit élevé de jetons par seconde. Les clients peuvent s’attendre à un meilleur rapport prix/performances pour les workloads d’entraînement et d’inférence.
• Nœud de tête puissant : aide les clients à optimiser leurs performances de GPU en permettant une orchestration efficace des travaux et un traitement des données grâce à un processeur haute fréquence AMD Turin avec jusqu’à trois téraoctets de mémoire système.
• Technologie open source : permet aux clients de tirer parti d’architectures flexibles et de migrer facilement leur code existant sans dépendance vis-à-vis d’un fournisseur grâce à AMD ROCm. AMD ROCm est une technologie ouverte qui inclut des modèles de programmation populaires, des outils, des compilateurs, des bibliothèques et des exécutions pour le développement de solutions d’IA et de calcul haute performance sur des GPU AMD.
• Innovation réseau avec AMD Pollara™ : fournit aux clients des fonctionnalités avancées de RoCE qui permettent des conceptions innovantes de structures réseau. Oracle sera le premier à déployer des cartes d’interface réseau d’IA AMD Pollara sur des réseaux back-end, en fournissant des fonctions RoCE avancées telles que le contrôle de la congestion programmable et la prise en charge des normes ouvertes du Consortium Ultra Ethernet (UEC) pour des réseaux hautes performances et à faible latence.

Ressources complémentaires

• En savoir plus sur l’infrastructure IA d’OCI
• En savoir plus sur OCI Compute
• En savoir plus sur les GPU AMD