OCI herdefinieert AI-prestaties op topniveau met Zettascale10 en Acceleron

LAS VEGAS - Bereid u voor op enorme hoeveelheden AI die cloudcomputingkracht mogelijk maken. Oracle kondigde deze week tijdens zijn AI World conferentie zijn OCI Zettascale10 supercluster aan, dat 16 zettaFLOPS levert binnen een multigigawatt cluster. De hyperscaler lanceerde ook een snelle Ethernet-gebaseerde netwerkinterconnectie, genaamd Oracle Acceleron, evenals een nieuw multicloud-softwarelicentiesysteem dat klanten een ongekende reeks implementatie-opties biedt.

De Zettacale10 Supercluster, gebouwd op Oracle Cloud Infrastructure (OCI), omspant meerdere datacenters en integreert maar liefst 800.000 NVIDIA GPU's, allemaal met elkaar verbonden via de op InfiniBand en RoCE gebaseerde netwerken met zeer weinig vertraging van Oracle. InfiniBand is een industriestandaard hogesnelheidsinterconnectie voor supercomputers waarmee een server het geheugen van een andere server rechtstreeks kan lezen of schrijven met RDMA (Remote Direct Memory Access). Met netwerken van Oracle Acceleron RoCE (RDMA over Converged Ethernet) wordt RDMA uitgebreid naar cloudcomputingclusters en is het bijzonder geschikt voor AI-taken.

"Klanten kunnen hun grootste AI-modellen bouwen, trainen en in productie nemen met minder stroom per prestatie-eenheid en een hogere betrouwbaarheid", zegt Mahesh Thiagarajan, executive vice president van OCI. "Met OCI Zettascale10 versmelten we OCI's baanbrekende Oracle Acceleron RoCE-netwerkarchitectuur met de volgende generatie NVIDIA AI-infrastructuur om multigigawatt AI-capaciteit op ongeëvenaarde schaal te leveren."

De kracht van Zettascale10 wordt niet alleen gemeten in zettaFLOPS (drijvende puntoperaties per sectie) of zelfs gigawatt. Een Zettascale10-cluster leeft in veel dicht opeengepakte datacenters, allemaal verbonden met glasvezelverbindingen met hoge capaciteit. Het resultaat: een supercluster die zelfs de meest uitdagende AI-workloads aankan.

De eerste Zettascale10-supercomputer staat in Abilene, Texas, in een grote gigawatt datacenter campus.

Acceleron RoCE schaalt het rekennetwerk op

De sleutel tot de Zettascale10-supercluster is het nieuwste op het gebied van snelle netwerkinterconnecties, de Oracle Acceleron RoCE netwerkstructuur. In tegenstelling tot InfiniBand, dat uitstekende prestaties biedt maar gespecialiseerde hardware vereist, maakt Acceleron gebruik van gespecialiseerde Ethernet-netwerkinterfacekaarten (NIC's) en kabels om krachtige GPU's binnen een OCI-datacenter te koppelen. Deze gespecialiseerde NIC's bevatten hun eigen Ethernet-switches met vier poorten, een ontwerp dat de latentie van verkeer over een groot, complex netwerk verlaagt.

Met de Acceleron-netwerkstructuur kan Oracle klanten helpen om zeer grote AI-clusters snel en tegen lagere kosten te implementeren door GPU NIC's tegelijkertijd op meerdere netwerkswitches aan te sluiten, waardoor een vlakker netwerkstructuur met veel geïsoleerde netwerkvlakken ontstaat. Die architectuur laat het verkeer sneller stromen, zodat GPU's niet vastlopen terwijl ze wachten op het verzenden of ontvangen van gegevens. Eén van de voordelen is efficiëntie: de Zettascale10-supercluster kan aanzienlijk sneller resultaten opleveren. Een ander voordeel is voorspelbaarheid: de prestaties zijn gelijkmatiger voor supercomputerclusters, met een lagere GPU-naar-GPU latentie omdat er minder switches moeten doorkruisen. Dit voegt ook veerkracht toe in het geval dat een deel van het netwerk vastloopt door zwaar gebruik. Tot slot zorgt de Acceleron RoCE-structuur ervoor dat gegevens blijven stromen, zelfs als één netwerkvlak buiten gebruik wordt gesteld voor hardware- of softwareonderhoud.

De unieke architectuur van Acceleron levert line-rate encryptie via en in het hele netwerk, met ultralage latentie. Klanten krijgen twee keer zoveel potentiële netwerkcapaciteit, tot twee keer de opslag-IOPS (input/output per seconde) en zero-trust packet routing (ZPR) beveiligingsbeleid dat direct bij de host wordt afgedwongen, dat wil zeggen bij elke Acceleron NIC en elk punt op het netwerk. Eén voordeel van deze aanpak: beveiligingsbeleid op de NIC kan toegang tot objectopslag via het internet blokkeren om exfiltratie van gegevens te voorkomen.

"Acceleron is de basis voor al onze I/O-beveiligings- en versnellingsfuncties", aldus CEO van Oracle Clay Magouyrk tijdens zijn presentatie op AI World. "Klanten zullen hogere piekprestaties zien met lagere kosten, meer gebruiksgemak en een betere beveiliging."

Universele manier om te kopen

Complexiteit definieert cloudimplementaties voor veel klanten die gebruik maken van een divers web van applicaties en diensten van hyperscalers Oracle, Amazon Web Services, Google Cloud en Microsoft Azure. Zelfs als een architectuur ingewikkeld moet zijn om aan de technische vereisten van een organisatie te voldoen, moet het licentiëren van services eenvoudig zijn. Daar helpt het nieuwe Oracle Multicloud Universal Credits-programma bij.

Met het programma kopen klanten Oracle Database- en OCI-services in in de cloud, of clouds, naar eigen keuze. De credits zijn bruikbaar op Oracle Database@AWS, Oracle Database@Azure, Oracle Database@Google Cloud en OCI zelf. Hierdoor kunnen klanten workloads flexibel inzetten en in meerdere clouds consistente contracten zien.

"Met 37 multicloud-regio's die nu live zijn op AWS, Azure en Google Cloud, en de aanstaande lancering van Oracle Multicloud Universal Credits, geven we klanten meer keuzes en flexibiliteit dan ooit door contracten te vereenvoudigen en het eerste verbruiksmodel voor meerdere clouds in de branche te introduceren", aldus Karan Batta, Senior Vice President van OCI. Met één licentie- en verbruiksmodel voor alle clouds krijgen klanten één beheer- en governancestructuur voor Oracle-applicaties en -services, evenals een consistente database-ervaring.

Bedrijven kunnen hun credits ook gebruiken voor elke gewenste OCI-service in de hyperscalercloud of -clouds.

Nieuwe standaarden voor prestaties en flexibiliteit voor AI voor bedrijven

Met de Zettascale10-supercomputer en de Acceleron RoCE-netwerktechnologie kunnen klanten zware AI-workloads uitvoeren voor maar liefst 800.000 GPU's. Met het Oracle Multicloud Universal Credits-programma is het licentiëren en gebruiken van Oracle Database-services in meerdere clouds eenvoudiger dan ooit. Met deze vooruitgang levert Oracle efficiëntie, eenvoud, flexibiliteit, uitzonderlijke prestaties en keuze voor multicloudklanten.

Meer Oracle Connect-artikelen bekijken