AIインフラストラクチャ

スーパーチャージド・コンピュート
- ハイパーバイザーのオーバーヘッドを必要としないベアメタル・インスタンス
- NVIDIA Blackwell (GB200 NVL72、HGX B200)、
Hopper (H200、H100)、および旧世代のGPUによる高速化
- AMD MI300X GPUを使用するオプション
- 組み込みのハードウェア・アクセラレーション用データ処理ユニット(DPU)

大容量および高スループット・ストレージ
• ローカル・ストレージ: 最大61.44TBのNVMe SSD容量
• ファイル・ストレージ: Lustreおよび高パフォーマンス・マウント・ターゲットを備えたOracle管理ファイル・ストレージ。
• ブロック・ストレージ: パフォーマンスSLAによるバランスの取れた高パフォーマンスおよび超高パフォーマンス・ボリューム
• オブジェクト・ストレージ: 個別のストレージ・クラス層、バケット・レプリケーションおよび大容量制限

超高速ネットワーク
• カスタム設計のRDMA over Converged Ethernetプロトコル(RoCE v2)
• クラスタ・ネットワーキングのレイテンシ
が最大3,200 Gb/秒
• フロントエンド・ネットワーク帯域帯域幅は最大400 Gb/秒

NVIDIA GB200 NVL72、NVIDIA B200、NVIDIA H200、AMD MI300X、NVIDIA L40S、NVIDIA H100、およびNVIDIA A100 GPUを実装したOCIベアメタル・インスタンスにより、ディープラーニング、対話型AI、生成AIなどのユースケース用に大規模AIモデルを実行できます。

OCI Superclusterでは、100,000を超えるGB200 Superchips、131,072 B200 GPU、65,536 H200 GPU、32,768 A100 GPU、16,384 H100 GPU、16,384 MI300X GPU、およびクラスタ当たり3,840 L40S GPUまでスケールアップが可能です。

RDMA over Converged Ethernet v2を実装したNVIDIA ConnectXネットワーク・インターフェイス・カードによる高速RDMAクラスタ・ネットワーキングにより、オンプレミスと同じ超低レイテンシ・ネットワーキングとアプリケーションのスケーラビリティを備えたGPUインスタンスの大規模クラスタを作成できます。

RDMA機能、ブロック・ストレージ、ネットワーク帯域幅に追加料金を支払う必要はなく、最初の10TBのイグレスは無料です。

• RDMAクラスタ・ネットワーキングの詳細
• RDMAクラスタ・ネットワークの導入

お客様はOCI Superclusterを介して、ペタバイト・スケール・コンピューティング向けのローカル・ブロック・オブジェクト・ファイルストレージにアクセスが可能です。主要なクラウド・プロバイダーの中で、OCIは最高容量の高いパフォーマンス・ローカルNVMeストレージを提供しており、トレーニング実行中のチェックポイントをより頻繁に行うことで、障害からの復旧をより迅速に行うことができます。

膨大なデータセットに対して、OCIはLustreとマウント・ターゲットによる高パフォーマンスのファイル・ストレージを提供します。BeeGFS、GlusterFS、WEKAを含むHPCファイルシステムは、パフォーマンスを損なうことなく大規模なAIトレーニングに利用できます。

• RDMAクラスタ・ネットワーキングの詳細
• RDMAクラスタ・ネットワークの導入