Generative KI-Cloud-Services
Nvidia entscheidet sich hinsichtlich KI-Services für Oracle Cloud Infrastructure
"Nvidia AI Foundations" und "DGX Cloud" werden auf dem "OCI Supercluster" ausgeführt, der mit Nvidia-Netzwerken verbunden ist
Oracle hat ihre Zusammenarbeit mit Nvidia um die Ausführung strategischer Nvidia AI-Anwendungen auf dem neuen "Oracle Cloud Infrastructure (OCI) Supercluster" erweitert. Nvidia hat OCI als ersten Hyperscale-Cloud-Provider ausgewählt, der "Nvidia DGX Cloud", einen KI-Supercomputing-Service, in großem Umfang anbietet.
Darüber hinaus führt Nvidia Nvidia AI Foundations, ihre neuen generativen KI-Cloud-Services, die über DGX Cloud verfügbar sind, auf OCI aus.
"OCI ist die erste Plattform, die Tausenden von Kunden aus allen Branchen einen KI-Supercomputer in großem Maßstab anbietet. Dies ist eine entscheidende Fähigkeit, da immer mehr Unternehmen Computing-Ressourcen für ihre einzigartigen KI-Anwendungsfälle benötigen. Um diese Nachfrage zu unterstützen, bauen wir unsere Zusammenarbeit mit Nvidia weiter aus", sagte Clay Magouyrk, Executive Vice President, Oracle Cloud Infrastructure.
"Die unbegrenzten Möglichkeiten für KI-gesteuerte Innovationen tragen dazu bei, praktisch jedes Unternehmen zu transformieren. Die Zusammenarbeit von Nvidia mit Oracle Cloud Infrastructure macht die außergewöhnliche Supercomputing-Performance der beschleunigten Computing-Plattform von Nvidia für jedes Unternehmen erreichbar", sagte Manuvir Das, Vice President of Enterprise Computing, Nvidia.
Neuer Supercluster von OCI
Nvidia DGX Cloud und die Nvidia AI Foundations-Services, die darauf ausgeführt werden, nutzen den einzigartigen Supercluster von OCI, der von Nvidia zertifiziert wurde, um sicherzustellen, dass er die hohen Standards von DGX Cloud erfüllt.
Der Supercluster von OCI umfasst OCI Compute Bare Metal, einen RoCE-Cluster mit extrem niedriger Latenz, der auf Nvidia-Netzwerken basiert, und eine Auswahl an HPC-Speicher. Er wurde von Nvidia bereitgestellt und validiert, um Tausende von OCI Compute Bare Metal-Instanzen zu unterstützen, die massiv parallele Anwendungen effizient verarbeiten können. Das OCI Supercluster-Netzwerk kann jetzt auf bis zu 4.096 OCI Compute Bare Metal-Instanzen mit 32.768 A100-GPUs skaliert werden. OCI Compute Bare Metal-Instanzen mit Nvidia H100-GPUs sind jetzt nur noch begrenzt verfügbar.
Darüber hinaus gab Nvidia bekannt, dass Oracle seinen Netzwerk-Stack um Nvidia BlueField-3-DPUs erweitert.
Generative KI-Services zum Erstellen benutzerdefinierter Unternehmensmodelle
Die Modellerstellungsservices von Nvidia AI Foundations umfassen Sprache, Bilder, Video und 3D sowie Biologie. Unternehmen können den Sprachdienst Nvidia NeMo und die Bild-, Video- und 3D-Services von Nvidia Picasso nutzen, um proprietäre, domänenspezifische, generative KI-Anwendungen für intelligenten Chat und Kundensupport, professionelle Inhaltserstellung, digitale Simulation und mehr zu erstellen. Für das Training und die Inferenz biologischer KI-Modelle bietet der Nvidia BioNeMo™ Cloud-Service Tools zum schnellen Anpassen und Bereitstellen generativer KI-Anwendungen.
Auf OCI profitieren benutzerdefinierte Modelle, die mit Nvidia AI Foundations erstellt wurden, und Modellfamilien wie GPT-3 vom OCI Supercluster, der ein speziell entwickeltes RDMA-Netzwerk umfasst, das eine nahezu lineare Performance mit einer Latenz im Mikrosekundenbereich liefert und Sperrprobleme für RDMA-abhängige Workloads eliminiert. (Oracle: ra)
eingetragen: 27.03.23
Newsletterlauf: 13.06.23
Oracle: Kontakt und Steckbrief
Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.