Erfahren Sie mehr über generative KI
Die generative KI ist in den letzten zwei Jahren exponentiell gewachsen und verändert die Landschaft der kreativen Arbeit. Nach dem Gedanken als Domäne des Menschen werden kreative Inhalte nun durch künstliche Intelligenz (KI) automatisiert, wobei große Sprach- und Bildmodelle verwendet werden.
Generative KI hat und wird sich auch weiterhin in verschiedenen Branchen auswirken:
- Programmieren (Text-zu-Code)
- Werbung, Social Media, Bildgenerierung (Text zu Bild und Text zu Text)
- Videobearbeitung und Videogenerierung (Text zu Video)
- 3D-Modeleling und 3D-Szenen (Text zu 3D-Modellen)
- Spiele, Musik, Audio, Wissenschaft usw.
Viele dieser Modelle sind Open Source und können auf Compute-Instanzen ausgeführt werden, für die wir ein Terraform-Skript gemeinsam verwenden, das Sie für die Text- und Imagegenerierung verwenden können. Das Skript wird auf GPU, stabiler Diffusion (Text zu Bild), Bloom (Text zu Text oder Text zu Code) und DreamBooth installiert.
- Stable Diffusion ist ein hochmodernes Text-zu-Bild-Modell, das Bilder aus Text generiert.
- Bloom ist ein offenes, mehrsprachiges Großsprachmodell mit 176 Milliarden Parametern. Es wurde mit der NVIDIA AI-Plattform trainiert, mit Textgenerierung in 46 Sprachen und 13 Programmiersprachen.
- Mit DreamBooth können Sie ein stabiles Diffusionsmodell optimieren, um neue Labels basierend auf einer kleinen Abbildung zu generieren. Die Idee ist, dass Sie zum Beispiel 20-30 Bilder verwenden und das Modell trainieren können, damit es etwas Neues generieren kann.
Alle Anweisungen zum Erstellen des GPU-Rechners und zur Verwendung der verschiedenen Apps befinden sich im Repository GitHub.
Architektur
Diese Architektur zeigt generative KI-Modelle, die in einer OCI-GPU-Instanz bereitgestellt sind.
Eine GPU-Maschine ist perfekt für die Ausführung dieser Modelle, da das Terrassenform-Skript alle Treiber und Abhängigkeiten vom Betriebssystem installiert. Die drei Anwendungen werden als Services installiert, sodass sie mit der Instanz gestartet werden.
Beachten Sie, dass die Anwendungen nicht gesichert sind. Sie müssen daher einen SSH-Tunnel erstellen, um von den Webanwendungen aus sicher darauf zuzugreifen.
OCI-generative-ai-engines-oracle.zip
Zur Verwendung der Skripte müssen Sie Folgendes installieren:
- OCI-Befehlszeilenschnittstelle (CLI) für Mandantenauthentifizierung.
- SSH-keygen zur Generierung der SSH-Schlüssel für den Zugriff auf die Instanz.
- Terraform zum Erstellen aller Ressourcen.
Diese Architektur unterstützt die folgenden Komponenten:
- Virtuelles Cloud-Netzwerk (VCN) und Subnetz
Ein VCN ist ein anpassbares, Software-definiertes Netzwerk, das Sie in einer Oracle Cloud Infrastructure-Region einrichten können. Wie herkömmliche Data Center-Netzwerke erhalten Sie mit VCNs vollständige Kontrolle über Ihre Netzwerkumgebung. Ein VCN kann mehrere sich nicht überschneidende CIDR-Blöcke aufweisen, die Sie nach dem Erstellen des VCN ändern können. Sie können ein VCN in Subnetze segmentieren, die sich auf eine Region oder eine Availability-Domain beschränken. Jedes Subnetz besteht aus einem fortlaufenden Adressbereich, der sich nicht mit den anderen Subnetzen im VCN überschneidet. Sie können die Größe eines Subnetzes nach der Erstellung ändern. Ein Subnetz ist öffentlich oder privat.
- GPU-Compute
Oracle Cloud Infrastructure Compute stellt NVIDIA-GPU-basierte, Bare-Metal- und Virtual-Machine-Instanzen für eine Vielzahl von Anwendungsfällen bereit, von Mainstream-Grafiken und -Videos bis hin zu den anspruchsvollsten KI-Schulungen und HPC-Workloads. Die RDMA-(Remote Direct Memory Access-)Kommunikation zwischen Instanzen unterstützt große GPU-Cluster mit 1.600 GB/s Bandbreite für Workloads, wie Modelltraining, Inferenzberechnung, Physik-basierte Modellierung und Simulation, Image-Rendering und massiv parallele HPC-Anwendungen.