Oracle Cloud Infrastructure-Dokumentation

Modell aus Hugging Face importieren

Importieren Sie unterstützte Open-Source- und Drittanbietermodelle aus Hugging Face in OCI Generative AI, hosten Sie sie, erstellen Sie Endpunkte, und verwenden Sie sie wie jedes andere Modell.

  • Wählen Sie auf der Listenseite Modelle importieren die Option Modell importieren aus. Wenn Sie Hilfe beim Suchen der Listenseite benötigen, finden Sie weitere Informationen unter Benutzerdefinierte Modelle auflisten.

    Modelldefinition

    1. (Optional) Um das importierte Modell in einem anderen Compartment als dem aufgeführten zu speichern, wählen Sie ein anderes Compartment aus.
    2. (Optional) Geben Sie einen Namen für das importierte Modell ein. Beginnen Sie den Namen mit einem Buchstaben oder Unterstrich, gefolgt von Buchstaben, Zahlen, Bindestrichen und Unterstrichen. Die Länge kann 1–255 Zeichen betragen. Wenn Sie keinen Namen eingegeben haben, generiert das System einen Namen, der Sie später ändern können.
      Der generierte Name hat das Format generativeaiimportedmodel<timestamp>. Beispiel: generativeaiimportedmodel20251107214133
    3. (Optional) Geben Sie eine Beschreibung für das Modell an.
    4. (Optional) Geben Sie eine Version für das Modell an. Wenn Sie eine Version nicht eingeben, generiert das System eine Version, die Sie später ändern können.
      Die generierte Version hat das Format v<timestamp>. Beispiel: v20251107214133
    5. (Optional) Geben Sie den Lieferanten für das Modell ein. Wenn Sie keinen Lieferantennamen eingeben, bleibt dieses Feld leer, und Sie können es später aktualisieren.
    6. (Optional) Weisen Sie diesem importierten Modell Tags zu. Siehe Ressourcentags.
    7. Wählen Sie Weiter.

    Konfiguration importieren

    1. Wählen Sie Hugging Face-Modell für den Speicherort des Modells aus, das Sie importieren möchten.
    2. Geben Sie die Mode-ID ein.

      Die Modell-ID ist die Zeichenfolge, die für jedes Modell auf der Modellkarte angezeigt wird. Beispiel: Qwen/Qwen3-4B. Siehe Unterstützte Modelle für Import.

    3. Wählen Sie das Modellartefaktverzeichnis aus.
      Wenn das Verzeichnis das Modell und seine Artefakte enthält, wird der Inhalt des Verzeichnisses im Bereich der Verzeichnisvorschau angezeigt.
    4. Wenn der Inhalt des Verzeichnisses korrekt ist, wählen Sie Weiterleiten.
    Tipp

    Führen Sie nach dem Import des Modells die folgenden Aufgaben aus:
    1. Für das Hosting dediziertes KI-Cluster erstellen.
    2. Endpunkt erstellen.
    3. Verwenden Sie das Modell im Playground.

  • Verwenden Sie den Befehl imported-model create-from-huggingface und die erforderlichen Parameter, um ein Modell zu importieren:

    oci generative-ai imported-model create-from-huggingface [OPTIONS]

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der CLI-Befehlsreferenz.

  • Führen Sie den Vorgang CreateImportedModel aus, um ein Modell zu importieren.