Unterstützte Microsoft-Modelle
Sie können große Sprachmodelle aus Hugging Face- und OCI Object Storage-Buckets in OCI Generative AI importieren, Endpunkte für diese Modelle erstellen und im generativen KI-Service verwenden.
Microsoft Phi-3-Modelle, die für ihre Effizienz und Kompaktheit bekannt sind, sind auf skalierbare und flexible Leistung ausgelegt. Weitere Informationen finden Sie in der Dokumentation zu Phi-3 auf Hugging Face.
Phi 3
| Umarmende Gesichtsmodell-ID | Modellfähigkeit | Empfohlene Größe der dedizierten KI-Clustereinheit |
|---|---|---|
| microsoft/Phi-3-mini-4k-Anweisung | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-mini-128k-Anweisung | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-small-8k-Anweisung | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-medium-4k-Einrichtung | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-vision-128k-Anweisung | IMAGE_TEXT_TO_TEXT | H100_X1 |
Hinweis
- Um eine fein abgestimmte Version eines Modells zu importieren, werden nur fein abgestimmte Modelle unterstützt, die dieselbe Transformatorversion wie das Originalmodell verwenden und eine Parameteranzahl innerhalb von ±10% des Originals haben.
- Wenn der Instanztyp für die empfohlene Einheitenausprägung in Ihrer Region nicht verfügbar ist, wählen Sie eine Instanz der höheren Ebene aus (Beispiel: Wählen Sie eine Ausprägung H100 anstelle einer Ausprägung A100-80G aus).
- Voraussetzungen und das Importieren von Modellen finden Sie unter Importierte Modelle verwalten (Neu).