Fine-Tuning-Methode in generativer KI

Wenn Sie ein benutzerdefiniertes Modell aus meta.llama-3.3-70b-instruct erstellen, optimiert OCI Generative AI das Modell mit der Methode LoRA.

Wichtig

Einige vortrainierte Basismodelle von OCI Generative AI, die für den dedizierten Bereitstellungsmodus unterstützt werden, sind jetzt veraltet und werden spätestens 6 Monate nach dem Release des 1. Ersatzmodells in den Ruhestand versetzt. Sie können ein Basismodell hosten oder ein Basismodell optimieren und das fein abgestimmte Modell in einem dedizierten KI-Cluster (dedizierter Bereitstellungsmodus) hosten, bis das Basismodell deaktiviert wird. Informationen zu den Ruhestandsdaten im dedizierten Bereitstellungsmodus finden Sie unter Modelle in den Ruhestand versetzen.

In der folgenden Tabelle ist die Methode aufgeführt, mit der generative KI das unterstützte Basismodell optimiert:

Vorgeschultes Basismodell Optimierungsmethode
meta.llama-3.3-70b-instruct LoRA
Hinweis

Informationen zu den Hyperparametern, die mit LoRA verwendet werden, finden Sie unter Hyperparameter in generativer KI optimieren.