17 AI generativa OCI (modelli di base pre-addestrati)
L'intelligenza artificiale generativa è un servizio Oracle Cloud Infrastructure completamente gestito che fornisce un set di modelli linguistici di grandi dimensioni (LLM, large language model) all'avanguardia e personalizzabili che coprono una vasta gamma di casi d'uso, tra cui chat, generazione di testo, riepilogo e creazione di integrazioni di testo.
Gli utenti di Oracle AI Data Platform Workbench possono accedere AI modelli di intelligenza artificiale generativa se dispongono delle autorizzazioni necessarie e il modello pre-addestrato è ospitato nella stessa area del data lake. Per ulteriori informazioni sulle autorizzazioni, vedere Accesso all'intelligenza artificiale generativa. Per ulteriori informazioni su dove sono ospitati i modelli di intelligenza artificiale generativa, vedere Aree con intelligenza artificiale generativa.
- Utilizzare i modelli di chat pre-addestrati per creare testo per qualsiasi scopo.
- Estrai parti specifiche di dati dal testo.
- Generare riepiloghi esecutivi per documenti troppo lunghi per essere letti o riepilogati di qualsiasi tipo di testo.
- Classificare il testo in categorie predefinite.
È inoltre possibile eseguire inferenze batch su frame di dati Spark utilizzando i modelli pre-addestrati in un linguaggio a scelta, come SQL o Python. Per ulteriori informazioni sui modelli pre-addestrati, vedere Modelli di base pre-addestrati nell'AI generativa.
Prerequisiti per l'AI generativa
- L'utente deve disporre delle autorizzazioni USE per i modelli di base
- La piattaforma dati AI si trova nella stessa area in cui sono ospitati i modelli di intelligenza artificiale generativa
Se vengono soddisfatti i prerequisiti, i modelli vengono elencati nello schema default.oci_ai_models. È quindi possibile elencare i modelli in Catalog Explorer mentre si lavora in un blocco appunti e trascinare la selezione dei modelli per generare codice di esempio o utilizzare il modello per l'inferenza batch. In alternativa, è possibile scegliere di scrivere il codice in un notebook del workbench della piattaforma dati AI per richiamare il modello.
È possibile utilizzare i metodi riportati di seguito per richiamare un modello di intelligenza artificiale generativa.
SQLselect *, query_model(model_name, concat("What is the sentiment for this review: ", review)) as sentiment from <<catalog_name>>.<<schema_name>>.<<table_name>>dove:
- model_name è il modello di intelligenza artificiale generativa che si desidera richiamare:
default.oci_ai_models.<model_name> - review è il nome della colonna utilizzato per creare il prompt
- sentiment è il nome della colonna di output
- <<catalog_name>>.<<schema_name>>.<<table_name>> è la tabella nel pattern di nomi a 3 parti
df.withColumn("sentiment", query_model(model_name, "What is the sentiment for this review: "+review))- model_name è il modello di intelligenza artificiale generativa che si desidera richiamare:
default.oci_ai_models.<model_name> - review è il nome della colonna utilizzato per creare il prompt
- sentiment è il nome della colonna di output
- df è il frame di dati di input
Limite richieste
| Descrizione | Nome limite | Limite del servizio |
|---|---|---|
| Numero massimo di richieste di chat al minuto consentite per ogni compartimento per l'inferenza su richiesta | max-on-demand-chat-richiesta-per-minuto-conteggio | 500 |