Utilizzo di LLM nel servizio di intelligenza artificiale generativa
L'intelligenza artificiale generativa è un servizio Oracle Cloud Infrastructure completamente gestito che fornisce un set di modelli linguistici di grandi dimensioni (LLM, large language model) all'avanguardia e personalizzabili che coprono una vasta gamma di casi d'uso, tra cui chat, generazione di testo, riepilogo, ridefinizione e creazione di integrazioni del testo.
Utilizza l'area di gioco, l'API o l'interfaccia CLI per provare i modelli pre-addestrati pronti all'uso o creare e ospitare i tuoi modelli personalizzati ottimizzati in base AI tuoi dati su cluster AI dedicati.
Il servizio OCI Generative AI include i seguenti modelli di base per l'integrazione di chat, riassegnazione e testo.
- Chat
- Fai domande e ottieni risposte conversazionali attraverso un chatbot AI.
- Riclassificazione
- Inserire una query e un elenco di testi e ottenere un array ordinato con ogni testo assegnato un punteggio di pertinenza. Il punteggio di pertinenza è il modo in cui il modello classifica i documenti, ovvero quanto bene ogni testo corrisponde alla query.
- Integrazione
- Convertire il testo In incorporamenti vettoriali da utilizzare nelle applicazioni per la Ricerca semantica, la classificazione di testo o la Configurazione cluster di testo.
Utilizzo dei modelli di base pre-addestrati
Per iniziare, utilizza il parco giochi per provare i modelli di base pre-addestrati. Eseguire i prompt, regolare i parametri, aggiornare i prompt e rieseguire i modelli fino a quando non si è soddisfatti dei risultati. Quindi ottenere il codice dalla console e copiare il codice nelle applicazioni.
Ottimizzazione dei modelli pre-addestrati
Puoi creare una copia di un modello di base pre-addestrato, aggiungere il tuo data set di addestramento e lasciare che il servizio OCI Generative AI ottimizzi il modello per te. OCI Generative AI utilizza cluster AI dedicati appositamente dimensionati per l'ottimizzazione. Questi cluster appartengono solo alla tenancy in uso. Dopo aver perfezionato il modello, si crea un endpoint per il modello personalizzato e si ospita tale modello su un cluster AI dedicato progettato per l'hosting. Quando si crea il cluster di hosting, selezionare il modello pre-addestrato corretto da cui deriva il modello ottimizzato.
Casi d'uso
Utilizzare il servizio OCI Generative AI per i seguenti tipi di casi d'uso.
- Generazione di testo
-
Utilizzare modelli di chat pre-addestrati o modelli di generazione testo per creare testo per qualsiasi scopo, ad esempio:
- Pitch per un nuovo prodotto
- Slogan per una campagna di marketing
- E-mail di vendita a un cliente
- Post sui social media
- Descrizione job
- Titolo di un articolo
- Conversazione
-
Puoi porre domande in linguaggio naturale e facoltativamente inviare testo come documenti, e-mail e recensioni di prodotti al LLM e ai motivi LLM sul testo e fornisce risposte intelligenti.
- Estrazione dati
-
Estrarre parti specifiche di dati dal testo, ad esempio:
- Estrai le informazioni del richiedente da una domanda scritta in formato libero.
- Estrai date o somme da un contratto.
- Estrai approfondimenti o andamenti dalle tabelle dati.
- Riepilogo
-
Generare riepiloghi esecutivi per i documenti troppo lunghi per essere letti o riepilogare qualsiasi tipo di testo, ad esempio:
- Documenti
- Contratti
- Articoli
- Post del blog
- Recensioni dei prodotti
- Post sui social media
- Classificazione
-
Classificare il testo in categorie predefinite, ad esempio:
- Data una lista di ticket di supporto, classificarli in base al reparto che dovrebbe gestirli.
- Dato un elenco di settori e nomi di società, classificare le società per i rispettivi settori.
- Trasferimento stile
-
Modificare lo stile o il tono del testo, ad esempio:
- Riscrivi qualsiasi testo in uno stile, formato diverso (elenco o paragrafi) o tono diverso.
- Testo di riformulazione.
- Suggerire miglioramenti grammaticali.
- Somiglianza semantica
-
Valutare diversi input in base a quanto sia simile il loro significato, ad esempio:
- Valutare un elenco di domande inviate a un sistema di supporto per estrarre la risposta più pertinente data a domande simili in passato quando si presenta una nuova domanda.
- Sostituire le ricerche basate su parole chiave con ricerche semantiche per migliorare la pertinenza dei risultati di ricerca.
Aree con AI generativa
Oracle ospita i propri servizi OCI in aree e domini di disponibilità. Un'area è un'area geografica localizzata, mentre un Dominio di disponibilità è uno o più Data Center situati all'interno di quell'area.
Per un elenco completo delle aree disponibili, vedere Aree AI generative e per scoprire quali modelli sono disponibili in un'area vicina all'utente. Modelli di intelligenza artificiale generativa per area