Documentazione dell'infrastruttura Oracle Cloud

Panoramica del servizio AI generativa

OCI Generative AI è un servizio Oracle Cloud Infrastructure completamente gestito per la creazione, la distribuzione e il funzionamento di applicazioni di AI generativa su scala aziendale.

Caratteristiche di base

OCI Generative AI supporta questi casi d'uso di AI generativa di base:

  • Chat per esperienze conversazionali come risposte alle domande e assistenti virtuali
  • Incorporamenti per la ricerca semantica, i suggerimenti, la classificazione e il clustering
  • Ridimensiona i documenti per gli ordini in base a una query
  • API compatibili con OpenAI per l'integrazione con strumenti e SDK esistenti

Opzioni uso modello

È possibile utilizzare OCI Generative AI nei modi riportati di seguito.

  • Utilizza modelli in hosting pre-addestrati attraverso l'area di gioco, l'API o l'interfaccia CLI.
  • Importa, ottimizza e ospita modelli personalizzati su cluster AI dedicati.
  • Passa dalla sperimentazione alla produzione con i controlli aziendali.

Funzionalità AI aziendali

OCI Generative AI include funzioni di AI aziendale per la creazione di applicazioni agentic a livello di produzione.

Queste funzioni comprendono:

  • API Risposte OCI
    • OpenAI API compatibile con le risposte per l'interazione del modello e flussi di lavoro agenti
    • Supporta orchestrazione, ragionamento, uso degli strumenti, memoria e instradamento multi-modello
  • Strumenti
    • Ricerca file
    • Interprete codice
    • Funzione Chiamata per strumenti locali
    • Chiamata MCP per server MCP remoti
    • API container
    • API Negozi vettoriali
    • API File
  • Memoria
    • API conversazioni
    • Memoria a lungo termine
    • Compattazione del contesto di memoria a breve termine
  • Progetti
    • Organizza i carichi di lavoro degli agenti per progetto
    • Isola conversazioni, file, container e memoria
    • Configurare le impostazioni di conservazione e memoria dei dati
  • Applicazioni
    • Hosting completamente gestito per applicazioni agentic
    • Supporto per applicazioni create con framework open source o server MCP
    • Controlli di sicurezza integrati
    • Supporto endpoint pubblico e privato
  • Aree di vendita vettoriali
    • Storage vettoriale gestito
    • Inclusione file
    • Ricerca semantica
    • Filtro dei metadati
    • Supporto per casi d'uso RAG e NL2SQL
  • NL2SQL
    • Includi informazioni sullo schema del cliente
    • Arricchisce i dati dello schema in una memoria di vettore semantica
    • Accetta query in linguaggio naturale e produce SQL
    • Esegue in modo controllato dalle autorizzazioni senza spostare o copiare il contenuto del database
  • Chiavi API AI aziendali
    • Chiavi API specifiche OCI per i servizi AI aziendali
    • Rotazione automatica

Vantaggi della piattaforma

  • Crea applicazioni AI pronte per la produzione più velocemente
  • Riduci la complessità operativa
  • Applica controlli di governance e sicurezza aziendali
  • Utilizza una piattaforma unificata per AI generativa, recupero, memoria, strumenti e hosting gestito