Seleziona AI con Retrieval Augmented Generation (RAG)

Selezionare AI con RAG per aumentare il prompt del linguaggio naturale recuperando il contenuto dalla memoria di vettore specificata utilizzando la ricerca di somiglianza semantica. Ciò riduce le allucinazioni utilizzando contenuti specifici e aggiornati e fornisce risposte al linguaggio naturale più pertinenti ai prompt.

Select AI automatizza il processo di Retrieval Augmented Generation (RAG). Questa tecnica recupera i dati dalle origini aziendali utilizzando la ricerca vettoriale AI e aumenta i prompt utente per il modello linguistico di grandi dimensioni (LLM, large language model) specificato. Sfruttando le informazioni provenienti dai data store aziendali, la RAG riduce le allucinazioni e genera risposte di base.

RAG utilizza la ricerca vettoriale AI su un indice vettoriale per trovare dati semanticamente simili per la domanda specificata. La memoria di vettore elabora incorporamenti vettoriali, che sono rappresentazioni matematiche di vari datapoint come testo, immagini e audio. Queste integrazioni acquisiscono il significato dei dati, consentendo un'elaborazione e un'analisi efficienti. Per ulteriori dettagli sulle integrazioni vettoriali e sulla ricerca vettoriale AI, vedere Panoramica di AI Vector Search.

Select AI si integra con la ricerca vettoriale AI disponibile in Oracle Autonomous AI Database 26ai per la ricerca di somiglianza utilizzando integrazioni vettoriali.

Argomenti

Vantaggi di Select AI RAG

Semplifica l'esecuzione delle query, migliora l'accuratezza delle risposte con i dati attuali e ottieni trasparenza esaminando le fonti utilizzate dal LLM.

Select AI RAG offre i seguenti vantaggi:

• Semplifica l'esecuzione di query sui dati e aumenta l'accuratezza delle risposte: consenti agli utenti di eseguire query sui dati aziendali utilizzando il linguaggio naturale e fornisci ai LLM un contesto dettagliato dai dati aziendali per generare risposte più accurate e pertinenti, riducendo le istanze di allucinazioni LLM.

• Informazioni aggiornate: fornisci agli LLM l'accesso alle informazioni aziendali attuali utilizzando le memorie di vettore, eliminando la necessità di un'ottimizzazione costosa e dispendiosa in termini di tempo degli LLM addestrati su set di dati statici.

• Integrazione perfetta: integra con Oracle AI Vector Search per una gestione semplificata dei dati e prestazioni migliorate.

• Orchestrazione automatizzata dei dati: automatizza i passi di orchestrazione con una pipeline Vector Index completamente gestita, garantendo un'elaborazione efficiente dei nuovi dati.

• Risultati contestuali comprensibili: ha accesso e recupera le fonti utilizzate dall'LLM dalle memoria di vettore, garantendo trasparenza e fiducia nei risultati. Visualizza ed estrae i dati in testo in linguaggio naturale o in formato JSON per semplificare l'integrazione e lo sviluppo delle applicazioni.

Crea il tuo Vector Store

Select AI automatizza la creazione e la popolazione della memoria di vettore convertendo i documenti di input (ad esempio PDF, DOC, JSON, XML o HTML) dall'area di memorizzazione degli oggetti in testo normale. Oracle Text supporta circa 150 tipi di file. Per un elenco completo di tutti i formati di documento supportati, vedere Formati di documento supportati.

Select AI elabora automaticamente i documenti in chunk, genera incorporamenti, li memorizza nella memoria di vettore specificata e aggiorna l'indice vettoriale all'arrivo di nuovi dati.

Di seguito viene descritto come viene utilizzato l'input dello storage degli oggetti con Select AI RAG.

Descrizione dell'illustrazione adb-obj-storage-select-ai-rag.png

1. Input: i dati vengono inizialmente memorizzati in uno storage degli oggetti.
2. Oracle Autonomous Database recupera i dati di input o il documento, li raggruppa e invia i chunk a un modello di incorporamento.
3. Il modello di incorporamento elabora i dati di chunk e restituisce incorporamenti vettoriali.
4. Le integrazioni vettoriali vengono quindi archiviate in una memoria di vettore per l'uso con RAG. Quando il contenuto viene aggiunto, l'indice vettoriale viene aggiornato automaticamente.

RAG recupera le informazioni pertinenti dal database aziendale per rispondere alla domanda di un utente. Queste informazioni vengono fornite al modello linguistico di grandi dimensioni specificato insieme al prompt utente. Select AI utilizza queste informazioni aziendali aggiuntive per migliorare il prompt, migliorando la risposta dell'LLM. RAG può migliorare la qualità delle risposte con informazioni aziendali aggiornate dalla memoria di vettore.

Descrizione dell'illustrazione adb-diagram-third-party-vector-db-select-ai-rag.eps

Selezionare AI per implementare RAG come indicato di seguito.

1. Input: l'utente pone una domanda (specifica un prompt) utilizzando l'azione Seleziona AI narrate.

2. La selezione AI genera incorporamenti vettoriali del prompt utilizzando il modello di incorporamento specificato nel profilo AI.

3. L'indice di ricerca vettoriale utilizza l'incorporamento vettoriale della domanda per trovare il contenuto corrispondente dai dati aziendali del cliente (ricerca della memoria di vettore) che è stato indicizzato.

4. La ricerca vettoriale restituisce i primi testi K simili all'input per l'istanza del database AI autonomo.
5. Autonomous AI Database invia quindi questi risultati di query K principali con la domanda dell'utente all'LLM.
6. LLM restituisce la propria risposta all'istanza di Autonomous AI Database.
7. Database AI autonomo Selezionare AI per fornire la risposta all'utente.

Utilizzare DBMS_CLOUD_AI per creare e gestire indici vettoriali

Utilizzare il package DBMS_CLOUD_AI per creare e gestire gli indici vettoriali e configurare i parametri JSON del database vettoriale.

Dopo aver creato le credenziali e fornito l'accesso di rete al database vettoriale e al provider AI, l'istanza di Autonomous AI Database utilizza i profili AI per configurare l'accesso agli LLM. Vedere Esempio: impostazione e utilizzo di Select AI with RAG per un esempio completo di impostazione e utilizzo delle istruzioni Select AI.

Nota

Se non si desidera che i dati di tabella o i documenti di ricerca vettoriale vengano inviati a un LLM, un utente con privilegi di amministratore può disabilitare tale accesso per tutti gli utenti del database specificato. Questa operazione disabilita l'azione narrate per la RAG.

È possibile configurare i profili AI per i provider elencati in tramite il pacchetto DBMS_CLOUD_AI.

Vedere anche:

• Creare un indice vettoriale: CREATE_VECTOR_INDEX Procedura.

• Gestire i profili di indice vettoriale e altri profili AI: Riepilogo dei sottoprogrammi DBMS_CLOUD_AI.

• Viste indice vettore query: Viste DBMS_CLOUD_AI.

Usa modelli trasformatore nel database

Select AI RAG consente di utilizzare modelli di trasformatori ONNX pre-addestrati importati nel database nell'istanza di Oracle Database 23ai per generare vettori di incorporamento da blocchi di documenti e prompt utente.

Per ulteriori informazioni sull'importazione di un modello ONNX pre-addestrato nell'istanza di Oracle Database 23ai, vedere

• Importa modelli pre-addestrati in formato ONNX per la generazione di vettori nel database

• Metodo alternativo per l'importazione dei modelli ONNX

• Modello di generazione incorporamento predefinito per Oracle Database 26ai

Nota

È necessario importare un modello di trasformatore pre-addestrato in formato ONNX nell'istanza di Oracle Database 23ai per utilizzare Select AI RAG con il modello di trasformatore in database importato. Puoi anche utilizzare altri modelli di trasformatori dei provider AI supportati.

Per esplorare la funzione, vedere Esempio: selezione dell'intelligenza artificiale con modelli di trasformatore nel database.

Esempio: impostazione e utilizzo di Select AI con RAG

Questo esempio guida l'utente nell'impostazione delle credenziali, nella configurazione dell'accesso di rete e nella creazione di un indice vettoriale per l'integrazione dei servizi cloud della memoria di vettore AI generativa OCI con OpenAI utilizzando Oracle Autonomous AI Database.

L'impostazione termina con la creazione di un profilo AI che utilizza l'indice vettoriale per migliorare le risposte LLM. Infine, questo esempio utilizza l'azione Select AI narrate, che restituisce una risposta migliorata utilizzando le informazioni del database vettoriale specificato.

L'esempio seguente illustra la creazione e l'esecuzione di query sull'indice vettoriale in Oracle Database 23ai.

--Grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER; 

--Grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;

-- Create the OpenAI credential
BEGIN
      DBMS_CLOUD.CREATE_CREDENTIAL(
        credential_name => 'OPENAI_CRED',
        username => 'OPENAI_CRED',
        password => '<your_api_key>'
      );
END;
/

PL/SQL procedure successfully completed.

 -- Append the OpenAI endpoint
BEGIN
        DBMS_NETWORK_ACL_ADMIN.APPEND_HOST_ACE(
             host => 'api.openai.com',
             ace  => xs$ace_type(privilege_list => xs$name_list('http'),
                     principal_name => 'ADB_USER',
                     principal_type => xs_acl.ptype_db)
       );
END;
/

PL/SQL procedure successfully completed.

 
-- Create the object store credential
BEGIN
      DBMS_CLOUD.CREATE_CREDENTIAL(
        credential_name => 'OCI_CRED',
        username => '<your_username>',
        password => '<OCI_profile_password>'
      );
END;
/

PL/SQL procedure successfully completed.

 -- Create the profile with the vector index.

BEGIN
      DBMS_CLOUD_AI.CREATE_PROFILE(
          profile_name =>'OPENAI_ORACLE',
          attributes   =>'{"provider": "openai",
            "credential_name": "OPENAI_CRED",
            "vector_index_name": "MY_INDEX",
            "temperature": 0.2,
            "max_tokens": 4096,
            "model": "gpt-3.5-turbo-1106"
          }');
END;
/

PL/SQL procedure successfully completed.

-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OPENAI_ORACLE');

PL/SQL procedure successfully completed.                                            
 
-- create a vector index with the vector store name, object store location and
-- object store credential
BEGIN
       DBMS_CLOUD_AI.CREATE_VECTOR_INDEX(
         index_name  => 'MY_INDEX',
         attributes  => '{"vector_db_provider": "oracle",
                          "location": "https://swiftobjectstorage.us-phoenix-1.oraclecloud.com/v1/my_namespace/my_bucket/my_data_folder",
                          "object_storage_credential_name": "OCI_CRED",
                          "profile_name": "OPENAI_ORACLE",
                          "vector_dimension": 1536,
                          "vector_distance_metric": "cosine",
                          "chunk_overlap":128,
                          "chunk_size":1024
      }');
END;
/
PL/SQL procedure successfully completed.  
                                                                                
-- After the vector index is populated, we can now query the index.




-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OPENAI_ORACLE');

PL/SQL procedure successfully completed.

-- Select AI answers the question with the knowledge available in the vector database.

set pages 1000
set linesize 150
SELECT AI narrate how can I deploy an oracle machine learning model;
RESPONSE                                                  
To deploy an Oracle Machine Learning model, you would first build your model within the Oracle database. Once your in-database models are built, they become immediately available for use, for instance, through a SQL query using the prediction operators built into the SQL language. 

The model scoring, like model building, occurs directly in the database, eliminating the need for a separate engine or environment within which the model and corresponding algorithm code operate. You can also use models from a different schema (user account) if the appropriate permissions are in place.

Sources:
  - Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt (https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt)
  - Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt (https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt)

Esempio: selezionare l'intelligenza artificiale con i modelli di trasformatore nel database

In questo esempio viene illustrato come importare un modello di trasformatore pre-addestrato memorizzato nello storage degli oggetti Oracle nell'istanza di Oracle Database 23ai, quindi utilizzare il modello in-database importato nel profilo Select AI per generare integrazioni vettoriali per i chunk di documenti e i prompt utente.

Per utilizzare i modelli di trasformatore nel database nel profilo Select AI, assicurarsi di disporre dei seguenti elementi:

• il modello pre-addestrato importato nell'istanza di Oracle Database 23ai.

• facoltativamente, l'accesso allo storage degli oggetti Oracle.

Importa un modello di trasformatore pre-addestrato nel tuo Oracle Database 23ai da Oracle Object Storage

Rivedere i passi in Importa modelli pre-addestrati in formato ONNX per la generazione vettoriale nel database e nel blog Modello di generazione incorporamento predefinito per Oracle AI Database 26ai per importare un modello di trasformatore pre-addestrato nel database.

L'esempio riportato di seguito mostra come importare un modello di trasformatore predefinito dallo storage degli oggetti Oracle nel database e quindi visualizzare il modello importato.

- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
 
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
 
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
 
-- Download ONNX model from object storage into the directory object
BEGIN
  DBMS_CLOUD.GET_OBJECT(                           
        credential_name => NULL,
        directory_name  => 'ONNX_DIR',
        object_uri      => :location_uri || :file_name);
END;
/
 
-- Load the ONNX model into the database
BEGIN
  DBMS_VECTOR.LOAD_ONNX_MODEL(
        directory  => 'ONNX_DIR',
        file_name  => :file_name,
        model_name => 'MY_ONNX_MODEL');
END;
/
 
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE  model_name='MY_ONNX_MODEL';

Usa modelli trasformatore nel database in profili AI selezionati

Questi esempi illustrano come utilizzare i modelli di trasformatori nel database all'interno di un profilo Select AI. Un profilo è configurato solo per generare incorporamenti vettoriali, mentre l'altro supporta sia le azioni Select AI che la creazione di indici vettoriali.

Rivedere i requisiti per la configurazione del package DBMS_CLOUD_AI per completare i prerequisiti.

Di seguito è riportato un esempio per generare solo incorporamenti vettoriali:

BEGIN
  DBMS_CLOUD_AI.CREATE_PROFILE(
     profile_name => 'EMBEDDING_PROFILE',
     attributes   => '{"provider" : "database",
                       "embedding_model": "MY_ONNX_MODEL"}'
  );
END;
/

Di seguito è riportato un esempio per le azioni Select AI generali e la generazione dell'indice vettoriale in cui è possibile specificare un provider AI supportato. In questo esempio vengono utilizzati il profilo e le credenziali AI Gen OCI. Per l'elenco dei provider supportati, vedere . Tuttavia, se si desidera utilizzare il modello di trasformatore nel database per generare incorporamenti vettoriali, utilizzare "database: <MY_ONNX_MODEL>" nell'attributo embedding_model:

BEGIN                                                                        
  DBMS_CLOUD.CREATE_CREDENTIAL(                                              
    credential_name => 'GENAI_CRED',                                         
    user_ocid       => 'ocid1.user.oc1..aaaa...',
    tenancy_ocid    => 'ocid1.tenancy.oc1..aaaa...',
    private_key     => '<your_api_key>',
    fingerprint     => '<your_fingerprint>'     
  );                                                                         
END;                                                                        
/

BEGIN
  DBMS_CLOUD_AI.CREATE_PROFILE(
     profile_name => 'OCI_GENAI',
     attributes   => '{"provider": "oci",
                       "model": "meta.llama-3.3-70b-instruct",
                       "credential_name": "GENAI_CRED",
                       "vector_index_name": "MY_INDEX",
                       "embedding_model": "database: MY_ONNX_MODEL"}'
  );
END;
/

Usa Select AI con un modello di trasformatore nel database da un altro schema

Questo esempio mostra come utilizzare Select AI con un modello di trasformatore nel database se un altro proprietario dello schema è proprietario del modello. Specificare schema_name.object_name come nome completamente qualificato del modello nell'attributo embedding_model. Se l'utente corrente è il proprietario dello schema o il proprietario del modello, è possibile omettere il nome dello schema.

Assicurarsi di disporre dei privilegi riportati di seguito se un altro proprietario dello schema è proprietario del modello.

• privilegio di sistema CREATE ANY MINING MODEL
• privilegio di sistema SELECT ANY MINING MODEL
• privilegio dell'oggetto SELECT MINING MODEL sul modello specifico

Per concedere un privilegio di sistema, è necessario che all'utente sia stato concesso il privilegio di sistema ADMIN OPTION oppure il privilegio di sistema GRANT ANY PRIVILEGE.

Per esaminare i privilegi, vedere Privilegi di sistema per Oracle Machine Learning for SQL.

Le istruzioni seguenti consentono a ADB_USER1 di assegnare un punteggio ai dati e visualizzare i dettagli del modello in qualsiasi schema, purché ai dati sia stato concesso l'accesso SELECT. Tuttavia, ADB_USER1 può creare modelli solo nello schema ADB_USER1.

GRANT CREATE MINING MODEL TO ADB_USER1;
GRANT SELECT ANY MINING MODEL TO ADB_USER1;

BEGIN
  DBMS_CLOUD_AI.CREATE_PROFILE(
     profile_name => 'OCI_GENAI',
     attributes   => '{"provider": "oci",
                       "credential_name": "GENAI_CRED",
                       "vector_index_name": "MY_INDEX",
                       "embedding_model": "database: ADB_USER1.MY_ONNX_MODEL"}'
  );
END;
/

L'esempio riportato di seguito mostra come specificare il nome oggetto modello con distinzione tra maiuscole e minuscole.

BEGIN
  DBMS_CLOUD_AI.CREATE_PROFILE(
     profile_name => 'OCI_GENAI',
     attributes   => '{"provider": "oci",
                       "credential_name": "GENAI_CRED",
                       "model": "meta.llama-3.3-70b-instruct",
                       "vector_index_name": "MY_INDEX",
                       "embedding_model": "database: \"adb_user1\".\"my_model\""}'
  );
END;
/

Esempi end-to-end con diversi provider AI

Questi esempi illustrano i passi end-to-end per l'utilizzo del modello di trasformatore nel database con Select AI RAG. Un profilo utilizza database come provider creato in modo esclusivo per generare vettori di incorporamento, mentre l'altro profilo utilizza oci come provider creato per le azioni Select AI e l'indice vettoriale.

Rivedere i requisiti per la configurazione del package DBMS_CLOUD_AI per completare i prerequisiti.

--Grant create any directory privilege to the user
GRANT CREATE ANY DIRECTORY to ADB_USER;

- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
 
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
 
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
 
-- Download ONNX model from object storage into the directory object
BEGIN
  DBMS_CLOUD.GET_OBJECT(                           
        credential_name => NULL,
        directory_name  => 'ONNX_DIR',
        object_uri      => :location_uri || :file_name);
END;
/
 
-- Load the ONNX model into the database
BEGIN
  DBMS_VECTOR.LOAD_ONNX_MODEL(
        directory  => 'ONNX_DIR',
        file_name  => :file_name,
        model_name => 'MY_ONNX_MODEL');
END;
/
 
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE  model_name='MY_ONNX_MODEL';


--Administrator grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER; 

--Administrator grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;
 
-- Create the object store credential
BEGIN
      DBMS_CLOUD.CREATE_CREDENTIAL(
        credential_name => 'OCI_CRED',
        username => '<your_username>',
        password => '<OCI_profile_password>'
      );
END;
/

PL/SQL procedure successfully completed.

 -- Create the profile with Oracle Database.

BEGIN
      DBMS_CLOUD_AI.CREATE_PROFILE(
          profile_name =>'EMBEDDING_PROFILE',
          attributes   =>'{"provider": "database",
            "embedding_model": "MY_ONNX_MODEL"
          }');
END;
/

PL/SQL procedure successfully completed.

-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('EMBEDDING_PROFILE');

PL/SQL procedure successfully completed.                                            
 

In questo esempio viene utilizzato oci come provider.

--Grant create any directory privilege to the user
GRANT CREATE ANY DIRECTORY to ADB_USER;

- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
 
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
 
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
 
-- Download ONNX model from object storage into the directory object
BEGIN
  DBMS_CLOUD.GET_OBJECT(                           
        credential_name => NULL,
        directory_name  => 'ONNX_DIR',
        object_uri      => :location_uri || :file_name);
END;
/
 
-- Load the ONNX model into the database
BEGIN
  DBMS_VECTOR.LOAD_ONNX_MODEL(
        directory  => 'ONNX_DIR',
        file_name  => :file_name,
        model_name => 'MY_ONNX_MODEL');
END;
/
 
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE  model_name='MY_ONNX_MODEL';


–-Administrator Grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER; 

--Administrator Grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;

-- Create the object store credential
BEGIN
      DBMS_CLOUD.CREATE_CREDENTIAL(
        credential_name => 'OCI_CRED',
        username => '<your_username>',
        password => '<OCI_profile_password>'
      );
END;
/
--Create GenAI credentials
BEGIN                                                                        
  DBMS_CLOUD.CREATE_CREDENTIAL(                                              
    credential_name => 'GENAI_CRED',                                         
    user_ocid       => 'ocid1.user.oc1..aaaa...',
    tenancy_ocid    => 'ocid1.tenancy.oc1..aaaa...',
    private_key     => '<your_api_key>',
    fingerprint     => '<your_fingerprint>'     
  );                                                                         
END;                                                                        
/
--Create OCI AI profile
BEGIN
  DBMS_CLOUD_AI.CREATE_PROFILE(
     profile_name => 'OCI_GENAI',
     attributes   => '{"provider": "oci",
                       "model": "meta.llama-3.3-70b-instruct",
                       "credential_name": "GENAI_CRED",
                       "vector_index_name": "MY_INDEX",
                       "embedding_model": "database: MY_ONNX_MODEL"}'
  );
END;
/

-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OCI_GENAI');

PL/SQL procedure successfully completed.                                            
 
-- create a vector index with the vector store name, object store location and
-- object store credential
BEGIN
       DBMS_CLOUD_AI.CREATE_VECTOR_INDEX(
         index_name  => 'MY_INDEX',
         attributes  => '{"vector_db_provider": "oracle",
                          "location": "https://swiftobjectstorage.us-phoenix-1.oraclecloud.com/v1/my_namespace/my_bucket/my_data_folder",
                          "object_storage_credential_name": "OCI_CRED",
                          "profile_name": "OCI_GENAI",
                          "vector_dimension": 384,
                          "vector_distance_metric": "cosine",
                          "chunk_overlap":128,
                          "chunk_size":1024
      }');
END;
/
PL/SQL procedure successfully completed.  
                                                                               

-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OCI_GENAI');

PL/SQL procedure successfully completed.

-- Select AI answers the question with the knowledge available in the vector database.

set pages 1000
set linesize 150
SELECT AI narrate how can I deploy an oracle machine learning model;
RESPONSE                                                  
To deploy an Oracle Machine Learning model, you would first build your model within the Oracle database. Once your in-database models are 
built, they become immediately available for use, for instance, through a SQL query using the prediction operators built into the SQL 
language. 

The model scoring, like model building, occurs directly in the database, eliminating the need for a separate engine or environment within 
which the model and corresponding algorithm code operate. You can also use models from a different schema (user account) if the appropriate 
permissions are in place.

Sources:
  - Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt (https://objectstorage.../v1/my_namespace/my_bucket/
my_data_folder/Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt)
  - Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt 
(https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-
Database-Machine-Learning-and-APEX.txt)

---

Titolo e informazioni sul copyright

Copyright ©2025,2025,

Oracle e/o relative consociate.

Accesso facilitato alla documentazione

For information about Oracle's commitment to accessibility, visit the Oracle Accessibility Program website at http://www.oracle.com/pls/topic/lookup?ctx=acc&id=docacc.

Accesso al supporto Oracle

L'accesso e l'uso dei servizi di Supporto Oracle da parte dei clienti Oracle è soggetto ai termini e alle condizioni specificati nell'ordine Oracle per i servizi applicabili.