運用檢索增強生成 (RAG) 選取 AI
Select AI with RAG 透過使用語意相似性搜尋從指定的向量儲存區擷取內容來增強您的自然語言提示。這會透過使用您特定且最新的內容來減少幻燈片，並為您的提示提供更相關的自然語言回應。
Select AI 可自動執行檢索增強生成 (RAG) 流程。此技術使用 AI 向量搜尋從企業來源擷取資料，並增強指定大型語言模型 (LLM) 的使用者提示。RAG 運用企業資料存放區的資訊來減少虛構情況，並產生不動的回應。
RAG 在向量索引上使用 AI 向量搜尋來尋找指定問題的語意相似資料。向量儲存會處理向量內嵌，這些內嵌是各種資料點的數學表示法，例如文字、影像及音訊。這些內嵌項目會擷取資料的含義，以實現有效率的處理與分析。如需有關向量內嵌和 AI 向量搜尋的詳細資訊，請參閱 AI Vector Search 概要。
Select AI 與 Oracle Autonomous AI Database 26ai 中可用的 AI 向量搜尋整合，以使用向量內嵌進行相似性搜尋。
主題
Select AI RAG 的優勢
複查 LLM 使用的來源，簡化查詢、提升目前資料的回應準確性，以及提高透明度。
-
簡化資料查詢並提高回應準確度：讓使用者能夠使用自然語言查詢企業資料，並為 LLM 提供企業資料的詳細內容，以產生更準確且相關的回應，並減少 LLM 幻燈片的執行個體。
-
最新資訊：讓 LLM 使用向量儲存區存取目前的企業資訊，無需昂貴且耗時的微調靜態資料集訓練的 LLM。
-
無縫整合：與 Oracle AI Vector Search 整合，可簡化資料處理並提升效能。
-
自動化資料協調：使用完全託管的向量索引管線自動化協調步驟，確保有效率地處理新資料。
-
可理解的情境結果：能夠從向量儲存區存取和擷取 LLM 使用的來源，確保結果的透明度和信心。以自然語言文字或 JSON 格式檢視和擷取資料，以簡化整合和應用程式開發。
建立您的向量儲存區
Select AI 會自動處理要分塊的文件、產生內嵌項目、將文件儲存在指定的向量儲存區，並在新資料到達時更新向量索引。
- 輸入：資料一開始會儲存在物件儲存中。
- Oracle Autonomous Database 會擷取輸入資料或文件，並加以分塊，然後將區塊傳送至內嵌模型。
- 內嵌模型會處理區塊資料並傳回向量內嵌。
- 接著，向量內嵌會儲存在向量儲存區中，以與 RAG 搭配使用。新增內容時，會自動更新向量索引。
RAG 會從企業資料庫擷取相關資訊片段，以回答使用者的問題。此資訊會連同使用者提示一起提供給指定的大型語言模型。Select AI 會使用此其他企業資訊來增強提示，改善 LLM 的回應。RAG 可以透過向量儲存區的最新企業資訊來提高回應品質。
-
輸入：使用者要求使用 Select AI
narrate動作提出問題 (指定提示)。 -
Select AI 會使用 AI 設定檔中指定的內嵌模型，產生提示的向量內嵌。
-
向量搜尋索引使用內嵌問題的向量，從已編製索引的客戶企業資料 (搜尋向量儲存區) 中尋找相符的內容。
- 向量搜尋會傳回類似於您 Autonomous AI Database 執行處理的輸入的前 K 個文字。
- Autonomous AI Database 接著將這些具有使用者問題的常用 K 查詢結果傳送給 LLM。
- LLM 會傳回對 Autonomous AI Database 執行處理的回應。
- Autonomous AI Database Select AI 可為使用者提供回應。
使用 DBMS_CLOUD_AI 來建立及管理向量索引
使用 DBMS_CLOUD_AI 套裝軟體建立和管理向量索引，以及設定向量資料庫 JSON 參數。
附註：
如果您不希望將表格資料或向量搜尋文件傳送至 LLM，具有管理員權限的使用者可以停用指定資料庫之所有使用者的此類存取權。這實際上會停用 RAG 的 narrate 動作。
您可以透過 DBMS_CLOUD_AI 套裝軟體為 中所列的提供者設定 AI 設定檔。
另請參閱：
-
建立向量索引：CREATE_VECTOR_INDEX 程序。
-
管理向量索引設定檔和其他 AI 設定檔：DBMS_CLOUD_AI 子程式摘要。
-
查詢向量索引檢視：DBMS_CLOUD_AI 檢視。
使用資料庫內轉換器模型
Select AI RAG 可讓您使用在 Oracle Database 23ai 實例中匯入資料庫的預先訓練 ONNX 轉換器模型，從文件區塊和使用者提示產生內嵌向量。
附註：
您必須將預先訓練的 ONNX 格式轉換器模型匯入 Oracle Database 23ai 執行處理，才能將 Select AI RAG 與匯入的資料庫內轉換器模型搭配使用。您也可以使用來自受支援 AI 提供者的其他變壓器模型。請參閱範例：使用資料庫內變壓器模型選取 AI ，以瀏覽該功能。
範例：設定並使用含 RAG 的 Select AI
This example guides you through setting up credentials, configuring network access, and creating a vector index for integrating OCI Generative AI vector store cloud services with OpenAI using Oracle Autonomous AI Database.
這些設定最後會建立一個 AI 設定檔，該設定檔使用向量索引來增強 LLM 回應。最後，此範例使用 Select AI narrate 動作，此動作會傳回使用指定向量資料庫資訊增強的回應。
以下範例示範在 Oracle Database 23ai 中建置和查詢向量索引。
--Grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER;
--Grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;
-- Create the OpenAI credential
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'OPENAI_CRED',
username => 'OPENAI_CRED',
password => '<your_api_key>'
);
END;
/
PL/SQL procedure successfully completed.
-- Append the OpenAI endpoint
BEGIN
DBMS_NETWORK_ACL_ADMIN.APPEND_HOST_ACE(
host => 'api.openai.com',
ace => xs$ace_type(privilege_list => xs$name_list('http'),
principal_name => 'ADB_USER',
principal_type => xs_acl.ptype_db)
);
END;
/
PL/SQL procedure successfully completed.
-- Create the object store credential
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'OCI_CRED',
username => '<your_username>',
password => '<OCI_profile_password>'
);
END;
/
PL/SQL procedure successfully completed.
-- Create the profile with the vector index.
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name =>'OPENAI_ORACLE',
attributes =>'{"provider": "openai",
"credential_name": "OPENAI_CRED",
"vector_index_name": "MY_INDEX",
"temperature": 0.2,
"max_tokens": 4096,
"model": "gpt-3.5-turbo-1106"
}');
END;
/
PL/SQL procedure successfully completed.
-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OPENAI_ORACLE');
PL/SQL procedure successfully completed.
-- create a vector index with the vector store name, object store location and
-- object store credential
BEGIN
DBMS_CLOUD_AI.CREATE_VECTOR_INDEX(
index_name => 'MY_INDEX',
attributes => '{"vector_db_provider": "oracle",
"location": "https://swiftobjectstorage.us-phoenix-1.oraclecloud.com/v1/my_namespace/my_bucket/my_data_folder",
"object_storage_credential_name": "OCI_CRED",
"profile_name": "OPENAI_ORACLE",
"vector_dimension": 1536,
"vector_distance_metric": "cosine",
"chunk_overlap":128,
"chunk_size":1024
}');
END;
/
PL/SQL procedure successfully completed.
-- After the vector index is populated, we can now query the index.
-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OPENAI_ORACLE');
PL/SQL procedure successfully completed.
-- Select AI answers the question with the knowledge available in the vector database.
set pages 1000
set linesize 150
SELECT AI narrate how can I deploy an oracle machine learning model;
RESPONSE
To deploy an Oracle Machine Learning model, you would first build your model within the Oracle database. Once your in-database models are built, they become immediately available for use, for instance, through a SQL query using the prediction operators built into the SQL language.
The model scoring, like model building, occurs directly in the database, eliminating the need for a separate engine or environment within which the model and corresponding algorithm code operate. You can also use models from a different schema (user account) if the appropriate permissions are in place.
Sources:
- Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt (https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt)
- Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt (https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt)
範例：使用資料庫內轉換器模型選取 AI
此範例示範如何將儲存在 Oracle 物件儲存中的預先訓練轉換器模型匯入 Oracle Database 23ai 執行處理，然後使用 Select AI 設定檔中的匯入資料庫內模型產生文件區塊和使用者提示的向量內嵌。
-
您在 Oracle Database 23ai 執行處理中匯入的預先訓練模型。
-
(選擇性) 存取 Oracle 物件儲存體。
請檢閱在資料庫內以 ONNX 格式匯入用於向量生成的預先訓練模型和部落格針對 Oracle AI Database 26ai 預先建置的內嵌生成模型中的步驟，以將預先訓練的變壓器模型匯入您的資料庫。
下列範例顯示如何將預先取得的轉換器模型從 Oracle 物件儲存匯入您的資料庫，然後檢視匯入的模型。
- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
-- Download ONNX model from object storage into the directory object
BEGIN
DBMS_CLOUD.GET_OBJECT(
credential_name => NULL,
directory_name => 'ONNX_DIR',
object_uri => :location_uri || :file_name);
END;
/
-- Load the ONNX model into the database
BEGIN
DBMS_VECTOR.LOAD_ONNX_MODEL(
directory => 'ONNX_DIR',
file_name => :file_name,
model_name => 'MY_ONNX_MODEL');
END;
/
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE model_name='MY_ONNX_MODEL';這些範例說明如何在 Select AI 設定檔中使用資料庫內變壓器模型。一個設定檔僅設定用於產生向量內嵌，而另一個設定檔則同時支援 Select AI 動作和向量索引建立。
請參閱設定 DBMS_CLOUD_AI 套裝程式的需求以完成先決條件。
以下為僅產生向量內嵌的範例：
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name => 'EMBEDDING_PROFILE',
attributes => '{"provider" : "database",
"embedding_model": "MY_ONNX_MODEL"}'
);
END;
/以下為一般 Select AI 動作和向量索引產生範例，您可以在其中指定支援的 AI 提供程式。此範例使用 OCI Gen AI 設定檔和證明資料。如需支援提供者的清單，請參閱 。不過，如果您想要使用資料庫內變壓器模型來產生向量內嵌，請在 embedding_model 屬性中使用 "database: <MY_ONNX_MODEL>"：
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'GENAI_CRED',
user_ocid => 'ocid1.user.oc1..aaaa...',
tenancy_ocid => 'ocid1.tenancy.oc1..aaaa...',
private_key => '<your_api_key>',
fingerprint => '<your_fingerprint>'
);
END;
/
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name => 'OCI_GENAI',
attributes => '{"provider": "oci",
"model": "meta.llama-3.3-70b-instruct",
"credential_name": "GENAI_CRED",
"vector_index_name": "MY_INDEX",
"embedding_model": "database: MY_ONNX_MODEL"}'
);
END;
/此範例示範如果其他綱要擁有者擁有模型，如何將 Select AI 與資料庫內變壓器模型搭配使用。在 embedding_model 屬性中指定 schema_name.object_name 作為模型的完整名稱。如果目前的使用者是綱要擁有者或擁有模型，您可以省略綱要名稱。
CREATE ANY MINING MODEL系統權限SELECT ANY MINING MODEL系統權限- 特定模型的
SELECT MINING MODEL物件權限
若要授與系統權限，您必須已授與具有 ADMIN OPTION 的系統權限，或已授與 GRANT ANY PRIVILEGE 系統權限。
請參閱 Oracle Machine Learning for SQL 的系統權限以複查權限。
只要已將 SELECT 存取權授予資料，下列敘述句即可讓 ADB_USER1 對任何綱要中的資料進行評分和檢視模型詳細資訊。不過，ADB_USER1 只能在 ADB_USER1 綱要中建立模型。
GRANT CREATE MINING MODEL TO ADB_USER1;
GRANT SELECT ANY MINING MODEL TO ADB_USER1;
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name => 'OCI_GENAI',
attributes => '{"provider": "oci",
"credential_name": "GENAI_CRED",
"vector_index_name": "MY_INDEX",
"embedding_model": "database: ADB_USER1.MY_ONNX_MODEL"}'
);
END;
/下列範例顯示如何指定區分大小寫的模型物件名稱：
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name => 'OCI_GENAI',
attributes => '{"provider": "oci",
"credential_name": "GENAI_CRED",
"model": "meta.llama-3.3-70b-instruct",
"vector_index_name": "MY_INDEX",
"embedding_model": "database: \"adb_user1\".\"my_model\""}'
);
END;
/這些範例示範使用資料庫內變壓器模型搭配 Select AI RAG 的端對端步驟。一個設定檔使用 database 作為專門用於產生內嵌向量的 provider，而另一個設定檔使用 oci 作為為 Select AI 動作和向量索引建立的 provider。
請參閱設定 DBMS_CLOUD_AI 套裝程式的需求以完成先決條件。
--Grant create any directory privilege to the user
GRANT CREATE ANY DIRECTORY to ADB_USER;
- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
-- Download ONNX model from object storage into the directory object
BEGIN
DBMS_CLOUD.GET_OBJECT(
credential_name => NULL,
directory_name => 'ONNX_DIR',
object_uri => :location_uri || :file_name);
END;
/
-- Load the ONNX model into the database
BEGIN
DBMS_VECTOR.LOAD_ONNX_MODEL(
directory => 'ONNX_DIR',
file_name => :file_name,
model_name => 'MY_ONNX_MODEL');
END;
/
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE model_name='MY_ONNX_MODEL';
--Administrator grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER;
--Administrator grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;
-- Create the object store credential
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'OCI_CRED',
username => '<your_username>',
password => '<OCI_profile_password>'
);
END;
/
PL/SQL procedure successfully completed.
-- Create the profile with Oracle Database.
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name =>'EMBEDDING_PROFILE',
attributes =>'{"provider": "database",
"embedding_model": "MY_ONNX_MODEL"
}');
END;
/
PL/SQL procedure successfully completed.
-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('EMBEDDING_PROFILE');
PL/SQL procedure successfully completed.
此範例使用 oci 作為 provider。
--Grant create any directory privilege to the user
GRANT CREATE ANY DIRECTORY to ADB_USER;
- Create a Directory object, or use an existing directory object
CREATE OR REPLACE DIRECTORY ONNX_DIR AS 'onnx_model';
-- Object storage bucket
VAR location_uri VARCHAR2(4000);
EXEC :location_uri := 'https://adwc4pm.objectstorage.us-ashburn-1.oci.customer-oci.com/p/eLddQappgBJ7jNi6Guz9m9LOtYe2u8LWY19GfgU8flFK4N9YgP4kTlrE9Px3pE12/n/adwc4pm/b/OML-Resources/o/';
-- Model file name
VAR file_name VARCHAR2(512);
EXEC :file_name := 'all_MiniLM_L12_v2.onnx';
-- Download ONNX model from object storage into the directory object
BEGIN
DBMS_CLOUD.GET_OBJECT(
credential_name => NULL,
directory_name => 'ONNX_DIR',
object_uri => :location_uri || :file_name);
END;
/
-- Load the ONNX model into the database
BEGIN
DBMS_VECTOR.LOAD_ONNX_MODEL(
directory => 'ONNX_DIR',
file_name => :file_name,
model_name => 'MY_ONNX_MODEL');
END;
/
-- Verify
SELECT model_name, algorithm, mining_function
FROM user_mining_models
WHERE model_name='MY_ONNX_MODEL';
–-Administrator Grants EXECUTE privilege to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_AI to ADB_USER;
--Administrator Grants EXECUTE privilege DBMS_CLOUD_PIPELINE to ADB_USER
GRANT EXECUTE on DBMS_CLOUD_PIPELINE to ADB_USER;
-- Create the object store credential
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'OCI_CRED',
username => '<your_username>',
password => '<OCI_profile_password>'
);
END;
/
--Create GenAI credentials
BEGIN
DBMS_CLOUD.CREATE_CREDENTIAL(
credential_name => 'GENAI_CRED',
user_ocid => 'ocid1.user.oc1..aaaa...',
tenancy_ocid => 'ocid1.tenancy.oc1..aaaa...',
private_key => '<your_api_key>',
fingerprint => '<your_fingerprint>'
);
END;
/
--Create OCI AI profile
BEGIN
DBMS_CLOUD_AI.CREATE_PROFILE(
profile_name => 'OCI_GENAI',
attributes => '{"provider": "oci",
"model": "meta.llama-3.3-70b-instruct",
"credential_name": "GENAI_CRED",
"vector_index_name": "MY_INDEX",
"embedding_model": "database: MY_ONNX_MODEL"}'
);
END;
/
-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OCI_GENAI');
PL/SQL procedure successfully completed.
-- create a vector index with the vector store name, object store location and
-- object store credential
BEGIN
DBMS_CLOUD_AI.CREATE_VECTOR_INDEX(
index_name => 'MY_INDEX',
attributes => '{"vector_db_provider": "oracle",
"location": "https://swiftobjectstorage.us-phoenix-1.oraclecloud.com/v1/my_namespace/my_bucket/my_data_folder",
"object_storage_credential_name": "OCI_CRED",
"profile_name": "OCI_GENAI",
"vector_dimension": 384,
"vector_distance_metric": "cosine",
"chunk_overlap":128,
"chunk_size":1024
}');
END;
/
PL/SQL procedure successfully completed.
-- Set profile
EXEC DBMS_CLOUD_AI.SET_PROFILE('OCI_GENAI');
PL/SQL procedure successfully completed.
-- Select AI answers the question with the knowledge available in the vector database.
set pages 1000
set linesize 150
SELECT AI narrate how can I deploy an oracle machine learning model;
RESPONSE
To deploy an Oracle Machine Learning model, you would first build your model within the Oracle database. Once your in-database models are
built, they become immediately available for use, for instance, through a SQL query using the prediction operators built into the SQL
language.
The model scoring, like model building, occurs directly in the database, eliminating the need for a separate engine or environment within
which the model and corresponding algorithm code operate. You can also use models from a different schema (user account) if the appropriate
permissions are in place.
Sources:
- Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt (https://objectstorage.../v1/my_namespace/my_bucket/
my_data_folder/Manage-your-models-with-Oracle-Machine-Learning-on-Autonomous-Database.txt)
- Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-Database-Machine-Learning-and-APEX.txt
(https://objectstorage.../v1/my_namespace/my_bucket/my_data_folder/Develop-and-deploy-machine-learning-models-using-Oracle-Autonomous-
Database-Machine-Learning-and-APEX.txt)For information about Oracle's commitment to accessibility, visit the Oracle Accessibility Program website at http://www.oracle.com/pls/topic/lookup?ctx=acc&id=docacc.
取得 Oracle 支援
Oracle 客戶對於 Oracle 支援服務的取得及使用，應以其 Oracle 訂單中針對適用服務所指定的條款與條件為依據。