주:

송장 해결을 위한 다중 에이전트 통신 프로토콜 서버를 사용하여 AI 에이전트 빌드

소개

유통 업체, 산업 및 소매 체인과 같은 대량의 제품을 다루는 회사는 부정확하거나 불완전하거나 다양한 텍스트 설명을 기반으로 제품을 식별하는 데 어려움을 겪는 경우가 많습니다. 데이터를 수동으로 입력하는 환경에서는 ERP(Enterprise Resource Planning), CRM(Customer Relationship Management) 및 전자 상거래 플랫폼과 같은 시스템에서 항목을 올바르게 식별하기 어려울 수 있습니다.

이 시나리오에서는 다음과 같은 툴이 일반적으로 필요합니다.

이 자습서에서는 고객 반품 송장의 불일치를 해결하는 데 특화된 AI 에이전트를 생성하는 방법을 알아봅니다. 에이전트는 벡터 검색 및 송장 검색 도구를 제공하는 MCP 서버와 상호 작용할 수 있으므로 에이전트는 고객이 제공한 정보를 기반으로 회사의 원래 A/R 송장을 자동으로 찾을 수 있습니다.

MCP 서버(모델 컨텍스트 프로토콜)는 표준화된 메시지 및 도구 프로토콜을 통해 지능형 에이전트와 외부 서비스 간의 통신을 조정하는 소프트웨어 구성 요소입니다. 언어 모델(LLM)과 기존 API 간의 다리 역할을 하므로 AI 에이전트가 재작성하거나 직접 조정할 필요 없이 레거시 시스템의 특정 기능에 액세스할 수 있습니다.

어떻게 작동하나요?

MCP 서버:

레거시 애플리케이션 사용

레거시 애플리케이션은 이미 데이터베이스, 파일 또는 내부 API를 통해 기능을 제공하는 경우가 많습니다. MCP 서버를 사용하여 다음을 수행할 수 있습니다.

장점

이 에이전트는 Oracle Cloud Infrastructure(OCI) Generative AI 언어 모델을 기반으로 하며 MCP 서버에서 관리하는 동적으로 선언된 도구와 통합됩니다.

이 두 가지 구성요소 통합을 통해 시스템은 Oracle LLM 기반의 에이전트를 지원합니다.

이 모듈식 설계를 통해 청구서가 아닌 도메인으로 시스템을 재사용하고 쉽게 전환할 수 있습니다.

목표

필수 조건

작업 1: Oracle Database 23ai 생성(항상 무료)

이 작업에서는 항상 무료 모드로 Oracle Database 23ai를 프로비전하는 방법에 대해 알아봅니다. 이 버전은 추가 비용 없이 개발, 테스트 및 학습에 이상적인 완전 관리형 환경을 제공합니다.

  1. OCI 콘솔에 로그인하고 Oracle Database, Autonomous Database로 이동한 다음 Autonomous Database 인스턴스 생성을 누릅니다.

  2. 다음 정보를 입력합니다.

    • 데이터베이스 이름: 인스턴스에 대한 식별 이름을 입력합니다.
    • 작업 로드 유형: 필요에 따라 데이터 웨어하우스 또는 트랜잭션 처리를 선택합니다.
    • 컴파트먼트: 리소스를 구성할 적절한 컴파트먼트를 선택합니다.

  3. 인스턴스가 무료로 프로비전되도록 하려면 항상 무료를 선택합니다.

  4. ADMIN 유저에 대해 데이터베이스 액세스에 사용할 보안 암호를 생성합니다.

  5. 설정을 검토한 후 Autonomous Database 생성을 누릅니다. 인스턴스가 프로비전되어 사용할 수 있을 때까지 몇 분 정도 기다립니다.

작업 2: Autonomous Database 테이블 생성 스크립트 실행

사용 사례에 맞게 데이터베이스를 준비합니다. AI 에이전트와 송장을 조정하는 시나리오에 대한 세 가지 필수 테이블(PRODUCTS, INVOICE 및 ITEM_INVOICE)을 생성하는 script.sql에서 SQL 스크립트를 다운로드하여 실행합니다.

  1. OCI 콘솔로 이동하여 Oracle Database, Autonomous Database로 이동하고 새로 생성된 인스턴스의 이름을 누릅니다.

  2. Database Actions 및 SQL을 눌러 브라우저에서 SQL 콘솔을 엽니다.

  3. script.sql 파일을 다운로드하여 로컬로 열고 모든 내용을 SQL 콘솔 편집기에 붙여 넣습니다.

  4. Run을 누르거나 Ctrl + Enter를 누릅니다. 명령이 성공적으로 실행되었는지 확인할 때까지 기다립니다.

  5. 다음 명령을 실행하여 테이블이 생성되었는지 확인합니다.

    SELECT table_name FROM user_tables;

작업 3: 테이블에 예제 데이터 삽입

AI 에이전트 적용을 위한 실제 시나리오를 시뮬레이션할 더미 데이터를 삽입합니다. 다음 두 가지 SQL 스크립트를 사용합니다.

이 데이터는 AI 상담원이 반품 송장의 불일치를 해결하는 데 사용됩니다.

  1. OCI 콘솔로 이동하여 Oracle Database, Autonomous Database로 이동하고 새로 생성된 인스턴스의 이름을 누릅니다.

  2. Database Actions 및 SQL을 눌러 브라우저에서 SQL 콘솔을 엽니다.

  3. insert_products_books.sql 파일 콘텐츠(insert_products_books.sql)를 다운로드하여 SQL 편집기에 붙여 넣습니다.

  4. Run을 누르거나 Ctrl + Enter를 누릅니다.

  5. 이제 invoice_data_insert.sql 파일 콘텐츠(invoice_data_insert.sql 파일)를 여기에서 다운로드하여 편집기에 붙여 넣습니다.

  6. Run을 누르거나 Ctrl + Enter를 누릅니다.

  7. 데이터를 확인하려면 다음 명령을 실행합니다.

    SELECT * FROM PRODUCTS;
SELECT * FROM INVOICE;
SELECT * FROM ITEM_INVOICE;

작업 4: 데이터베이스에서 고급 검색 함수 생성 및 컴파일

제품 설명에서 키워드를 지능적으로 검색하는 fn_advanced_search이라는 PL/SQL 함수를 생성합니다. 이 기능은 AI 에이전트가 resolve_ean 도구의 일부로 사용하므로 고객이 반품 노트에 제공한 설명을 기반으로 가장 가까운 EAN 코드를 찾을 수 있습니다.

함수는 무엇을 수행합니까?

단계를 수행합니다:

  1. 전체 similarity_search.sql 스크립트를 복사하여 자율운영 데이터베이스 SQL 콘솔에 붙여 넣습니다.

    여기에는 다음이 포함됩니다.

    • products 테이블을 생성합니다(아직 생성하지 않은 경우).
    • 텍스트 인덱스를 생성합니다.
    • product_result 및 product_result_tab를 입력합니다.
    • fn_advanced_search 함수입니다.
    • 선택적 테스트

  2. 전체 스크립트를 실행합니다. 결과는 Function created 및 Type created여야 합니다.

  3. 다음 query를 실행하여 시뮬레이트된 설명을 사용하여 함수를 테스트합니다.

    SELECT *
FROM TABLE(fn_advanced_search('harry poter askaban'))
ORDER BY similarity DESC;

작업 5: AI를 사용한 의미 검색용 제품 벡터화

이 작업에서는 의미 벡터를 기반으로 하는 새로운 접근 방식으로 고급 SQL 기반 검색을 보완합니다. 이 기능은 임베딩(구문의 숫자 표현)을 사용하여 제품 설명 간의 유사성을 비교하는 AI 에이전트에 특히 유용합니다. 이는 단어 또는 음성 검색보다 유연하고 지능적입니다.

이를 위해 Oracle 데이터베이스에 연결하고, PRODUCTS 테이블에서 제품을 추출하고, 해당 설명을 벡터(임베딩)로 변환하고, Oracle 데이터베이스 자체를 사용하여 벡터 인덱스를 작성하는 Python 스크립트(process_vector_products.py)를 사용합니다.

스크립트는 무엇을 수행합니까?

주: 임베딩은 BLOB로 저장되도록 np.float32.tobytes()를 사용하여 바이트로 변환됩니다. 벡터를 검색하려면 np.frombuffer(blob, dtype=np.float32)를 사용합니다.

이 형식을 사용하면 SQL을 사용하여 직접 또는 np.dot, cosine_similarity 또는 LLM과의 통합을 위해 데이터베이스에서 벡터를 로드하여 추후 유사성 검색을 수행할 수 있습니다.

이 스크립트는 제품에 대한 의미 임베딩을 생성하고 이러한 벡터를 Oracle Database 23ai에 기록합니다. 주요 사항은 다음과 같습니다.

다음 스크립트를 실행합니다.

주: Oracle Wallet을 다운로드하여 구성해야 합니다.

터미널에서 실행합니다.

python process_vector_products.py

완료! 데이터베이스의 제품이 벡터화되었습니다.

이 내용이 중요한 이유는 무엇입니까?

벡터 검색은 설명이 주관적이거나 정확하지 않거나 자연어일 때도 제품을 찾는 데 매우 효과적입니다.

코드 이해: MCP 서버가 있는 LLM 에이전트

이 프로젝트는 세 가지 주요 구성 요소로 구성됩니다.

각 구성 요소의 기능을 이해하고 상세하게 코드의 가장 중요한 부분을 강조 표시합니다.

작업 6: MCP 에이전트에서 모델 및 포함 구성

OCI Generative AI 서비스를 사용하여 MCP 프로토콜을 기반으로 대화 에이전트가 사용하는 언어 모델 및 임베딩을 구성해 보겠습니다.

  1. 언어 모델(LLM)을 구성합니다.

    언어 모델은 메시지를 해석하고, 응답을 생성하고, 에이전트의 주요 두뇌 역할을 담당합니다.

    • main.py 파일에서 구성합니다.

      from langchain_community.chat_models.oci_generative_ai import ChatOCIGenAI

llm = ChatOCIGenAI(
    model_id="cohere.command-r-08-2024",
    service_endpoint="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com",
    compartment_id="ocid1.compartment.oc1..aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa",
    auth_profile="DEFAULT",
    model_kwargs={"temperature": 0.1, "top_p": 0.75, "max_tokens": 2000}
)
      매개변수 설명
      model_id 생성형 AI 모델 ID(예: cohere.command-r-08-2024)
      service_endpoint 생성형 AI 서비스 지역 엔드포인트
      compartment_id OCI 컴파트먼트의 OCID
      auth_profile ~/.oci/config 파일에 구성된 프로파일의 이름입니다.
      model_kwargs 온도, top-p 및 응답 크기

    • 사용 가능한 모델을 나열합니다.

      • OCI CLI 사용:

        oci generative-ai model list --compartment-id <seu_compartment_id>

      • Python SDK 사용:

        from oci.generative_ai import GenerativeAiClient
from oci.config import from_file

config = from_file(profile_name="DEFAULT")
client = GenerativeAiClient(config)

models = client.list_models(compartment_id=config["compartment_id"])
for model in models.data:
    print(model.display_name, model.model_id)

  2. 의미 검색에 대한 임베딩을 구성합니다.

    유사한 제품 또는 상황별 정보 검색은 벡터 임베딩에 따라 달라집니다.

    에이전트의 사용 예:

    @mcp.tool()
def search_vectorized_product(description: str) -> dict:
    """
        Searches for a product by description using embeddings.
    """
    return sercher.search_similar_products(description)

    아래와 같이 매개변수(product_search.py)를 변경합니다.

    
class SimilarProductSearch:
    def __init__(
            self,
            top_k=5,
            minimum_distance=1.0,
            model_id="cohere.embed-english-light-v3.0",
            service_endpoint="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com",
            compartment_id="ocid1.compartment.oc1..aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa",
            auth_profile="DEFAULT",
            wallet_path="/WALLET_PATH/Wallet_oradb23ai",
            db_alias="oradb23ai_high",
            username="USER",
            password="Password"
    ):
    매개변수 설명
    top_k 반환된 제안 수입니다.
    minimum_distance 관련 결과를 고려할 최대 거리입니다.
    model_id OCI 내 임베딩 모델의 ID입니다(예: cohere.embed-english-light-v3.0).
    service_endpoint OCI Generative AI 지역 엔드포인트.
    compartment_id 컴파트먼트 OCID입니다.
    auth_profile ~/.oci/config 파일의 프로파일 이름입니다.
    wallet_path Oracle Database 23ai 전자 지갑 경로입니다.
    db_alias 데이터베이스 별칭입니다.
    username 데이터베이스 사용자.
    password 데이터베이스 암호입니다.

    MCP 서버 구성:

    process_vector_products.py 코드를 실행할 때와 마찬가지로 Oracle Database 23ai 데이터베이스에 대해 Oracle Wallet을 구성해야 합니다.

    설정에 따라 매개변수를 수정합니다.

    import os

# Oracle Wallet settings
WALLET_PATH = "/path/to/Wallet"
DB_ALIAS = "oradb23ai_high"
USERNAME = "admin"
PASSWORD = "..."

# Define the environment variable required for the Oracle client
os.environ["TNS_ADMIN"] = WALLET_PATH

    그런 다음 process_vector_products.py를 실행하여 제품을 Oracle Database 23ai로 벡터화합니다.

    python process_vector_products.py

이를 통해 LLM 모델 및 임베딩은 MCP 에이전트에서 LangGraph 및 LangChain와 함께 사용할 준비가 되었습니다.

  1. 다음 명령을 사용하여 main.py 파일을 실행합니다.

    python main.py

  2. You: 프롬프트가 나타나면 다음 명령문을 입력합니다.

    { "customer": "Customer 108",  "description": "Harry Poter askaban", "price": 82.26, "location": "SP"}

    주: Harry Potter 및 Azkaban 장부의 이름은 철자가 잘못되었지만 엔진은 문제 없이 찾을 수 있습니다.

    img.png

    img_1.png

    서비스가 실행되었음을 알 수 있습니다.

    fetch_vectorized_product
resolve_ean
search_invoices_by_criteria

  3. 이제 다음 명령문을 입력하십시오.

    { "customer": "Customer 108",  "description": "Harry Poter askaban", "price": 82.26}

    송장 레코드를 찾을 수 없습니다. 그 이유는 위치가 송장 찾기의 핵심이기 때문입니다.

    img_2.png

  4. 이제 다음 명령문을 입력하십시오.

    { "customer": "Customer 108",  "description": "Harry Poter", "location": "SP"}

    이번에는 위치를 입력하지만 단가는 생략합니다.

    img_3.png

    그러나 송장이 발견되었습니다. 이는 가격이 근본적이지는 않지만 격차를 좁혀 더 확실하게 만드는 데 도움이되기 때문입니다.

    테스트의 몇 가지 예는 다음과 같습니다.

     { "customer": "Customer 108",  "description": "Harry Poter askaban", "price": 82.26, "location": "SP"}

 { "customer": "Customer 108",  "description": "Harry Poter askaban", "price": 82.26}

 { "customer": "Customer 108",  "description": "Harry Poter askaban", "location": "SP"}

 { "customer": "Customer 108",  "description": "Harry Poter askaban", "price": 82.26, "location": "RJ"}

 { "customer": "Customer 125",  "description": "Harry Potter Chamber", "price": 79.16, "location": "SP"}

 { "customer": "Customer 125",  "description": "Harry Potter Chamber", "price": 79.15, "location": "SP"}

작업 8: 피닉스로 관찰 가능성 보기

브라우저에 http://localhost:6006/를 입력하여 Phoenix의 관찰 가능성을 확인합니다.

img.png

img.png

img.png

승인

추가 학습 자원

docs.oracle.com/learn에서 다른 랩을 탐색하거나 Oracle Learning YouTube 채널에서 더 많은 무료 학습 콘텐츠에 액세스하세요. 또한 education.oracle.com/learning-explorer를 방문하여 Oracle Learning Explorer가 되십시오.

제품 설명서는 Oracle Help Center를 참조하십시오.