배포 계획

이 구조를 배치하려면 다음 고급 단계를 사용합니다.

벡터 저장소를 준비합니다.
Oracle Database 23ai를 사용하여 인벤토리 데이터를 업로드합니다. 제품에 대한 몇 가지 설명을 포함하는 열이 있는지 확인합니다. 벡터화될 열입니다. 컴퓨트 인스턴스의 코드(이 경우 Oracle Cloud Infrastructure Data Science 노트북)를 사용하면 96개 토큰의 조각 크기를 사용하여 Oracle Cloud Infrastructure Generative AI 포함 모델을 설명 열에 적용하여 벡터 유형 열을 생성할 수 있습니다. 그런 다음 데이터 세트를 Oracle Database 23ai로 푸시합니다.
컴퓨트 인스턴스를 생성하고 함수를 배치합니다.
프론트엔드 소매 앱에서 API 호출을 수신하고 다양한 AI 서비스에 대한 API 호출을 수행할 수 있는 컴퓨트 인스턴스를 생성합니다. Oracle Cloud Infrastructure Functions를 사용하여 함수를 배포합니다. 이 컴퓨트 인스턴스는 모든 임시 컴퓨트 요구사항에 대한 중앙 허브 역할을 합니다.
프런트엔드 통합을 생성합니다.
이제 컴퓨트 인스턴스를 애플리케이션과 통합하고 CPQ(Configure-price-quote) 애플리케이션에 연결할 준비가 되었습니다. 이 아키텍처는 Oracle APEX Application Development를 사용하여 웹 애플리케이션을 생성하지만, 이 솔루션을 기존 챗봇 또는 Oracle Digital Assistant와 통합할 수도 있습니다.

이 아키텍처는 여러 가지 배포 옵션을 제공합니다.

Oracle Database 23ai는 데이터베이스에 내장된 NL2SQL 도구인 Select AI를 제공합니다.

이 배치 옵션의 장점은 데이터가 그대로 있고 SQL 개발에 적합하다는 것입니다. 그러나 이 옵션은 구조화되지 않은 데이터를 저장하지 않습니다.

대규모 언어 모델(LLM) 및 검색 증강 생성(RAG)의 성능을 엔터프라이즈 데이터와 결합하는 Oracle Cloud Infrastructure RAG 에이전트를 사용하여 사용자가 다양한 엔터프라이즈 지식 기반을 쿼리할 수 있습니다.

이 서비스는 자연어 인터페이스 및 해당 인터페이스에 직접 작용할 수 있는 기능을 통해 최신 정보를 제공합니다.

이 배포 옵션은 PDF 파일, 설명서, 블로그 등과 같은 지식 기반에서 데이터 소스를 사용할 수 있도록 합니다. 그러나 LLM은 RAG 에이전트로 제한됩니다.

Oracle Cloud Infrastructure Data Science 빠른 작업을 사용하여 데이터 및 LLM 파이프라인의 모든 구성요소를 관리할 수 있습니다.

Data Science 빠른 작업은 함께 Oracle Cloud Infrastructure Data Science에서 기반 모델을 배포, 평가 및 미세 조정하는 데 사용할 수 있는 작업 모음입니다.

이 배포 옵션의 장점은 모델을 미세 조정하고 데이터 흐름을 완벽하게 제어할 수 있다는 것입니다. 이 배치에는 Data Science 전문 지식이 권장됩니다.