20 에이전트 메모리

에이전트 메모리는 에이전트가 회전, 작업 또는 세션 간에 정보를 보존하고 재사용할 수 있게 해주는 AI 에이전트 시스템의 일부입니다.

임시이며 현재 프롬프트로 제한되는 모델의 컨텍스트 창과 달리 메모리는 팩트, 기본 설정, 이전 결정, 도구 출력, 중간 계획 또는 환경에 대한 관찰을 지속할 수 있습니다.

Oracle AI Data Platform의 에이전트 메모리

AI 데이터 플랫폼은 세션 기간으로 제한되는 단기 메모리를 제공합니다. 에이전트의 컨텍스트 탭에서 메모리에 보관할 수 있는 항목을 구성할 수 있습니다.

단일 에이전트 메모리 구성

단일 에이전트 시스템의 메모리 구성은 에이전트 노드의 컨텍스트 탭에서 찾을 수 있습니다.

메모리 구성	설명
에이전트 메모리 사용	이 설정은 에이전트 메모리를 사용으로 설정합니다. 사용 안함으로 설정된 경우 에이전트는 기본적으로 Stateless 시스템입니다. 각 회전은 독립적으로 처리되며 후속 질문을 할 수 없습니다. 메모리를 사용으로 설정하는 것이 좋습니다.
대화 내역 제한	이 선택이 사용 안함으로 설정되면 이전 회전은 모델이 컨텍스트가 부족하고 오류가 반환될 때까지 메모리를 채웁니다. 짧은 세션이 예상되는 경우 이 설정을 사용 안함으로 설정하는 것이 좋습니다. 그러나 대부분의 사용 사례에서 Oracle은 대화 내역을 제한할 것을 권장합니다.
자르기 구성	대화 내역을 제한하도록 선택한 경우 다음을 수행하여 내역을 잘라내도록 결정할 수 있습니다. 마지막 N개 메시지만 유지(사용자 + 에이전트) 전체 토큰 예산 설정(선입선출) 또는 둘 다, 어느 쪽이 먼저 나오든 에이전트 메모리의 자르기를 트리거합니다.
최대 메시지 제한	마지막 N개의 메시지를 유지하도록 선택한 경우 N의 값을 설정할 수 있습니다.
토큰 예산	또는 전체 토큰 예산을 설정할 수 있습니다. 가장 최근의 토큰을 메모리에 보관하기 위해 첫 번째 토큰이 제거됩니다.

다중 에이전트 시스템 메모리 구성(감독자 패턴)

다중 에이전트 시스템의 메모리는 상위자 에이전트의 컨텍스트 탭에서 구성됩니다.

다중 에이전트 시스템의 메모리는 강제 적용되며 사용 안함으로 설정할 수 없으며, 상위자 에이전트 노드에 표시되는 메모리 자르기 옵션은 상위자 에이전트 메모리에만 적용됩니다. 각 실행기 에이전트 메모리 자르기 정책은 전체 시스템에 대해 선택된 상태 격리 정책에 따라 실행기 노드 Context 탭에서 구성할 수 있습니다.

또한 다중 에이전트 시스템 메모리 구성을 통해 실행기 에이전트의 메모리 공유 정책을 선택할 수 있습니다. Stateless, Private 및 Shared의 세 가지 옵션이 있습니다. 정책은 모든 실행기 에이전트에 적용됩니다.

실행기 에이전트에 대한 상태 격리	설명
상태 없음	각 실행기 에이전트는 감독자가 할당한 작업만 표시합니다. 호출 사이에 전달된 내역이 없습니다. 실행기 에이전트가 감독자 에이전트에 후속 조치를 요청할 수 없습니다. Stateless가 선택된 경우 각 실행기 에이전트의 메모리가 사용 안함으로 설정됩니다.
비공개	각 실행기 에이전트는 자신의 과거 상호 작용만 봅니다. 다른 실행기 에이전트나 감독자 에이전트와의 원래 사용자 대화는 볼 수 없습니다. 프라이빗이 선택된 경우 각 에이전트 노드 컨텍스트 메모리 탭에서 각 실행기 에이전트에 대해 별도로 메모리 자르기 정책을 구성할 수 있습니다.
공유	실행기 에이전트는 에이전트 및 사용자 간의 전체 대화 내역을 볼 수 있습니다. 모든 에이전트는 하나의 공유 컨텍스트에서 작동합니다. 공유가 선택된 경우 각 에이전트 노드 컨텍스트 탭에서 각 실행기 에이전트에 대해 별도로 메모리 자르기 정책을 구성할 수 있습니다.

에이전트에 저장된 메모리

에이전트가 배치되어 더 많은 사용자에게 서비스를 제공함에 따라 에이전트의 세션 데이터를 저장하는 데 사용되는 데이터베이스 용량의 양을 모니터해야 합니다. 저장된 메모리 탭에서 에이전트에 대한 저장된 메모리 설정을 확인하고 수정할 수 있습니다. 편집을 눌러 장기 메모리 및 세션 보존 설정을 수정할 수 있습니다.

설정	설명
연결 상태	모든 세션 데이터가 저장되는 Oracle Autonomous AI Lakehouse에 대한 접속 상태입니다.
사용된 ADB 용량	이 에이전트의 모든 세션에서 사용된 총 데이터베이스 용량입니다.
세션	이 에이전트에 대한 세션의 총 수입니다. 테스트(Playground) 및 배포 세션을 모두 포함합니다.
AI 컴퓨트	에이전트를 호스트하는 AI 컴퓨트의 이름입니다. 에이전트가 배치된 경우 배치를 호스트하는 AI 컴퓨트입니다. 그렇지 않으면 Playground를 호스팅하는 AI 컴퓨트입니다.

장기 메모리

사용자가 여러 세션을 통해 동일한 에이전트와 상호 작용하도록 에이전트를 구성합니다. 사용자는 기본 설정과 같은 중요한 정보를 공유할 수 있으며 에이전트는 사용된 도구와 같이 여러 세션에서 채택된 공통 패턴을 통해 학습할 수도 있습니다. 여러 세션에서 추출된 메모리에 액세스하는 기능은 장기 메모리를 통해 활성화됩니다.

에이전트의 저장된 메모리 탭에서 장기 메모리를 구성할 수 있습니다.

세션 데이터 보존

Oracle AI Data Platform의 세션 데이터는 세션 중 에이전트와 사용자 간에 교환되는 모든 메시지를 나타냅니다.

주:

Oracle은 Oracle Autonomous AI Lakehouse 데이터베이스에 저장된 세션 데이터의 콜드 스토리지 복사본을 생성하여 감사, 법적 증거 자료 제출 및 소송을 지원하기 위해 사용자와 상담원 간에 교환되는 모든 메시지의 전체 기록을 보관할 것을 적극 권장합니다.

세션은 잠재적으로 몇 시간, 며칠 또는 몇 주 동안 지속될 수 있으므로 세션 데이터로 교환 및 보관되는 많은 수의 메시지가 생성됩니다. 모든 AI Data Platform 세션 데이터는 인스턴스용으로 프로비저닝된 Autonomous AI Lakehouse에 저장되어 AI 기능을 지원합니다. 자세한 내용은 AI 기능 관리를 참조하십시오.

기본적으로 AI 데이터 플랫폼은 프로비저닝된 자율운영 AI 레이크하우스의 각 세션에 대해 저장된 세션 데이터의 양을 제한하지 않습니다. 따라서 여러 세션에서 많은 사용자가 에이전트를 정기적으로 사용하는 시나리오에서 세션 데이터가 빠르게 증가할 수 있습니다. 이를 관리하기 위해 Oracle은 보유된 세션 데이터의 양에 대한 제한을 구성할 것을 권장합니다.

에이전트를 처음 생성할 때 해당 세션 보존 설정을 구성할 수 있습니다. 에이전트 생성을 참조하십시오. 에이전트가 이미 만들어져 있고 세션 보존 설정을 재구성하려는 경우 세션 메모리 탭에서 이를 수행할 수 있습니다.

설정	설명
세션 보존	지정된 제한에 도달할 때 세션 데이터가 제거되는 방법과 시기를 구성하려면 보존 정책 적용을 사용으로 설정합니다.
보존 제한	세션 데이터 제한 관리 방법을 선택합니다. 보존 기간은 세션 데이터가 보존되는 기간(일)을 정의합니다. 세션 데이터가 만료 시기에 도달하면 Autonomous AI Lakehouse에서 삭제됩니다. 세션 크기 제한은 보존되는 세션 데이터의 양에 대한 상한값(MB)을 정의합니다. 이 상한값에 도달하면 가장 오래된 데이터가 먼저 삭제됩니다. 스레드 수 제한은 세션 데이터에 유지되는 사용자 메시지와 에이전트 응답의 조합을 의미하는 스레드 수에 대한 상한값을 정의합니다. 상한값에 도달하면 가장 오래된 스레드가 먼저 삭제됩니다.

자동 요약

세션 Retention과 관계없이 자동 요약을 활성화할 수 있습니다. 자동 요약은 모델의 컨텍스트 창에서 삽입된 대화형 데이터에 적용됩니다. 이 옵션은 선택한 모델의 컨텍스트 길이의 80%를 초과하는 이전 메시지를 요약합니다.

이 옵션은 데이터베이스에서 긴 세션의 데이터를 유지하면서 이러한 긴 세션이 에이전트의 컨텍스트 창을 덮어쓰지 않도록 하려는 경우에 사용하는 것이 좋습니다.

주:

요약은 이전 소스 메시지가 삭제되기 전에 중요한 컨텍스트를 유지하기 위해 LLM에 의해 생성됩니다. 일부 정확한 표현, 중간 단계 또는 낮은 우선 순위 세부 정보는 보존되지 않을 수 있습니다.

에이전트에 대한 장기 메모리 사용

에이전트에 대해 장기 메모리를 사용으로 설정하여 여러 세션에서 동일한 에이전트와 상호 작용할 수 있습니다.

1. 에이전트로 이동합니다.
2. 저장된 메모리 탭을 누릅니다.
3. 장기 메모리 사용을 선택합니다.
4. 에이전트에 대한 장기 메모리를 지원하는 데 사용할 모델 및 영역을 선택합니다.
5. 선택 사항: 세션 간에 에이전트 메모리를 공유할 수 있습니다. 사용 안함으로 설정된 경우 에이전트는 동일한 세션 내에서 추출된 메모리로만 제한됩니다. 이 옵션이 사용으로 설정된 경우 에이전트는 동일한 사용자가 시작한 모든 세션에서 추출된 메모리에 액세스할 수 있습니다.

에이전트 세션 데이터 보존 설정 보기

저장된 메모리 탭에서 에이전트에 대한 세션 데이터 보존 설정의 현재 구성을 볼 수 있습니다.

1. 에이전트로 이동합니다.
2. 저장된 메모리 탭을 누릅니다.

에이전트 세션 데이터 보존 설정 수정

에이전트에 대한 세션 데이터 보존 설정을 활성화, 비활성화 및 수정할 수 있습니다.

1. 에이전트로 이동합니다.
2. 저장된 메모리 탭을 누릅니다.
3. 편집을 누릅니다.
4. 보존 정책 적용을 선택하여 사용 안함으로 설정하거나 선택 해제합니다.
5. 보유 한도 구성:
   • 보유 기간의 경우 세션 데이터가 Oracle Autonomous AI Lakehouse에서 삭제되기 전까지 보존되는 일수를 제공합니다.
   • 세션 크기 제한의 경우 보존된 세션 데이터에 대한 최대 스토리지 제한(MB)을 제공합니다. 이 제한에 도달하면 가장 오래된 세션 메시지가 삭제됩니다.
   • 스레드 수 제한의 경우 보존된 스레드 수(사용자 메시지와 에이전트 응답 조합)에 대한 제한을 제공합니다. 이 제한에 도달하면 가장 오래된 세션 스레드가 삭제됩니다.
6. 중요한 세션 정보 요약을 보존하려면 자동 요약을 선택합니다.
7. 변경사항 저장을 누릅니다.