Einen KI-gestützten Chat-Router mit der Oracle Cloud Infrastructure AI Agent Platform erstellen

Einführung

In diesem Tutorial wird gezeigt, wie Sie einen Oracle Cloud Infrastructure-(OCI-)KI-Agent erstellen, der die Benutzereingabe basierend auf seinem Kontext an die LLMs weiterleitet, die im OCI Generative AI-Service mit dem Oracle Cloud Infrastructure Agent Development Kit (OCI ADK) gehostet werden. Sie lernen, wie Sie OCI-Servicelogik als Tools verpacken, einen KI-Agent erstellen, der natürliche Sprache interpretiert und effektiv Antworten basierend auf dem Kontext erhält. Dies bringt das Beste aus den LLMs heraus, die in OCI mit KI-Agents gehostet werden.

Im Rahmen dieses Tutorials werden nur zwei LLMs im Backend verwendet. Wenn die Eingabe des Benutzers auf der Inhaltsgenerierung oder Textzusammenfassung basiert, wird diese Eingabe an Llama 3.3 70B gesendet. Wenn es sich bei der Eingabe des Benutzers um Codierung oder Mathematik handelt, wird sie an Llama 4 Maverick gesendet, das auf den OCI Generative AI-Services gehostet wird.

Hinweis:

Vertrautheit mit grundlegenden OCI-Vorgängen und Python-Entwicklung ist hilfreich, aber nicht erforderlich.

Stellen Sie sicher, dass Ihr OCI-Benutzer- und -Serviceaccount über Berechtigungen für den Zugriff auf OCI Generative AI-Services und -Agent-Endpunkte in OCI verfügt.

Nachdem Sie Ihren ersten KI-Agent eingerichtet haben, können Sie ihn ganz einfach um neue Tools erweitern, um zusätzliche OCI-Services abzudecken, indem Sie sie über die OCI ADK-Toolkit-Schnittstelle definieren und registrieren.

Ziele

Verständnis der Architektur und des Workflows von OCI AI Agents und OCI ADK.
Entwickeln Sie benutzerdefinierte Toolkits.
Konfigurieren, registrieren und führen Sie einen AI-Agent aus, der basierend auf dem Kontext die besten Antworten liefert.
Verwenden Sie den KI-Agent, um die OCI Generative AI-Chatservices zu verwenden.
Verwenden Sie diese Lerninhalte erneut, um ähnliche Agents mit OCI-Services mit OCI ADK zu entwickeln.

Voraussetzungen

Installieren Sie uv: Installieren Sie uv mit dem folgenden Befehl gemäß Ihrem BS.

macOS/Linux:

curl -LsSf https://astral.sh/uv/install.sh | sh

Windows:

powershell -c "irm https://astral.sh/uv/install.ps1 | iex"

Virtuelle Umgebung erstellen: Navigieren Sie zu Ihrem Projektverzeichnis, und erstellen Sie mit dem Befehl uv eine virtuelle Umgebung.
```
uv venv
```
Virtuelle Umgebung aktivieren: Aktivieren Sie die virtuelle Umgebung.
- macOS/Linux:
```
source .venv/bin/activate
```
- Windows:
```
.venv\Scripts\activate
```
Install Required Packages: Installieren Sie die erforderlichen Packages mit dem Befehl uv.
```
uv pip install oci "oci[adk]" rich pydantic docstring_parser
```
Stellen Sie sicher, dass Sie:
- Gültige OCI-Zugangsdaten und -Konfigurationen. Weitere Informationen finden Sie unter Einrichten der Konfigurationsdatei.
- Oracle Cloud Infrastructure Identity and Access Management-(OCI IAM-)Policys, die den Zugriff auf OCI Generative AI-Services und die Registrierung und Verwendung von Agent-Endpunkten ermöglichen.
- Ein verfügbarer OCI-Agent-Endpunkt oder die Möglichkeit, einen zu erstellen.

Aufgabe 1: OCI AI Agent über die OCI-Konsole erstellen

Mit der Oracle Cloud Infrastructure AI Agent Platform (OCI AI Agent Platform) können Sie intelligente Assistenten erstellen, die Benutzerfragen interpretieren, Aktionen planen und benutzerdefinierte oder integrierte Tools (Kompetenzen) für OCI-APIs aufrufen. Jedes Tool wird als Python-Klasse mit bestimmten Methoden verpackt, was das Toolregistrierungssystem von OCI ADK bestätigt.

Melden Sie sich bei der OCI-Konsole an, navigieren Sie zu Generative AI Agents, und klicken Sie auf Agent erstellen.
Geben Sie im Abschnitt Basisinformationen einen Namen und die Willkommensmeldung ein. Die Routinganweisung wird im Rahmen dieses Tutorials leer bleiben. Klicken Sie anschließend auf Weiter.
Erstellen Sie im Abschnitt Tool hinzufügen keine Tools. Wir verwenden OCI ADK, um es zu erstellen.
Wählen Sie im Abschnitt Agent-Endpunkt einrichten die Option Schutzschienen aus.
Klicken Sie auf Agent erstellen.

Schlüsselkonzepte:

Agent: Der KI-gestützte Interpreter und Orchestrator.
Tool/toolkit: Eine Klasse mit einem oder mehreren Vorgängen, die dem Agent bereitgestellt werden (@tool).
Agent-Endpunkt: Die OCI-Ressource, die Laufzeit und Konnektivität bereitstellt.
Agent-Client: Python-Client für Agent-Endpunktkommunikation.

Hinweis: Ein Agent kann Benutzeranforderungen über mehrere Toolkits (z.B. Oracle Cloud Guard, Compartments) hinweg weiterleiten und nach Bedarf mehrstufige Vorgänge erstellen.

Aufgabe 2: OCI ADK lokal einrichten

Sie schreiben Python-Klassen, die Tools definieren, um Oracle Cloud Guard-Vorgänge verfügbar zu machen. Jede Funktion wird mit @tool versehen und kann vom Agent in natürlicher Sprache aufgerufen werden.

Authentifizierung in der Agent-Datei aktualisieren

Aktualisieren Sie den Authentifizierungstyp (auth_type), wählen Sie die Konfiguration profile und die region aus, in der der AI-Agent-Endpunkt erstellt wurde.
Aktualisieren Sie die Endpunkt-OCID (agent_endpoint_id) sowie in get_config.py.

Aufgabe 3. AI-Agent ausführen

Laden Sie die folgende Datei herunter, und speichern Sie sie im selben Verzeichnis.
Aktualisieren Sie die Eingabe in der Datei oci_ai_route.py entsprechend Ihren Anforderungen.
Führen Sie die Datei oci_ai_route.py mit dem folgenden Befehl aus.
```
uv run oci_ai_route.py 
```
Je nach Kontext wird das erforderliche Modell aufgerufen und Inhalt generiert.

Hinweis: Sie können diesen Agent mit der agent.run() aus der oci_ai_route.py aufrufen, die Ihrer Webanwendung oder Anwendung hinzugefügt wurde.

Bestätigungen

Autor – Mukund Murali (Principal Cloud Architect)

Weitere Lernressourcen

Sehen Sie sich weitere Übungen zu docs.oracle.com/learn an, oder greifen Sie auf weitere kostenlose Lerninhalte im Oracle Learning YouTube-Kanal zu. Besuchen Sie außerdem education.oracle.com/learning-explorer, um ein Oracle Learning Explorer zu werden.

Die Produktdokumentation finden Sie im Oracle Help Center.

Titel und Copyright-Informationen

Build an AI Powered Chat Router Using Oracle Cloud Infrastructure AI Agent Platform

G38665-01