Oracle Cloud Infrastructure-Dokumentation

Abfrage für Metriken für generative KI erstellen

Mit dem OCI Monitoring-Service können Sie benutzerdefinierte Abfragen erstellen und Alarme auslösen, um die dedizierten KI-Cluster und Endpunkte von OCI Generative AI zu überwachen.

Hinweis

  • Um die Berechtigung zum Arbeiten mit den Monitoring-Serviceressourcen zu erhalten, bitten Sie einen Administrator, die IAM-Policys in Monitoring sichern zu prüfen und Ihnen den richtigen Zugriff für Ihre Rolle zu erteilen.
  • Um mit generativen KI-Ressourcen zu arbeiten, bitten Sie einen Administrator, Sie Zugriff auf generative KI-Ressourcen zu gewähren.
Wichtig

Um generative KI-Ressourcen zu Abfragen oder Alarmen hinzuzufügen, wählen Sie im Monitoring-Service den Namespace oci_generativeai aus, und lesen Sie die Abfragesyntax in der Monitoring Query Language-(MQL-)Referenz.
    1. Wählen Sie in der Navigationsleiste der Konsole eine Region mit generativer KI aus. Beispiel: US Midwest (Chicago). Siehe Welche Modelle in Ihrer Region angeboten werden.
    2. Öffnen Sie das Navigationsmenü , und wählen Sie Observability and Management aus. Wählen Sie unter Monitoring die Option Servicemetriken aus.
    3. Wählen Sie ein Compartment mit den generativen KI-Ressourcen aus, die Sie überwachen möchten.
    4. Wählen Sie unter Metrik-Namesspace die Option oci_generativeai aus.

      Ein Metrik-Namespace ist der Service oder die Anwendung, der bzw. die Metriken ausgibt. Der Metrik-Namespace für den Service Generative AI lautet oci_generativeai.

      Die Seite "Servicemetriken wird dynamisch aktualisiert und zeigt Diagramme für den Metrik-Namespace oci_generativeai an. Siehe Standardmetrikdiagramme für einen Metrik-Namespace anzeigen (mehrere Ressourcen).

    5. Um eine Abfrage zu erstellen, führen Sie die Schritte unter Abfrage erstellen aus.
    6. (Optional) Um einen Alarm zu erstellen, führen Sie die Schritte unter Basisalarm erstellen aus.

  • Verwenden Sie den Befehl oci monitoring metric-data summarize-metrics-data und die erforderlichen Parameter, um Metrikdaten abzufragen:

    oci monitoring metric-data summarize-metrics-data [OPTIONS]

    Wenn Sie einen Dimensionswert in der Abfrage (--query-text) angeben, setzen Sie ihn in doppelte Anführungszeichen, und Escapezeichen setzen Sie jedes doppelte Anführungszeichen mit einem umgekehrten Schrägstrich (\). Beispiel:

    oci monitoring metric-data summarize-metrics-data --compartment-id <compartment_OCID> --namespace oci_computeagent --query-text "CpuUtilization[1m]{resourceId = \"<instance_OCID>\"}.max()"

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der CLI-Befehlsreferenz.

    Verwenden Sie den Befehl oci monitoring alarm create und die erforderlichen Parameter, um einen Alarm zu erstellen:

    oci monitoring alarm create --compartment-id <compartment_OCID> --destinations <file_or_text> --display-name <name> --is-enabled <true_or_false> --metric-compartment-id <compartment_OCID> --namespace <metric_namespace> --query-text <mql_expression> --severity <level>

    Eine vollständige Liste der Parameter und Werte für CLI-Befehle finden Sie in der Befehlszeilenreferenz für Monitoring.

  • Informationen zur Verwendung der Monitoring-Service-APIs finden Sie in der Monitoring-API.

    Beispiel: Führen Sie den Vorgang SummarizeMetricsDataDetails aus, um Metrikdaten abzufragen, und CreateAlarm, um einen Alarm zu erstellen.

    Informationen zur Verwendung der API und Zu Signieranforderungen finden Sie unter REST-API-Dokumentation und Sicherheitszugangsdaten. Informationen zu SDKs finden Sie unter SDKs und die CLI.