22 Guardrail

I guardrail sono meccanismi di sicurezza per guidare e controllare il comportamento degli agenti AI.

In Oracle AI Data Platform Workbench, i guardrail sono configurati per impedire la generazione o il consumo di contenuti tossici e dannosi da parte degli agenti. Le guardie impediscono anche la perdita di informazioni di identificazione personale (PII) da parte dell'agente. I guardrail specifici disponibili nel tuo workbench AI Data Platform si applicano alla moderazione dei contenuti, all'inserimento rapido e alle informazioni PII.

Nota

I guardrail offerti da AI Data Platform Workbench sono disponibili solo in inglese.

I guardrail offerti in AI Data Platform Workbench vengono implementati dal team del servizio OCI Generative AI. Consulta Guardrails per OCI Generative AI. In base alla configurazione dei guardrails, il servizio Workbench AI Data Platform richiama l'API Applica Guardrails all'interno della tenancy OCI.

Parapetti in Visual Flow Canvas

Per impostazione predefinita, nessun guardrail viene applicato al sistema oltre i controlli di sicurezza nativi del fornitore del modello. Per aggiungere i guardrail, è necessario trascinare un nodo dei guardrail nel generatore di flusso visivo dell'agente e collegarlo all'agente.

Un nodo guardrail può filtrare il traffico tra un trigger di chat e un nodo agente, tra un supervisore e gli agenti dell'esecutore o tra i nodi agente e strumento. Per la maggior parte degli scenari, è consigliabile un singolo nodo di guardrail tra il trigger di chat e il nodo dell'agente. Ciò garantirà che tutti i messaggi dell'utente in entrata e i messaggi generati dall'agente vengano filtrati attraverso i guardrail.

Il nodo guardrails può essere inserito solo tra:

• Un nodo trigger chat e un agente (supervisore o esecutore)

Quali custodie sono disponibili?

Il diagramma riportato di seguito mostra una semplice interazione tra un utente finale e un agente. In questo scenario, vengono applicate tutte le guadrails (moderazione dei contenuti – CM, prevenzione rapida dell'iniezione – PI e rilevamento delle PII – PII). Il PI viene applicato solo alla query utente.

Dopo il secondo messaggio emesso dall'utente finale, è stato rilevato un tentativo PI e il messaggio utente è stato bloccato in seguito all'azione selezionata dallo sviluppatore dell'agente sul rilevamento PI (blocco).

Moderazione contenuto

La moderazione dei contenuti è un'implementazione comune dei guardrail nella maggior parte dell'AI generativa. Senza controllo, gli LLM possono generare contenuti dannosi, promuovere contenuti violenti, razzisti e sessualmente espliciti. È fondamentale dare agli sviluppatori degli agenti piena visibilità e controllo su come le interazioni degli utenti con gli agenti vengono monitorate e scansionate per contenuti potenzialmente dannosi. La moderazione dei contenuti impedisce che contenuti offensivi, sessuali, violenti, tossici, dispregiativi o basati su molestie siano considerati o generati dall'agente. Il nostro modello di guardrail classifica i contenuti lungo le sei categorie e contrassegna i contenuti appartenenti a una di queste categorie.

È possibile scegliere di eseguire un'azione sulla query di input utente o sulla risposta del modello:

• Blocco: si impedisce all'agente di elaborare l'input utente e generare una risposta. Gli utenti ricevono una risposta di errore dall'agente.
• Inform.: consente all'agente di elaborare l'input utente e generare una risposta. L'agente notifica all'utente che l'input o la risposta contenevano contenuti che soddisfacevano i criteri del guardrail.
• Consenti: consente all'agente di elaborare e/o generare contenuti potenzialmente dannosi.

L'azione Blocca viene selezionata per la moderazione del contenuto quando si crea un agente. Oracle consiglia di mantenere Blocca come guardrail selezionato per la moderazione dei contenuti.

Richiedi iniezione

I guardrail ad iniezione rapida per gli agenti AI sono un meccanismo protettivo che rileva, previene e mitiga istruzioni dannose o non intenzionali incorporate negli input dell'utente. Gli attacchi di iniezione rapida tentano di sostituire o sovvertire le istruzioni, i criteri o gli obiettivi originali dell'agente inserendo testo nascosto che indica al modello di ignorare le regole precedenti, di esfiltrare i segreti o di eseguire azioni non autorizzate.

È possibile scegliere le stesse azioni che possono essere eseguite per la moderazione del contenuto: bloccare, informare o consentire. I guardrail per iniezione rapida si applicano solo alla query di input dell'utente.

• Blocco: si impedisce all'agente di elaborare l'input utente. Gli utenti ricevono una risposta di errore dall'agente.
• Inform.: consente all'agente di elaborare l'input utente. L'agente notifica all'utente che l'input contiene contenuto che soddisfa i criteri di guardrail.
• Consenti: consente l'elaborazione di contenuti potenzialmente dannosi da parte dell'agente.

Quando si crea un agente, viene selezionata l'azione Blocca. Oracle consiglia di mantenere Blocco come guardavia selezionato per un'iniezione rapida.

Informazioni di identificazione personali (PII)

I guardrail delle PII rilevano, bloccano o mascherano automaticamente le PII dalle query di input dell'utente o dalle risposte degli agenti. Questo guardrail impedisce all'agente di esporre informazioni sensibili degli utenti in modi che violano le normative sulla privacy o le politiche organizzative.

I guardrail PII supportano quattro tipi di entità:

• E-mail
• Telephone number
• Indirizzo fisico
• Nome persona

Per ciascuna di queste quattro entità, è possibile scegliere di applicare le azioni seguenti eseguite dall'agente nella query dell'utente di input o nella risposta dell'agente:

• Blocco: si impedisce all'agente di elaborare l'input dell'utente e generare una risposta. Gli utenti ricevono una risposta di errore dall'agente.
• Inform.: consente all'agente di elaborare l'input utente e generare una risposta. L'agente notifica all'utente che l'input o la risposta contenevano informazioni di identificazione personale.
• Maschera: si consente all'agente di elaborare l'input e generare una risposta mascherata. Qualsiasi PII utilizzato è protetto per prevenire l'esposizione.
• Consenti: consente l'elaborazione e/o la generazione di dati PII da parte dell'agente.

In un nuovo agente, le informazioni PII sono consentite sia nell'input utente che nella risposta per impostazione predefinita. Oracle consiglia di selezionare attentamente il guardrail per le informazioni PII in base alle proprie esigenze di sicurezza.

Abilita guardrail specifici in un nodo

È possibile scegliere i guardrail da abilitare e la modalità di configurazione quando si aggiunge un nodo guardrail allo sfondo visivo.

1. Passare all'agente nell'area di lavoro.
2. Trascinare un nodo Guardrails dalla tavolozza all'area di creazione.
3. Fornire un nome e la descrizione significativi per il nodo.
   
   

   

   
   
4. Attivare un guardrail per abilitarlo e iniziare la configurazione. Se si preme nuovamente l'interruttore, il guardrail e le relative configurazioni vengono disabilitati.
   
   

   

   
   
5. Selezionare la configurazione di guardrail necessaria per ogni categoria.