In questo argomento vengono fornite le risposte alle domande frequenti sull'utilizzo dell'AI generativa con Oracle Analytics.
L'AI generativa di Oracle Analytics utilizza più modelli o un sistema di modelli interdipendenti?
Oracle Analytics non implementa modelli di AI generativa concatenati o interdipendenti. Ogni modello opera come un componente indipendente, che semplifica la valutazione delle prestazioni, i controlli degli accessi e i processi di gestione del rischio. Oracle valuta continuamente i modelli e le architetture più adatti per una vasta gamma di casi d'uso dell'analitica e può aggiornare o modificare i modelli e l'architettura preferiti nel tempo.
Quale categoria di modelli viene utilizzata nel prodotto? Il modello è sviluppato internamente o da una terza parte?
Le funzionalità di AI generativa di Oracle Analytics sfruttano i modelli di base di provider di intelligenza artificiale affermati che sono configurati per le distribuzioni enterprise. Per una lista aggiornata dei modelli di AI generativa Oracle, vedere Modelli di AI generativa pre-addestrati.
Il modello è monitorato e sottoposto a test in modo continuo? Con quale frequenza?
I modelli vengono riconvalidati a ogni nuova release, risolvendo i problemi individuati relativi alle prestazioni. Durante lo sviluppo, Oracle utilizza metriche di apprendimento automatico standard, tra cui punteggi di precisione, richiamo e F1 per convalidare i modelli di intelligenza artificiale prima della distribuzione. Oracle Analytics utilizza dati sintetici per la valutazione dei modelli combinati con un data set curati manualmente. La valutazione dei modelli si concentra sull'accuratezza e sulla deviazione, valutando la capacità dei modelli di generare risposte che corrispondono alla verità di base stabilita. I risultati vengono confrontati con benchmark prestabiliti per identificare mancate corrispondenze (espressioni precedentemente riuscite che ora risultano non riuscite) e corrispondenze (espressioni precedentemente non riuscite che ora risultano riuscite). Qualsiasi mancata corrispondenza viene classificata come regressione e funge da punto di controllo per eventuali modifiche al codice, revisioni del modello o modifiche alla distribuzione.
Oracle dispone di processi per comunicare le modifiche ai modelli e all'output?
Come parte del processo di release di Oracle Analytics, l'utente viene informato delle modifiche ai modelli AI o agli output mediante Novità di Oracle Analytics Cloud. Gli amministratori della tenancy possono anche abilitare le sottoscrizioni utente, garantendo una maggiore consapevolezza all'interno dell'organizzazione. Inoltre, chiunque può rimanere informato sulle nuove funzioni e sulle prossime release effettuando la sottoscrizione al messaggio di posta elettronica settimanale di Oracle Analytics mediante il sito della Oracle Analytics Community.
Oracle Analytics utilizza inoltre i criteri standard di gestione delle modifiche di Oracle Cloud documentati in Politiche di hosting e distribuzione di Oracle Cloud.
La policy AI di Oracle include un processo di revisione per le funzioni legali e di rischio?
I team di sviluppo dei prodotti all'interno di Oracle seguono le linee guida e le direttive obbligatorie di Global Product Security che gestisce gli standard Oracle SCS (Secure Coding Standards). Una sezione di questi standard è dedicata all'AI/ML, che a sua volta presenta una serie di direttive sulla sicurezza. Queste direttive sono suddivise nelle categorie seguenti:
Nell'ambito degli standard SCS (Secure Coding Standards) menzionati in precedenza, i team di sviluppo dei prodotti Oracle valutano regolarmente i propri progetti per individuare eventuali rischi e vulnerabilità relativi alla sicurezza, specifici dell'intelligenza artificiale.
La sicurezza per il modello, l'architettura dell'AI di Oracle Analytics e l'integrazione in Oracle Analytics sono state sottoposte alla revisione di sicurezza del programma CSSAP (Cloud Security, Standards and Architecture Program). CSSAP è un processo completo di revisione della sicurezza sviluppato dai team Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT e dalle organizzazioni IT di Oracle per fornire una valutazione approfondita della gestione della sicurezza delle informazioni. Per ulteriori informazioni, vedere Supervisione dell'architettura di sicurezza aziendale.
Oracle raccoglie dati utente o metriche simili per misurare le differenze tra i dati di input e di output relativi agli ambienti di test?
Attualmente, Oracle Analytics non acquisisce né raccoglie feedback espliciti degli utenti per questo scopo. Poiché il modello non è ottimizzato o addestrato sui dati dei clienti, il test è limitato ai benchmark di modello predefiniti come indicato in precedenza. Per riepilogare: i modelli vengono riconvalidati a ogni nuova release e gli eventuali problemi individuati relativi alle prestazioni vengono risolti di conseguenza. Durante lo sviluppo, Oracle applica metriche di apprendimento automatico standard (come punteggi di precisione, richiamo e F1) per convalidare i modelli AI prima della distribuzione.
Oracle incorpora input esterni o strumenti di terze parti con il proprio modello?
Oracle Analytics non incorpora input esterni nelle relative interazioni con il modello. Le interazioni con il modello sono strettamente limitate alla comunicazione diretta tra Oracle Analytics e il modello stesso.
Il modello dipende da strumenti o soluzioni di terze parti che potrebbero rendere difficile la migrazione del modello a un ambiente diverso?
Il modello viene distribuito come servizio dell'infrastruttura Oracle Cloud, con lo stesso modello di base disponibile in più istanze del servizio. Non è richiesta alcuna migrazione del modello tra le istanze.
In che modo Oracle risponde agli incidenti del sistema AI?
Oracle Analytics utilizza i criteri standard di risposta agli incidenti di Oracle Cloud documentati nella sezione dell'accordo livello del servizio per Politiche di hosting e distribuzione di Oracle Cloud.
In che modo Oracle verifica la qualità delle spiegazioni dei sistemi?
Oracle Analytics sottopone tutte le modifiche al codice, le revisioni dei modelli e le modifiche alla distribuzione a un controllo di rilascio che include una valutazione delle risposte generate corrispondenti alla verità di base stabilita come parte del benchmark di valutazione. La verità di base nel benchmark include tutte le spiegazioni dei sistemi generate come parte della risposta. Qualsiasi mancata corrispondenza è classificata come regressione e funge da punto di controllo.
In che modo Oracle valuta l'affidabilità e l'equità degli output del sistema?
Per i relativi modelli di base, Oracle Analytics si basa sull'infrastruttura di AI generativa OCI e non addestra in modo esplicito i modelli. L'AI generativa di OCI utilizza le procedure ottimali per garantire affidabilità e prevenire faziosità nei relativi modelli di base.
Inoltre, Oracle Analytics attualmente offre un controllo senza filtro sul contributo LLM (Large Language Model) alla risposta che viene fornita agli utenti finali. Questo meccanismo garantisce che l'LLM non fornisce le informazioni direttamente agli utenti finali, garantendo così che le risposte generate sono interamente prodotte da Oracle Analytics e quindi affidabili. Inoltre, l'amministratore dei servizi Oracle Analytics può disabilitare alcune o tutte le funzioni basate sull'intelligenza artificiale a livello di singola funzione. Per ulteriori informazioni, vedere Informazioni sulla configurazione dell'AI generativa.
È previsto un piano alternativo e di disaster recovery per le istanze quando il modello non è disponibile?
Per i relativi modelli di base, Oracle Analytics si basa sull'infrastruttura di AI generativa OCI. La resilienza e la tolleranza agli errori dell'infrastruttura OCI sono documentate in Politiche di hosting e distribuzione di Oracle Cloud. Ulteriori dettagli sui cluster dedicati dell'AI generativa OCI sono disponibili in Creazione di un cluster AI dedicato in AI generativa per l'hosting di modelli e Servizi cloud pubblici Oracle PaaS e IaaS - Documento pillar.
In che modo Oracle verifica la coerenza del modello in ambienti diversi?
Tutti i modelli dei clienti e di sviluppo vengono distribuiti sullo stesso framework dell'infrastruttura Oracle Cloud. Gli ambienti di test interni, inclusi gli ambienti di test di pre-produzione e produzione, mantengono lo stesso stato di configurazione degli ambienti dei clienti.
Oracle dispone di un criterio di governance stabilito per il modello?
Oracle Analytics sfrutta i modelli di base distribuiti tramite il servizio di AI generativa dell'infrastruttura Oracle Cloud. Questi modelli vengono utilizzati nel relativo stato nativo senza modifiche: Oracle Analytics non esegue l'addestramento, l'ottimizzazione o la personalizzazione dei modelli di base utilizzati. Di conseguenza, i criteri di governance dei modelli utilizzati dall'infrastruttura di AI generativa OCI sono applicabili anche a Oracle Analytics.
Oracle ha stabilito criteri e procedure che definiscono ruoli e responsabilità per la supervisione umana dei modelli distribuiti?
Oracle Analytics dispone di un processo affidabile per la valutazione dei modelli, utilizzando dati sintetici che fungono da punto di controllo per tutte le modifiche al codice, le revisioni dei modelli o le modifiche alla distribuzione. Le valutazioni dei modelli vengono effettuate combinando l'automazione e la supervisione umana. Oltre a ciò, Oracle Analytics non esegue la supervisione umana dei modelli distribuiti.