Toto téma poskytuje odpovědi na často kladené otázky týkající se způsobu použití generativní umělé inteligence ve službě Oracle Analytics.
Používá generativní umělá inteligence služby Oracle Analytics více než jeden model nebo systém vzájemně závislých modelů?
Oracle Analytics neimplementuje řetězené nebo vzájemně závislé modely generativní umělé inteligence. Každý model funguje jako nezávislá komponenta, která zjednodušuje hodnocení výkonu, řízení přístupu a procesy řízení rizik. Společnost Oracle trvale vyhodnocuje nejvhodnější modely a architektury pro celou řadu případů užití analytiky a může v průběhu času aktualizovat nebo měnit upřednostňované modely a architekturu.
Jaká kategorie modelů se v produktu používá? Je model vyvíjen interně nebo třetí stranou?
Funkce generativní umělé inteligence služby Oracle Analytics využívají základní modely od zavedených poskytovatelů umělé inteligence, které jsou konfigurovány pro nasazení v podnicích. Aktuální seznam našich modelů generativní umělé inteligence najdete v části Předem vytrénované modely generativní AI.
Je model průběžně monitorován a testován? Jak často?
Modely jsou znovu ověřovány s každou novou verzí a problémy s výkonem jsou řešeny podle identifikovaných případů. Během vývoje používá společnost Oracle standardní metriky strojového učení, včetně přesnosti, recall a skóre F1, k ověření modelů umělé inteligence před jejich nasazením. Oracle Analytics používá syntetická data pro vyhodnocení modelu v kombinaci se sadou ručně spravovaných dat. Hodnocení modelu se zaměřuje na přesnost a odchylku tím, že posuzuje schopnost modelu generovat odpovědi, které odpovídají stanovené základní pravdě. Výsledky se porovnávají se stanovenými referenčními hodnotami, aby se identifikovaly neshody (dříve úspěšné výstupy, které nyní selhávají) a shody (dříve neúspěšné výstupy, které nyní jsou úspěšné). Jakákoli neshoda je klasifikována jako regrese a slouží jako řídicí brána pro jakékoli změny kódu, revize modelu nebo změny nasazení.
Má společnost Oracle zavedené procesy pro informování o změnách svých modelů a výstupů?
V rámci procesu vydávání Oracle Analytics vás informujeme o změnách v modelech AI nebo výstupech prostřednictvím Novinky pro Oracle Analytics Cloud. Správci pronajatého prostoru mohou také aktivovat subskripce uživatelů a zajistit tak širší povědomí v rámci organizace. Kromě toho se každý může informovat o nových funkcích a připravovaných verzích, pokud se přihlásí k odběru týdenního e-mailu ze služby Oracle Analytics prostřednictvím Web komunity Oracle Analytics.
Služba Oracle Analytics také používá standardní zásady správy změn pro službu Oracle Cloud, které jsou uvedeny v dokumentu Zásady hostování a poskytování služby Oracle Cloud.
Zahrnují zásady společnosti Oracle týkající se umělé inteligence proces přezkoumávání právních a rizikových funkcí?
Týmy pro vývoj produktů v rámci společnosti Oracle se řídí pokyny a závaznými směrnicemi globálního oddělení pro bezpečnost produktů, které spravuje Standardy tvorby bezpečného kódu (SCS) společnosti Oracle. Část těchto standardů je věnována AI/ML, která má zase řadu bezpečnostních směrnic. Tyto směrnice jsou rozděleny do následujících kategorií:
V rámci výše uvedených povinných standardů bezpečného kódování týmy vývojářů produktů Oracle pravidelně posuzují své projekty z hlediska bezpečnostních rizik a zranitelností specifických pro umělou inteligenci.
Zabezpečení modelu, architektury Oracle Analytics AI a integrace do služby Oracle Analytics prošlo bezpečnostní kontrolou v rámci programu Cloud Security, Standards, and Architecture Program (CSSAP). CSSAP je komplexní proces bezpečnostní kontroly vyvinutý divizemi Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT a IT organizacemi společnosti Oracle za účelem poskytování důkladného hodnocení správy informační bezpečnosti. Další informace najdete v tématu Dohled nad architekturou podnikového zabezpečení.
Shromažďuje společnost Oracle uživatelská data nebo podobné metriky k měření rozdílů mezi vstupními a výstupními daty ve vztahu k testovacím prostředím?
V současné době služba Oracle Analytics nezaznamenává ani neshromažďuje explicitní zpětnou vazbu od uživatelů pro tento účel. Vzhledem k tomu, že model není vyladěn ani trénován na základě údajů o zákaznících, testování je omezeno na výchozí srovnávací referenční hodnoty modelu, jak je uvedeno výše. Shrnutí: modely jsou s každou novou verzí znovu ověřovány a veškeré zjištěné problémy s výkonem jsou odpovídajícím způsobem řešeny. Během vývoje společnost Oracle používá standardní metriky strojového učení, jako jsou přesnost, recall a skóre F1, k ověření modelů AI před jejich nasazením.
Zahrnuje společnost Oracle do svého modelu nějaké externí vstupy nebo nástroje třetích stran?
Služba Oracle Analytics nezahrnuje žádné externí vstupy do svých interakcí s modelem. Interakce modelů jsou striktně omezeny na přímou komunikaci mezi službou Oracle Analytics a samotným modelem.
Je model závislý na jakýchkoli nástrojích nebo řešeních třetích stran, které by mohly ztížit migraci modelu do jiného prostředí?
Model je nasazen jako služba infrastruktury Oracle Cloud, přičemž ve více instancích služeb je dostupný stejný základní model. Mezi instancemi není nutná žádná migrace modelů.
Jak společnost Oracle reaguje na incidenty v systému umělé inteligence?
Oracle Analytics používá standardní podmínky řešení Oracle Cloud Incident Response, které jsou zdokumentovány v části Smlouva o rozsahu služeb v dokumentu Zásady hostování a poskytování služby Oracle Cloud.
Jak společnost Oracle testuje kvalitu vysvětlení systémů?
Služba Oracle Analytics podrobuje všechny změny kódu, revize modelů a změny nasazení kontrolnímu procesu, který zahrnuje hodnocení generovaných odpovědí , zda odpovídají stanovené základní pravdě, jako součást naší srovnávací analýzy. Základní pravda v referenční hodnotě obsahuje všechna systémová vysvětlení generovaná jako součást odpovědi. Jakýkoli nesoulad je klasifikován jako regrese a slouží jako řídicí brána.
Jak společnost Oracle hodnotí výstupy systému z hlediska spolehlivosti a korektnosti?
Služba Oracle Analytics se pro své základní modely spoléhá na infrastrukturu OCI Gen AI a modely explicitně trénuje. OCI Gen AI používá osvědčené postupy k zajištění důvěryhodnosti a zabránění zkreslení ve svých základních modelech.
Kromě toho služba Oracle Analytics v současné době nabízí obecnou kontrolu nad příspěvkem velkého jazykového modelu (LLM) k odpovědi zobrazené koncovým uživatelům. Tento mechanismus zajišťuje, že LLM přímo nezobrazuje informace koncovým uživatelům, čímž zaručuje, že generované odpovědi jsou zcela vytvořeny službou Oracle Analytics a jsou tedy důvěryhodné. Správce služby Oracle Analytics má navíc možnost deaktivovat libovolné nebo všechny funkce řízené umělou inteligencí na úrovni jednotlivých funkcí. Další informace naleznete v části O konfiguraci generativní umělé inteligence.
Je k dispozici plán zotavení po havárii a pohotovostní plán pro případy, kdy model není k dispozici?
Služba Oracle Analytics se pro své základní modely spoléhá na infrastrukturu OCI Gen AI. Informace o odolnosti a odolnosti vůči chybám infrastruktury OCI najdete v dokumentu Zásady hostování a poskytování služby Oracle Cloud. Další podrobnosti o vyhrazených clusterech OCI Gen AI naleznete v částech Vytvoření vyhrazeného clusteru AI v prostředí generativní AI pro hostování modelů a Služby Oracle PaaS a IaaS Public Cloud – Dokument pilíře.
Jak společnost Oracle testuje model z hlediska konzistence v různých prostředích?
Všechny modely zákazníků a vývoje jsou nasazovány ve stejném prostředí infrastruktury Oracle Cloud. Interní testovací prostředí, včetně předprodukčních a produkčních testovacích prostředí, udržují stejný stav konfigurace jako prostředí zákazníků.
Má společnost Oracle zavedeny zásady řízení pro model?
Služba Oracle Analytics využívá základní modely nasazené prostřednictvím služby generativní umělé inteligence Oracle Cloud. Tyto modely se používají ve svém nativním stavu bez úprav – Oracle Analytics neprovádí trénování, ladění ani přizpůsobení modelů na základních modelech. Proto jsou zásady řízení modelů používané infrastrukturou OCI Gen AI použitelné i pro službu Oracle Analytics.
Zavedla společnost Oracle zásady a postupy, které definují role a odpovědnosti za lidský dohled nad nasazenými modely?
Oracle Analytics má robustní proces pro hodnocení modelu pomocí syntetických dat, která slouží jako řídicí brána pro jakékoli změny kódu, revize modelu nebo změny nasazení. Hodnocení modelových běhů se provádí kombinací automatizace a lidského dohledu. Kromě toho Oracle Analytics neprovádí lidský dohled nad nasazenými modely.