Často kladené otázky o službe Oracle Analytics Generative AI

Využíva generatívna umelá inteligencia služby Oracle Analytics viac ako jeden model alebo systém vzájomne závislých modelov?

Služba Oracle Analytics neimplementuje zreťazené ani vzájomne závislé modely generatívnej umelej inteligencie. Každý model funguje ako nezávislý komponent, čo zjednodušuje hodnotenie výkonu, riadenia prístupu a procesy riadenia rizík. Oracle nepretržite vyhodnocuje najvhodnejšie modely a architektúry pre širokú škálu prípadov použitia analytických nástrojov a môže časom aktualizovať alebo zmeniť svoje preferované modely a architektúru.

Aká kategória modelov sa používa v produkte? Je model vyvinutý interne alebo treťou stranou?

Funkcie generatívnej umelej inteligencie služby Oracle Analytics využívajú základné modely od etablovaných poskytovateľov umelej inteligencie, ktoré sú konfigurované pre podnikové nasadenia. Aktuálny zoznam našich modelov generatívnej umelej inteligencie nájdete v časti Vopred natrénované modely generatívnej umelej inteligencie.

Je model priebežne monitorovaný a testovaný? Ako často?

Modely sa znova overujú pri každom novom vydaní, pričom sa riešia zistené problémy s výkonom. Oracle používa počas vývoja štandardné metriky strojového učenia vrátane skóre presnosti, úplnosti a hodnoty F1 na overenie modelov umelej inteligencie pred nasadením. Služba Oracle Analytics používa na hodnotenie modelu syntetické dáta v kombinácii s množinou manuálne spravovaných dát. Hodnotenie modelu sa zameriava na presnosť a odchýlku tým, že hodnotí schopnosť modelu generovať odpovede, ktoré zodpovedajú ustálenej známej pravde. Výsledky sa porovnávajú s ustálenými referenčnými kritériami s cieľom identifikovať nezhody (predtým úspešné výroky, ktoré sú teraz neúspešné) a zhody (predtým neúspešné výroky, ktoré sú teraz úspešné). Každá nezhoda je klasifikovaná ako regresia a slúži ako kontrolná brána pre všetky zmeny kódu, revízie modelu alebo zmeny nasadenia.

Má spoločnosť Oracle procesy na informovanie o zmenách svojich modelov a výstupu?

V rámci procesu vydania služby Oracle Analytics vám zmeny modelov alebo výstupov umelej inteligencie oznamujeme prostredníctvom stránky Čo je nové v službe Oracle Analytics Cloud. Administrátori prenájmu môžu tiež aktivovať predplatné používateľov a zabezpečiť tak širšie povedomie v rámci organizácie. Okrem toho si môže každý udržiavať prehľad o nových funkciách a nadchádzajúcich vydaniach tak, že sa prihlási na odber týždenného e-mailu služby Oracle Analytics prostredníctvom lokality komunity Oracle Analytics Community.

Služba Oracle Analytics používa aj štandardné stratégie správy zmien služby Oracle Cloud, ktoré sa uvádzajú v dokumente Stratégie hosťovania a doručovania v službe Oracle Cloud.

Zahŕňa stratégia AI spoločnosti Oracle proces kontroly právnych funkcií a funkcií rizika?

Tímy vývoja produktov v rámci spoločnosti Oracle dodržiavajú pokyny a povinné smernice od organizácie Global Product Security, ktorá spravuje štandardy Oracle Secure Coding Standards (SCS). Časť týchto štandardov je zameraná na umelú inteligenciu/ML, ktorá má množstvo špecifických smerníc o zabezpečení. Tieto smernice sú rozdelené do nasledujúcich kategórií:

• Riadenie umelej inteligencie - smernice uvádzajú kroky pre tímy na zaistenie náležitých postupov dohľadu nad ich modelmi strojového učenia.
• Infraštruktúra umelej inteligencie – smernice sa vzťahujú na tímy, ktoré konfigurujú a používajú infraštruktúru potrebnú na vytváranie a nasadzovanie modelov strojového učenia.
• Vývoj umelej inteligencie - smernice sa vzťahujú na tímy zapojené do vývoja modelov strojového učenia a poskytujú pomoc pri osvedčených postupoch pre vývoj, testovanie a nasadzovanie modelov.
• Dáta umelej inteligencie - smernice uvádzajú kroky zabezpečenia pre tímy zapojené do zhromažďovania, spracúvania a správy dát používaných v modeloch strojového učenia.

Tímy vývoja produktov Oracle v rámci vyššie uvedených povinných štandardov Secure Coding Standards pravidelne vyhodnocujú svoje projekty s ohľadom na bezpečnostné riziká a zraniteľnosť špecificky pre umelú inteligenciu.

Zabezpečenie pre model, architektúru umelej inteligencie služby Oracle Analytics a integrácia do služby Oracle Analytics prešli kontrolou zabezpečenia v rámci programu Cloud Security, Standards, and Architecture Program (CSSAP). CSSAP je komplexný proces kontroly zabezpečenia vyvinutý organizáciami Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT a IT organizáciami spoločnosti Oracle s cieľom poskytnúť dôkladné hodnotenie správy zabezpečenia informácií. Ďalšie informácie nájdete v časti Dohľad nad architektúrou podnikového zabezpečenia.

Zhromažďuje spoločnosť Oracle dáta používateľa alebo podobné metriky na meranie rozdielov pre vstupné a výstupné dáta vzhľadom na testovacie prostredia?

Služba Oracle Analytics v súčasnosti nezaznamenáva ani nezhromažďuje na tento účel explicitnú spätnú väzbu používateľov. Keďže model nie je vyladený ani trénovaný na dátach zákazníkov, testovanie je obmedzené na predvolené referenčné kritériá modelu, ako sa uvádza vyššie. Zhrnutie: modely sa opätovne overujú pri každom novom vydaní a všetky zistené problémy s výkonom sa náležite riešia. Oracle používa počas vývoja štandardné metriky strojového učenia, ako sú skóre presnosti, úplnosti a hodnoty F1, na overenie modelov umelej inteligencie pred nasadením.

Začleňuje spoločnosť Oracle do svojho modelu nejaké externé vstupy alebo nástroje tretích strán?

Služba Oracle Analytics nezahŕňa do svojich interakcií s modelom žiadne externé vstupy. Interakcie s modelom sú prísne obmedzené na priamu komunikáciu medzi službou Oracle Analytics a samotným modelom.

Je model závislý od nástrojov alebo riešení tretích strán, ktoré by mohli sťažiť migráciu modelu do iného prostredia?

Model je nasadený ako služba Oracle Cloud Infrastructure s rovnakým základným modelom, ktorý je dostupný vo viacerých inštanciách služby. Medzi inštanciami sa nevyžaduje migrácia modelu.

Ako spoločnosť Oracle reaguje na incidenty systému AI?

Služba Oracle Analytics používa štandardné stratégie odozvy na incidenty služieb Oracle Cloud, ktoré sú uvedené v dokumente Stratégie hosťovania a doručovania v službe Oracle Cloud v časti týkajúcej sa zmluvy o úrovni poskytovaných služieb.

Ako spoločnosť Oracle testuje kvalitu vysvetlení systémov?

Služba Oracle Analytics zaznamená všetky zmeny kódu, revízie modelu a zmeny nasadenia do brány vydaní, ktorá ako súčasť našich referenčných kritérií hodnotenia zahŕňa hodnotenie, nakoľko generované odpovede zodpovedajú ustálenej známej pravde. Známa pravda v referenčných kritériách zahŕňa všetky systémové vysvetlenia vygenerované ako súčasť odpovede. Každá nezhoda sa klasifikuje ako regresia a slúži ako kontrolná brána.

Ako spoločnosť Oracle hodnotí systémové výstupy z hľadiska dôveryhodnosti a spravodlivosti?

Služba Oracle Analytics sa vo svojich základných modeloch opiera o infraštruktúru OCI Gen AI a modely netrénuje explicitne. OCI Gen AI používa osvedčené postupy na zaistenie dôveryhodnosti a zabránenie zaujatosti vo svojich základných modeloch.

Služba Oracle Analytics okrem toho v súčasnosti ponúka zbežnú kontrolu nad príspevkom modelu LLM (veľkého jazykového modelu) k odpovediam zobrazeným koncovým používateľom. Tento mechanizmus zabezpečuje, že model LLM koncovým používateľom neposkytuje informácie priamo, čím sa zabezpečuje, že generované odpovede sú plne vytvorené službou Oracle Analytics, a teda sú dôveryhodné. Okrem toho má administrátor služby Oracle Analytics možnosť deaktivovať ktorékoľvek alebo aj všetky funkcie založené na umelej inteligencii na úrovni jednotlivých funkcií. Ďalšie informácie nájdete v časti Konfigurovanie generatívnej umelej inteligencie.

Existuje plán obnovenia po zlyhaní a núdzový plán pre inštancie, keď je model nedostupný?

Služba Oracle Analytics sa pri svojich základných modeloch opiera o infraštruktúru OCI Gen AI. Odolnosť infraštruktúry OCI a jej tolerancia voči chybám sa uvádzajú v dokumente Stratégie hosťovania a doručovania v službe Oracle Cloud. Ďalšie detaily o vyhradených klastroch OCI Gen AI nájdete v častiach Vytvorenie vyhradeného klastra AI v službe Generative AI na hosťovanie modelov a Verejné cloudové služby Oracle PaaS a IaaS - nosný dokument.

Ako spoločnosť Oracle testuje model z hľadiska konzistencie v rôznych prostrediach?

Všetky zákaznícke a vývojové modely sú nasadené v rovnakom prostredí Oracle Cloud Infrastructure. Interné testovacie prostredia vrátane predprodukčných a produkčných testovacích prostredí zachovávajú rovnaký stav konfigurácie ako zákaznícke prostredia.

Má spoločnosť Oracle pre tento model vytvorenú stratégiu regulačnej správy?

Oracle Analytics využíva základné modely nasadené prostredníctvom služby generatívnej umelej inteligencie Oracle Cloud Infrastructure. Tieto modely sa používajú v natívnom stave bez úprav – služba Oracle Analytics na základných modeloch nevykonáva trénovanie, dolaďovanie ani prispôsobovanie modelu. V súlade s tým sa stratégie riadenia modelov používané infraštruktúrou OCI Gen AI vzťahujú aj na službu Oracle Analytics.

Vytvorila spoločnosť Oracle stratégie a procedúry, ktoré definujú roly a zodpovednosti pre ľudský dohľad nad nasadenými modelmi?

Služba Oracle Analytics má robustný proces hodnotenia modelov pomocou syntetických dát, ktorý slúži ako kontrolná brána pre všetky zmeny kódu, revízie modelov alebo zmeny nasadenia. Behy hodnotenia modelu sa vyhodnocujú kombináciou automatizácie a ľudského dohľadu. Nad rámec toho služba Oracle Analytics ľudský dohľad nad nasadenými modelmi nevykonáva.