Najčešća pitanja za Oracle Analytics generativnu umjetnu inteligenciju

Upotrebljava li Oracle Analytics generativni AI više od jednog modela ili sustava međuovisnih modela?

Oracle Analytics ne implementira ulančane ili međuovisne generativne AI modele. Svaki model funkcionira kao neovisna komponenta, što pojednostavljuje procjenu izvedbe, kontrolu pristupa i procese upravljanja rizicima. Oracle kontinuirano procjenjuje najprikladnije modele i arhitekture za širok raspon načina upotrebe analitike te tijekom vremena može ažurirati ili mijenjati svoje preferirane modele i arhitekturu.

Koje se kategorije modela upotrebljavaju u proizvodu? Je li model razvijen unutar tvrtke ili od treće strane?

Mogućnosti generativne umjetne inteligencije za Oracle Analytics upotrebljavaju osnovne modele uspostavljenih pružatelja umjetne inteligencije koji su konfigurirani za poslovne implementacije. Trenutačni popis naših modela generativne umjetne inteligencije potražite u odjeljku Unaprijed obučeni generativni AI modeli.

Prati li se model i ispituje li se kontinuirano? Koliko često?

Ponovo se provjerava valjanost modela sa svakim novim izdanjem, pri čemu se identificiraju problemi s izvedbom. Tijekom razvoja Oracle upotrebljava standardnu metriku strojnog učenja, uključujući preciznost, opoziv i F1 rezultate za provjeru valjanosti modela umjetne inteligencije prije implementacije. Oracle Analytics upotrebljava sintetičke podatke za procjenu modela u kombinaciji sa skupom ručno probranih podataka. Procjena modela fokusira se na točnost i pomak, procjenjujući mogućnost modela za generiranje odgovora koji odgovaraju utvrđenim činjenicama. Rezultati se uspoređuju s utvrđenim mjerilima kako bi se identificirale neusklađenosti (prethodno uspješne izjave koje sada ne uspijevaju) i usklađenosti (prethodno neuspješne izjave koje sada uspijevaju). Svaka neusklađenost klasificira se kao regresija i služi kao kontrolni mehanizam za sve promjene koda, revizije modela ili promjene implementacije.

Postoje li procesi u kojima Oracle razmjenjuje promjene svojih modela i izlaza?

U sklopu postupka Oracle Analytics izdavanja, obavijestit ćemo vas o promjenama modela ili izlaza umjetne inteligencije u poglavlju Što je novo za Oracle Analytics Cloud. Administratori klijentske particije mogu omogućiti i korisničke pretplate te osigurati širu svijest unutar organizacije. Nadalje, svi mogu primati novosti o novim značajkama i nadolazećim izdanjima uz tjedne Oracle Analytics e-poruke putem Mjesto zajednice Oracle Analytics.

Oracle Analytics upotrebljava i standardna pravila za upravljanje promjenama Oracle Clouda koja su dokumentirana u poglavlju Pravilo za hostiranje i isporuku servisa Oracle Cloud.

Uključuju li Oracle AI pravila pregled za pravne i rizične funkcije?

Timovi za razvoj proizvoda unutar tvrtke Oracle slijede naputke i obavezne smjernice iz sektora globalne sigurnosti proizvoda koji održavaju sigurne standarde kodiranja tvrtke Oracle (SCS). Dio tih standarda posvećen je umjetnoj inteligenciji / strojnom učenju te dolazi s nizom sigurnosnih naputaka. Ti su naputci podijeljeni u sljedeće kategorije:

• Upravljanje umjetnom inteligencijom – naputci obuhvaćaju korake za timove kako bi se osigurali odgovarajući postupci nadzora za njihove modele strojnog učenja.
• Infrastruktura umjetne inteligencije - naputci se primjenjuju na timove koji konfiguriraju i upotrebljavaju infrastrukturu potrebnu za izradu i implementaciju modela strojnog učenja.
• Razvoj umjetne inteligencije - naputci se primjenjuju na timove uključene u razvoj modela strojnog učenja, pružajući smjernice o najboljim praksama za razvoj, testiranje i implementaciju modela.
• Podaci umjetne inteligencije - naputci obuhvaćaju sigurnosne korake za timove uključene u prikupljanje, obradu i upravljanje podacima koji se upotrebljavaju u modelima strojnog učenja.

U sklopu navedenih obaveznih standarda za sigurno kodiranje, timovi za razvoj Oracle proizvoda redovito procjenjuju svoje projekte na rizike i ranjivosti specifične za umjetnu inteligenciju.

Sigurnost modela, Oracle Analytics AI arhitekture i integracija u Oracle Analytics prošla je sigurnosni pregled programa za sigurnost u oblaku, standarde i arhitekturu (CSSAP). CSSAP je sveobuhvatni postupak sigurnosnog pregleda koji su razvili Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT i IT organizacije tvrtke Oracle kako bi pružili temeljitu procjenu upravljanja sigurnošću informacija. Dodatne informacije potražite u poglavlju Nadzor arhitekture korporativne sigurnosti.

Prikuplja li Oracle korisničke podatke ili sličnu metriku radi mjerenja razlika za ulazne i izlazne podatke u odnosu na testna okruženja?

Oracle Analytics trenutačno ne bilježi ni ne prikuplja eksplicitne povratne informacije korisnika u tu svrhu. Budući da model nije prilagođen ili obučen za korisničke podatke, testiranje je ograničeno na zadane referentne vrijednosti modela kako je prethodno navedeno. Sažetak: modeli se ponovno provjeravaju svakim novim izdanjem, a svi identificirani problemi s izvedbom rješavaju se u skladu s tim. Tijekom razvoja Oracle primjenjuje standardnu metriku strojnog učenja, kao što su preciznost, odziv i rezultati F1, kako bi se provjerili modeli umjetne inteligencije prije implementacije.

Uključuje li Oracle vanjske ulaze ili alate treće strane sa svojim modelom?

Oracle Analytics ne uključuje vanjske unose u svoje interakcije s modelom. Interakcije s modelom strogo su ograničene na izravnu komunikaciju između servisa Oracle Analytics i samog modela.

Je li model ovisan o alatima ili rješenjima treće strane koja bi mogla otežati migraciju modela u drugo okruženje?

Model se implementira kao servis Oracle Cloud Infrastructure, pri čemu je isti osnovni model dostupan u više instanci servisa. Nije potrebna migracija modela između instanci.

Kako Oracle odgovara na incidente sustava umjetne inteligencije?

Oracle Analytics upotrebljava standardna pravila za odgovor na incidente u Oracle Cloudu koja su dokumentirana u odjeljku Ugovor o razini usluge Pravilo za hostiranje i isporuku servisa Oracle Cloud.

Kako Oracle testira kvalitetu objašnjenja sustava?

Oracle Analytics sve promjene koda, revizije modela i promjene implementacije podvrgava kontrolnom mehanizmu, što uključuje procjenu generiranih odgovora koji odgovaraju utvrđenim činjenicama, u sklopu našeg referentnog mjerila za procjenu. Temeljna istina u referentnoj vrijednosti uključuje sva objašnjenja sustava koja su nastala kao dio odgovora. Sve neusklađenosti klasificiraju se kao regresija i služe kao kontrolni mehanizam.

Kako Oracle procjenjuje sistemske rezultate za pouzdanost i pravičnost?

Oracle Analytics za svoje osnovne modele oslanja se na infrastrukturu OCI Gen AI i ne obučava ih eksplicitno. OCI Gen AI upotrebljava najbolje prakse za osiguravanje pouzdanosti i sprečavanje pristranosti u svojim osnovnim modelima.

Nadalje, Oracle Analytics trenutačno nudi okvirnu kontrolu nad LLM doprinosom velikog jezičnog modela u odgovorima koji se prosljeđuju krajnjim korisnicima. Tim se mehanizmom osigurava da LLM ne pruža izravno informacije krajnjim korisnicima, čime se osigurava da generirane odgovore u potpunosti proizvodi Oracle Analytics, a time i da su pouzdani. Nadalje, administrator servisa Oracle Analytics može onemogućiti bilo koje ili sve značajke koje se temelje na umjetnoj inteligenciji na razini pojedinačnih značajki. Dodatne informacije potražite u poglavlju Više o konfiguraciji generativnog AI-ja.

Postoji li plan za oporavak od katastrofe i krizni plan za instance kad model nije dostupan?

Oracle Analytics za svoje osnovne modele oslanja se na infrastrukturu OCI Gen AI. Otpornost i otpornost na pogreške OCI infrastrukture dokumentirane su u poglavlju Pravilo za hostiranje i isporuku servisa Oracle Cloud. Više pojedinosti o namjenskim klasterima umjetne inteligencije za OCI možete pronaći u poglavljima Stvaranje namjenskog AI klastera u generativnom AI-ju za modele hostiranja i Oracle PaaS/IaaS Public Cloud Services - temeljni dokument.

Kako Oracle testira model radi dosljednosti u različitim okruženjima?

Svi korisnici i razvojni modeli implementiraju se u istom okviru za Oracle Cloud Infrastructure. Interna okruženja za testiranje, uključujući okruženja za pretprodukcijsko i produkcijsko testiranje, održavaju isto stanje konfiguracije kao i korisnička okruženja.

Postoje li u tvrtki Oracle utvrđena pravila upravljanja za model?

Oracle Analytics upotrebljava osnovne modele koji su implementirani putem servisa Generative AI Service za Oracle Cloud Infrastructure. Ti se modeli upotrebljavaju u svom izvornom stanju bez izmjena – Oracle Analytics ne upotrebljava obuku, fino podešavanje ili prilagodbu modela na temeljnim osnovnim modelima. U skladu s tim, pravila za upravljanje modelom koja upotrebljava OCI Gen AI infrastruktura primjenjiva su i na servis Oracle Analytics.

Je li Oracle uspostavio pravila i postupke kojima se definiraju uloge i odgovornosti za ljudski nadzor implementiranih modela?

Oracle Analytics ima robustan proces za procjenu modela upotrebom sintetičkih podataka koji služe kao kontrolni pristupnik za sve promjene koda, revizije modela ili promjene implementacije. Pokretanja procjene modela procjenjuju se kombinacijom automatizacije i ljudskog nadzora. Osim toga, Oracle Analytics ne obavlja ljudski nadzor implementiranih modela.