Acest subiect oferă răspunsuri la întrebările frecvente despre modul în care este utilizat AI-ul generativ cu Oracle Analytics.
AI-ul generativ Oracle Analytics utilizează mai multe modele sau sisteme de modele interdependente?
Oracle Analytics nu implementează modele de inteligenţă artificială generativă în lanţ sau interdependente. Fiecare model funcţionează drept componentă independentă, care simplifică evaluarea performanţei, controlul accesului şi procesele de management al riscurilor. Oracle evaluează continuu cele mai potrivite modele şi arhitecturi, pentru o gamă largă de cazuri de utilizare a analizelor, şi poate actualiza sau modifica în timp modelele şi arhitectura preferată.
Ce categorie de modele este utilizată în produs? Modelul este dezvoltat intern sau de către o terţă parte?
Capacităţile de inteligenţă artificială generativă Oracle Analytics utilizează modele de bază de la furnizori de inteligenţă artificială de renume, care sunt configurate pentru implementări la nivel de companie. Pentru o listă curentă a modelelor noastre de inteligenţă artificială generativă, consultaţi Modele AI generative pre-instruite.
Modelul este monitorizat şi testat în mod continuu? Cât de frecvent?
Modelele sunt re-validate cu fiecare versiune nouă, iar problemele de performanţă rezolvate pe măsură ce sunt identificate. În timpul dezvoltării, Oracle utilizează indicatori standard de învăţare automată, precizia, rata de detecţie şi punctajul F1, pentru a valida modelele de inteligenţă artificială înainte de implementare. Oracle Analytics utilizează date sintetice pentru evaluarea modelelor, combinate cu un set de date selectate manual. Evaluarea modelelor se concentrează pe acurateţe şi pe deviaţie, prin evaluarea capacităţii modelului de a genera răspunsuri care corespund valorii de referinţă stabilite. Rezultatele sunt comparate cu reperele stabilite, pentru a identifica nepotrivirile (enunţuri care erau reuşite, dar care acum eşuează) şi potrivirile (enunţuri care eşuau, dar care acum reuşesc). Orice nepotrivire este clasificată ca regresie şi serveşte ca punct de control pentru orice modificări de cod, modificări ale modelului sau ale implementării.
Oracle are procese pentru a comunica modificări ale modelelor şi rezultatelor?
Ca parte a procesului de lansare Oracle Analytics, vă înştiinţăm despre modificările aduse modelelor sau rezultatelor AI prin intermediul secţiunii Noutăţi în Oracle Analytics Cloud. Administratorii tenancy-ului pot activa, de asemenea, abonamentele utilizatorilor, asigurând astfel o conştientizare mai largă în cadrul organizaţiei. În plus, oricine poate fi la curent cu noile funcţionalităţi şi versiunile viitoare abonându-se la Oracle Analytics Weekly Email, prin Site-ul comunităţii Oracle Analytics.
Oracle Analytics utilizează, de asemenea, politicile standard Oracle Cloud pentru managementul modificărilor, care sunt documentate în Oracle Cloud - Politici privind găzduirea şi livrarea.
Politica AI Oracle include un proces de examinare a funcţiilor legale şi de risc?
Echipele de dezvoltare a produselor din cadrul Oracle respectă îndrumările şi directivele obligatorii din Global Product Security, care urmează Standardele Oracle pentru dezvoltarea de cod sigur (SCS). O secţiune a acestor standarde este dedicată AI/ML, care, la rândul său, are o serie de directive de securitate. Aceste directive sunt împărţite în următoarele categorii:
Ca parte a standardelor pentru scrierea de cod sigur, impuse mai sus, echipele care dezvoltă produse Oracle îşi evaluează în mod regulat proiectele pentru a identifica riscurile şi vulnerabilităţile de securitate specifice AI.
Securitatea pentru model, arhitectura Oracle Analytics AI şi integrarea în Oracle Analytics au fost supuse examinării securităţii, prin intermediul Cloud Security, Standards and Architecture Program (CSSAP). CSSAP este un proces complex de evaluare a securităţii, dezvoltat de Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT şi de organizaţiile IT din Oracle, pentru a oferi o evaluare detaliată a managementului securităţii informaţiilor. Pentru informaţii suplimentare, consultaţi Supervizarea arhitecturii de securitate corporative.
Oracle colectează date despre utilizatori sau metrici similare pentru a măsura diferenţele privind datele de intrare şi cele de ieşire, relativ la mediile de testare?
În prezent, Oracle Analytics nu captează şi nu colectează feedback explicit din partea utilizatorilor în acest scop. Deoarece modelul nu este optimizat sau instruit pe baza datelor clienţilor, testarea este limitată la valorile de referinţă prestabilite ale modelului, după cum se menţionează mai sus. Pe scurt: Modelele sunt revalidate cu fiecare nouă versiune şi toate problemele de performanţă identificate sunt abordate în mod corespunzător. În timpul dezvoltării, Oracle aplică indicatori standard de învăţare automată – cum ar fi precizia, rata de detecţie, punctajele F1 – pentru validarea modelelor de inteligenţă artificială înainte de implementare.
Oracle încorporează în modelul său date externe sau instrumente de la terţi?
Oracle Analytics nu încorporează intrări de date externe în interacţiunile sale cu modelul. Interacţiunile cu modelul sunt strict limitate la comunicarea directă dintre Oracle Analytics şi modelul în sine.
Modelul depinde de instrumente sau soluţii terţe, care ar putea îngreuna migrarea acestuia într-un alt mediu?
Modelul este implementat ca serviciu Oracle Cloud Infrastructure, cu acelaşi model de bază disponibil în mai multe instanţe ale serviciilor. Nu este necesară migrarea modelului între instanţe.
Cum răspunde Oracle la incidentele din sistemul AI?
Oracle Analytics utilizează politici standard Oracle Cloud Incident Response, care sunt documentate în secţiunea Acord privind nivelul serviciilor, din Oracle Cloud - Politici privind găzduirea şi livrarea.
Cum testează Oracle calitatea explicaţiilor sistemelor?
Oracle Analytics supune toate modificările de cod, modificările modelului şi ale implementării unui prag de lansare, care include o evaluare a răspunsurilor generate, pentru a evalua măsura în care acestea corespund valorii de referinţă stabilite, ca parte a evaluării noastre de referinţă. Valoarea de referinţă din standardul nostru include toate explicaţiile sistemelor generate ca parte a răspunsului. Orice nepotrivire este clasificată ca regresie şi serveşte ca prag de control.
Cum evaluează Oracle rezultatele sistemului, pentru încredere şi corectitudine?
Oracle Analytics se bazează pe infrastructura OCI Gen AI pentru modelele sale de bază şi nu instruieşte în mod explicit modelele. OCI Gen AI utilizează cele mai bune practici pentru a asigura fiabilitatea şi a preveni prejudecăţile în modelele sale de bază.
În plus, Oracle Analytics oferă în prezent un control granular asupra contribuţiei LLM (Large Language Model) la răspunsul oferit utilizatorilor finali. Acest mecanism asigură faptul că LLM-ul nu trimite direct informaţii către utilizatorii finali, asigurându-se astfel că răspunsurile generate sunt produse integral de Oracle Analytics şi, prin urmare, sunt de încredere. În plus, administratorul serviciului Oracle Analytics are posibilitatea de a dezactiva toate caracteristicile bazate pe AI sau de a le dezactiva individual. Pentru informaţii suplimentare, consultaţi Despre configuraţia inteligenţei artificiale generative.
Există un plan de recuperare în caz de dezastru şi de urgenţă pentru instanţele când modelul este indisponibil?
Oracle Analytics se bazează pe infrastructura OCI Gen AI pentru modelele sale de bază. Rezistenţa şi toleranţa la erori a infrastructurii OCI sunt documentate în Oracle Cloud - Politici privind găzduirea şi livrarea. Mai multe detalii despre clusterele dedicate OCI Gen AI pot fi găsite în Crearea unui cluster AI dedicat în inteligenţa artificială generativă pentru găzduirea modelelor şi Document pilon pentru Oracle PaaS şi IaaS Public Cloud Services.
Cum testează Oracle modelul pentru consecvenţă în diferite medii?
Toate modelele pentru clienţi şi pentru dezvoltare sunt implementate în acelaşi framework Oracle Cloud Infrastructure. Mediile de testare interne, inclusiv mediile de pre-producţie şi cele de testare a producţiei, păstrează aceeaşi stare de configurare ca mediile clienţilor.
Are Oracle o politică de organizare stabilită pentru model?
Oracle Analytics utilizează modele de bază implementate prin intermediul serviciului Oracle Cloud Infrastructure Generative AI Service. Aceste modele sunt utilizate în starea lor nativă fără modificări – Oracle Analytics nu efectuează instruirea, optimizarea sau personalizarea modelelor de bază. În consecinţă, politicile de guvernanţă a modelelor utilizate de infrastructura OCI Gen AI sunt aplicabile şi pentru Oracle Analytics.
A stabilit Oracle politici şi proceduri care definesc rolurile şi responsabilităţile pentru supravegherea umană a modelelor implementate?
Oracle Analytics are un proces robust de evaluare a modelelor, utilizând date sintetice, care serveşte drept punct de control pentru orice modificări de cod, de model sau de implementare. Rulările de evaluare a modelelor sunt evaluate printr-o combinaţie de automatizare şi supervizare umană. Oracle Analytics nu efectuează o supervizare umană suplimentară a modelelor implementate.