Ez a témakör a generatív mesterséges intelligencia Oracle Analytics szolgáltatással történő használatával kapcsolatos gyakori kérdésekre ad válaszokat.
Az Oracle Analytics generatív mesterséges intelligenciája egynél több modellt vagy függő modellek rendszerét használja?
Az Oracle Analytics nem valósít meg láncolt vagy függő generatív AI-modelleket. Minden modell önálló komponensként működik, ami leegyszerűsíti a teljesítményértékelést, a hozzáférés-szabályozást és a kockázatkezelési folyamatokat. Az Oracle folyamatosan értékeli a legmegfelelőbb modelleket és architektúrákat az elemzési használati esetek széles köréhez, és idővel frissítheti vagy módosíthatja a választott modelleket és architektúrát.
Milyen kategóriájú modelleket használnak a termékben? A modellt házon belül vagy harmadik fél fejleszti?
Az Oracle Analytics generatív AI-képességei a vállalati telepítésekhez konfigurált, már meglévő AI-szolgáltatók alapmodelljeit hasznosítják. A generatív AI-modelljeink aktuális listáját lásd: Előre betanított generatív AI-modellek.
Folyamatosan ellenőrzik és tesztelik a modellt? Milyen gyakran történik ez?
A modelleket minden új kiadással újból ellenőrzik, az azonosított teljesítményproblémákat pedig kezelik. A fejlesztés során az Oracle a gépi tanulás mérőszámait használja, köztük a pontosságot, a visszahívást és az F1 pontszámokat, hogy telepítés előtt ellenőrizze az AI modelleket. Az Oracle Analytics szintetikus adatokat használ a modellek kiértékeléséhez, manuálisan válogatott adatokkal kombinálva. A modellértékelés a pontosságra és a sodródásra összpontosít annak értékelésével, hogy a modell képes-e a megalapozott igazságnak megfelelő válaszokat generálni. Az eredményeket összevetik a megállapított referenciaértékekkel, hogy azonosítsák az eltéréseket (korábban sikeres kijelentések, amelyek most sikertelenek) és a találatokat (korábban sikertelen kijelentések, amelyek most sikeresek). Minden eltérés regressziónak minősül, és vezérlőkapuként szolgál a kódmódosításokhoz, modellváltozatokhoz vagy telepítési változásokhoz.
Rendelkezik az Oracle folyamatokkal a modellek és a kimenet változásainak kommunikálásához?
Az Oracle Analytics kiadási folyamatának részeként értesítjük az AI-modellek vagy -kimenetek változásairól a következőn keresztül: Az Oracle Analytics Cloud újdonságai. A bérlet adminisztrátorai engedélyezhetik a felhasználói feliratkozásokat is, ezzel szélesebb körű tájékoztatást nyújtva a szervezeten belül. Emellett bárki tájékozódhat az új funkciókról és a közelgő kiadásokról, ha feliratkozik az Oracle Analytics heti e-mailjére a következőn keresztül: Az Oracle Analytics-közösség oldala.
Az Oracle Analytics emellett az Oracle Felhőhoszting- és Szolgáltatásnyújtási Szabályzatai című dokumentumban dokumentált szabványos Oracle Cloud változáskezelési alapszabályokat is használja.
Tartalmaz az Oracle AI-szabályzata felülvizsgálatot a jogi és kockázati funkciókat illetően?
Az Oracle termékfejlesztő csapatai az Oracle Secure Coding Standards (SCS) irányelveit fenntartó Globális termékbiztonság útmutatóit és kötelező irányelveit követik. Ezeknek a szabványoknak egy része az AI-ra/ML-re vonatkozik, amely viszont számos biztonsági irányelvvel rendelkezik. Ezek az irányelvek a következő kategóriákba sorolhatók:
A fenti kötelező érvényű biztonságos kódolási szabványok részeként az Oracle termékfejlesztő csapatai rendszeresen értékelik az AI-specifikus biztonsági kockázatokra és sebezhetőségekre vonatkozó projektjeiket.
A modell biztonsága, az Oracle Analytics AI architektúrája és az Oracle Analytics szolgáltatásba való integráció a Cloud Security, Standards, and Architecture Program (CSSAP) biztonsági felülvizsgálatán esett át. A CSSAP a vállalati biztonsági architektúra, a globális információbiztonság, a globális termékbiztonság, az Oracle globális IT és az Oracle IT-szervezetei által kifejlesztett átfogó biztonsági felülvizsgálati folyamat, amely alapos információbiztonsági értékelést biztosít. A további tudnivalókat lásd: Vállalati biztonsági architektúra felügyelete.
Gyűjti-e az Oracle a felhasználói adatokat vagy hasonló mutatószámokat a bemeneti és kimeneti adatok tesztkörnyezetekhez viszonyított eltéréseinek méréséhez?
Az Oracle Analytics jelenleg nem rögzít és nem gyűjt kifejezett felhasználói visszajelzéseket erre a célra. Mivel a modell nincs ráhangolva vagy betanítva az ügyféladatokra, a tesztelés a fent említett alapértelmezett modell-teljesítménymérőkre korlátozódik. Összefoglalva: a modelleket minden új kiadással újra érvényesítik, és az azonosított teljesítményproblémákat ennek megfelelően kezelik. A fejlesztés során az Oracle szabványos gépi tanulási mérőszámokat – például pontosságot, visszahívást és F1 pontszámokat – alkalmaz az AI-modellek üzembe helyezés előtti ellenőrzéséhez.
Magában foglal az Oracle bármilyen külső bemenetet vagy külső fejlesztői eszközt a modelljével?
Az Oracle Analytics nem tartalmaz semmilyen külső bemenetet a modellel való interakciójában. A modellinterakciók szigorúan az Oracle Analytics és maga a modell közötti közvetlen kommunikációra korlátozódnak.
Függ-e a modell olyan külső eszközöktől vagy megoldásoktól, amelyek megnehezíthetik a modell más környezetbe való áttelepítését?
A modell az Oracle Cloud Infrastructure szolgáltatásaként van telepítve, és ugyanaz az alapmodell több szolgáltatáspéldányon is elérhető. A példányok között nincs szükség modelláttelepítésre.
Hogyan reagál az Oracle az AI-rendszer incidenseire?
Az Oracle Analytics az Oracle Cloud Incidensre való válaszadási szabályzatát használja, amely az Oracle Felhőhoszting- és Szolgáltatásnyújtási Szabályzatai Szolgáltatásiszint-szerződés című szakaszában van dokumentálva.
Hogyan teszteli az Oracle a rendszerbeli magyarázatok minőségét?
Az Oracle Analytics az összes kódmódosítást, modellváltozatot és bevezetésmódosítást egy kiadási kapuhoz rendel, amely az értékelési teljesítménymérés részeként a megállapított alapigazságnak megfelelő generált válaszok értékelését tartalmazza. A teljesítménymérés alapigazsága magában foglalja a válasz részeként generált összes rendszermagyarázatot. Minden eltérés regressziónak minősül, és kontollkapuként szolgál.
Hogyan értékeli az Oracle a rendszerkimeneteket a megbízhatóság és a méltányosság szempontjából?
Az Oracle Analytics az OCI Gen AI-infrastruktúrára támaszkodik alapmodelljei számára, és nem kifejezetten tanítja be a modelleket. Az OCI Gen AI a legjobb gyakorlatokat használja a megbízhatóság biztosításához és az elfogultság megakadályozásához az alapmodelljeiben.
Ezenkívül az Oracle Analytics jelenleg durva részletességű ellenőrzést kínál a nagy nyelvi modell (LLM) végfelhasználóinak küldött válaszhoz való hozzájárulása felett. Ez a mechanizmus biztosítja, hogy az LLM közvetlenül ne jelenítsen meg információkat a végfelhasználóknak, ezáltal biztosítva, hogy a generált válaszokat teljes mértékben az Oracle Analytics hozza létre, így megbízható marad. Emellett az Oracle Analytics szolgáltatás adminisztrátora az egyes funkciók szintjén letilthatja az AI-vezérelt funkciókat. A további tudnivalókat lásd: Tudnivalók a Generatív AI-konfigurációról.
Van vészhelyzeti helyreállítási és kontingenciaterv olyan esetekre, amikor a modell nem érhető el?
Az Oracle Analytics az OCI Gen AI-infrastruktúrára támaszkodik az az alapmodelljei esetében. Az OCI-infrastruktúra rugalmasságát és hibatűrését a következő dokumentum tartalmazza: Oracle Felhőhoszting- és Szolgáltatásnyújtási Szabályzatai. Az OCI Gen AI dedikált fürtjeiről a további részletek itt találhatók: Dedikált AI-fürt létrehozása a generatív AI-szolgáltatásban modellek üzemeltetéséhez és Oracle PaaS and IaaS Public Cloud Services alapdokumentuma.
Hogyan teszteli az Oracle a modellt a konzisztencia szempontjából a különböző környezetekben?
Minden ügyfél- és fejlesztői modell ugyanazon az Oracle Cloud Infrastructure keretrendszeren van telepítve. A belső tesztelési környezetek – az éles előtti és az éles tesztelési környezeteket is beleértve – ugyanazokat a konfigurációs állapotokat tartják fenn, mint az ügyfélkörnyezetek.
Rendelkezik az Oracle megalapozott irányítási házirenddel a modellhez?
Az Oracle Analytics az Oracle Cloud Infrastructure Generative AI Service szolgáltatásán keresztül telepített alapmodelleket használja. Ezeket a modelleket módosítás nélkül használják eredeti állapotukban – az Oracle Analytics nem végez betanítást, finomhangolást vagy modelltestreszabást az alapul szolgáló alapmodelleken. Ennek megfelelően az OCI Gen AI infrastruktúra által használt modellirányítási alapszabályok az Oracle Analytics szolgáltatásra is alkalmazhatók.
Létrehozott-e az Oracle olyan szabályzatokat és eljárásokat, amelyek meghatározzák a telepített modellek emberi felügyeletének szerepköreit és felelősségeit?
Az Oracle Analytics olyan robusztus folyamattal rendelkezik a modellértékeléshez, amely szintetikus adatokat használ, és kontrollkapuként szolgál a kódmódosításokhoz, modellváltozatokhoz vagy telepítési változásokhoz. A modellértékeléseket az automatizálás és az emberi felügyelet kombinációjával értékelik. Ezen túlmenően az Oracle Analytics nem végez emberi felügyeletet a telepített modelleken.