Oracle Analyticsの生成AIに関するFAQ

Oracle Analyticsの生成AIは、複数のモデルまたは相互依存モデルのシステムを使用していますか。

Oracle Analyticsは、連鎖型または相互依存型の生成AIモデルを実装していません。各モデルは独立したコンポーネントとして動作するため、パフォーマンス評価、アクセス制御およびリスク管理プロセスが簡素化されます。 Oracleは、幅広い分析ユース・ケースに最適なモデルとアーキテクチャを継続的に評価しており、優先するモデルとアーキテクチャを時間の経過とともに更新または変更することがあります。

製品で使用されているモデルのカテゴリは何ですか。モデルは社内で開発されていますか、それともサード・パーティによって開発されていますか。

Oracle Analyticsの生成AI機能は、エンタープライズ・デプロイメント用に構成された確立済のAIプロバイダの基盤モデルを活用しています。生成AIモデルの現在のリストは、事前トレーニング済生成AIモデルを参照してください。

モデルは継続的にモニターおよびテストされていますか。頻度はどの程度ですか。

モデルは、新規リリースごとに再検証され、パフォーマンスの問題が特定されて対処されます。開発中、Oracleは、適合率、再現率およびF1スコアを含む標準の機械学習メトリックを使用して、デプロイメントの前にAIモデルを検証します。 Oracle Analyticsは、モデル評価に合成データと手動でキュレートされたデータのセットを組み合せて使用します。モデル評価では、確立された正解データに一致する応答を生成するモデルの能力を評価することによって、正解率とドリフトに重点を置きます。結果は、確立されたベンチマークと比較され、不一致(以前に成功した発話で現在は失敗)と一致(以前に失敗した発話で現在は成功)が識別されます。不一致は、性能後退として分類され、コード変更、モデル改訂またはデプロイメント変更の制御ゲートとして機能します。

Oracleには、モデルおよび出力の変更を通知するプロセスがありますか。

Oracle Analyticsのリリース・プロセスの一環として、Oracle Analytics Cloudの新機能を通じてAIモデルまたは出力の変更を通知します。テナンシ管理者は、ユーザー・サブスクリプションを有効にして、組織内により広く知らせることもできます。また、Oracle Analyticsコミュニティ・サイトからOracle Analytics Weekly Emailにサブスクライブすることで、誰でも新機能や今後のリリースに関する最新情報を入手できます。

Oracle Analyticsでは、Oracle Cloud Hosting and Delivery Policiesに記載されている標準のOracle Cloud変更管理ポリシーも使用されます。

OracleのAIポリシーには、法務およびリスク管理部門のレビュー・プロセスが含まれていますか。

Oracleの製品開発チームは、Oracleセキュア・コーディング標準(SCS)を管理するグローバル製品セキュリティのガイダンスおよび必須指令に従っています。これらの標準の1つのセクションが、AI/ML専用となっており、さらに多くのセキュリティ指令があります。これらの指令は、次のカテゴリに分類されます:

AIガバナンス - チームが機械学習モデルに対する適切な監督手順を確保するためのステップを規定した指令です。
AIインフラストラクチャ - 機械学習モデルの構築とデプロイメントに必要なインフラストラクチャを構成および使用するチームに適用される指令です。
AI開発 - 機械学習モデルの開発に従事するチームに適用される指令で、モデルの開発、テストおよびデプロイメントのベスト・プラクティスに関するガイダンスが提供されます。
AIデータ - 機械学習モデルで使用されるデータの収集、処理および管理に従事するチームのセキュリティ・ステップを規定した指令です。

Oracle製品開発チームは、前述の必須のセキュア・コーディング標準の一環として、AI固有のセキュリティ・リスクと脆弱性について各プロジェクトを定期的に評価しています。

モデル、Oracle Analytics AIアーキテクチャ、およびOracle Analyticsへの統合に関するセキュリティは、Cloud Security, Standards, and Architecture Program (CSSAP)のセキュリティ・レビューを受けています。 CSSAPは、企業セキュリティ・アーキテクチャ、グローバル情報セキュリティ、グローバル製品セキュリティ、OracleグローバルIT、およびOracleのIT組織によって開発された包括的なセキュリティ・レビュー・プロセスであり、徹底した情報セキュリティ管理評価を提供します。詳細は、企業セキュリティ・アーキテクチャの監視を参照してください。

Oracleは、テスト環境と比較するために、ユーザー・データまたは類似のメトリックを収集して、入出力データの差異を測定していますか。

現在、Oracle Analyticsは、この目的で明示的なユーザー・フィードバックを取得または収集していません。モデルは顧客データに対してチューニングまたはトレーニングされないため、テストは前述したデフォルトのモデル・ベンチマークに制限されます。要約すると、モデルは新規リリースごとに再検証され、特定されたパフォーマンスの問題は適宜対処されます。開発中、Oracleは、適合率、再現率、F1スコアなどの標準の機械学習メトリックを適用して、デプロイメントの前にAIモデルを検証します。

Oracleは、外部入力やサードパーティ・ツールをそのモデルに組み込んでいますか。

Oracle Analyticsは、モデルとの対話に外部入力を組み込んでいません。モデルとの対話は、Oracle Analyticsとモデル自体の間の直接的な通信に厳密に限定されています。

モデルは、モデルを別の環境に移行することが困難になる可能性のあるサードパーティ・ツールまたはソリューションに依存していますか。

モデルは、Oracle Cloud Infrastructureサービスとしてデプロイされ、複数のサービス・インスタンスで同じ基盤モデルを使用できます。インスタンス間でのモデル移行は必要ありません。

Oracleは、AIシステム・インシデントにどのように対応しますか。

Oracle Analyticsは、Oracle Cloud Hosting and Delivery Policiesの「サービス・レベル契約」条項に記載された標準のOracle Cloud Incident Responseポリシーを使用します。

Oracleは、システムの説明の品質をどのようにテストしていますか。

Oracle Analyticsでは、すべてのコード変更、モデル改訂およびデプロイメント変更がリリース・ゲートの対象となります。リリース・ゲートには、評価ベンチマークの一環として、確立された正解データに一致する生成済の応答の評価が含まれます。ベンチマークの正解データには、応答の一部として生成されたすべてのシステムの説明が含まれます。不一致は、性能後退として分類され、制御ゲートとして機能します。

Oracleは、システム出力の信頼性と公平性をどのように評価していますか。

Oracle Analyticsは、その基盤モデルについてOCI生成AIインフラストラクチャに依存しており、モデルを明示的にトレーニングすることはありません。 OCI生成AIは、ベスト・プラクティスを使用して、基盤モデルの信頼性を確保し、バイアスを防ぎます。

また、Oracle Analyticsでは現在、エンド・ユーザーに出力される応答に対する大規模言語モデル(LLM)の寄与度を粗粒度で制御できます。このメカニズムにより、LLMはエンド・ユーザーに情報を直接出力しないため、生成される応答がすべてOracle Analyticsによって生成され、信頼できるものであることが保証されます。さらに、Oracle Analyticsサービス管理者は、個々の機能レベルでAI主導機能の一部または全部を無効にできます。詳細は、「生成AI構成について」を参照してください。

モデルが使用できない場合に備えて、ディザスタ・リカバリおよび緊急時対応計画はありますか。

Oracle Analyticsは、その基盤モデルについてOCI生成AIインフラストラクチャに依存しています。 OCIインフラストラクチャの耐障害性およびフォルト・トレランスについては、Oracle Cloud Hosting and Delivery Policiesに記載されています。 OCI Gen AI専用クラスタの詳細は、「ホスティング・モデルの生成AIでの専用AIクラスタの作成」および「Oracle PaaSおよびIaaS Public Cloud Servicesピラー・ドキュメント」を参照してください。

Oracleは、様々な環境でモデルの一貫性をどのようにテストしていますか。

すべての顧客モデルと開発モデルは、同じOracle Cloud Infrastructureフレームワークにデプロイされています。本番前および本番のテスト環境を含む内部テスト環境は、顧客環境と同じ構成状態を維持しています。

Oracleには、モデル用の確立されたガバナンス・ポリシーがありますか。

Oracle Analyticsは、Oracle Cloud Infrastructureの生成AIサービスを通じてデプロイされた基盤モデルを活用しています。これらのモデルは、変更のないネイティブ状態で使用されます。Oracle Analyticsでは、基礎となる基盤モデルに対してトレーニング、ファインチューニングまたはモデルのカスタマイズは実行されません。したがって、OCI生成AIインフラストラクチャで使用されるモデル・ガバナンス・ポリシーが、Oracle Analyticsにも適用されます。

Oracleは、デプロイされたモデルに対する人間による監督の役割と責任を定義するポリシーおよび手順を確立していますか。

Oracle Analyticsには、合成データを使用したモデル評価のための堅牢なプロセスがあり、コード変更、モデル改訂またはデプロイメント変更の制御ゲートとして機能します。モデル評価の実行は、自動化と人間による監督の組合せによって評価されます。それ以外では、Oracle Analyticsはデプロイされたモデルに対する人間による監督を実行していません。