Oracle Analyticsの生成AIに関するFAQ

このトピックでは、生成AIがOracle Analyticsでどのように使用されるかについて、よくある質問への回答を示します。

Oracle Analyticsの生成AIは、複数のモデルまたは相互依存モデルのシステムを使用していますか?

Oracle Analyticsは、連鎖型または相互依存型の生成AIモデルを実装していません。各モデルは独立したコンポーネントとして動作するため、パフォーマンス評価、アクセス制御およびリスク管理プロセスが簡素化されます。 Oracleは、幅広い分析ユース・ケースに最適なモデルとアーキテクチャを継続的に評価しており、優先するモデルとアーキテクチャを時間の経過とともに更新または変更することがあります。

製品で使用されているモデルのカテゴリは何ですか。モデルは社内で開発されていますか、それともサード・パーティによって開発されていますか。

Oracle Analyticsの生成AI機能は、エンタープライズ・デプロイメント用に構成された確立されたAIプロバイダーの基盤モデルを活用します。 Oracleの生成AIモデルの現在のリストは、事前トレーニング済生成AIモデルを参照してください。

モデルは継続的にモニターおよびテストされていますか。頻度はどの程度ですか。

モデルは、新規リリースごとに再検証され、パフォーマンスの問題が特定されて対処されます。開発中、Oracleは、適合率、再現率およびF1スコアを含む標準の機械学習メトリックを使用して、デプロイメントの前にAIモデルを検証します。 Oracle Analyticsでは、手動でキュレートされたデータのセットと組み合せたモデル評価に合成データを使用します。モデル評価では、確立された正解データに一致する応答を生成するモデルの能力を評価することによって、正解率とドリフトに重点を置きます。結果は、確立されたベンチマークと比較され、不一致(以前に成功した発話で現在は失敗)と一致(以前に失敗した発話で現在は成功)が識別されます。不一致は、性能後退として分類され、コード変更、モデル改訂またはデプロイメント変更の制御ゲートとして機能します。

Oracleには、モデルおよび出力の変更を通知するプロセスがありますか。

Oracle Analyticsリリース・プロセスの一環として、Oracle Analytics Cloudの新機能を通じてAIモデルまたは出力の変更を通知します。テナンシ管理者は、ユーザー・サブスクリプションを有効にして、組織内により広く知らせることもできます。また、Oracle Analyticsコミュニティ・サイトを通じてOracle AnalyticsのOracle Analyticsの週次Eメールをサブスクライブすることで、誰でも新機能や今後のリリースに関する最新情報を入手できます。

Oracle Analyticsでは、Oracle Cloud Hosting and Delivery Policiesに記載されている標準のOracle Cloud変更管理ポリシーも使用されます。

OracleのAIポリシーには、法務およびリスク管理部門のレビュー・プロセスが含まれていますか。

Oracleの製品開発チームは、Oracleセキュア・コーディング標準(SCS)を管理するグローバル製品セキュリティのガイダンスおよび必須指令に従っています。これらの標準の1つのセクションが、AI/ML専用となっており、さらに多くのセキュリティ指令があります。これらの指令は、次のカテゴリに分類されます:

AIガバナンス - チームが機械学習モデルに対する適切な監督手順を確保するためのステップを規定した指令です。
AIインフラストラクチャ - 機械学習モデルの構築とデプロイメントに必要なインフラストラクチャを構成および使用するチームに適用される指令です。
AI開発 - 機械学習モデルの開発に従事するチームに適用される指令で、モデルの開発、テストおよびデプロイメントのベスト・プラクティスに関するガイダンスが提供されます。
AIデータ - 機械学習モデルで使用されるデータの収集、処理および管理に従事するチームのセキュリティ・ステップを規定した指令です。

Oracle製品開発チームは、前述の必須のセキュア・コーディング標準の一環として、AI固有のセキュリティ・リスクと脆弱性について各プロジェクトを定期的に評価しています。

モデルのセキュリティ、Oracle Analytics AIアーキテクチャ、およびOracle Analyticsへの統合は、クラウド・セキュリティ、標準およびアーキテクチャ・プログラム(CSSAP)のセキュリティ・レビューに準拠しています。 CSSAPは、企業セキュリティ・アーキテクチャ、グローバル情報セキュリティ、グローバル製品セキュリティ、OracleグローバルIT、OracleのIT組織、およびOracleのAIレビュー・ボードによって開発された包括的なセキュリティ・レビュー・プロセスであり、徹底した情報セキュリティ管理評価を提供します。詳細は、企業セキュリティ・アーキテクチャの監視を参照してください。

Oracleは、テスト環境と比較するために、ユーザー・データまたは類似のメトリックを収集して、入出力データの差異を測定していますか。

現在、Oracle Analyticsは、この目的で明示的なユーザー・フィードバックを取得または収集しません。モデルは顧客データに対してチューニングまたはトレーニングされないため、テストは前述したデフォルトのモデル・ベンチマークに制限されます。まとめると、新しいリリースごとにモデルが再検証され、特定されたパフォーマンスの問題がそれに応じて対処されます。開発中に、Oracleは、精度、リコール、F1スコアなどの標準機械学習メトリックを適用して、デプロイ前にAIモデルを検証します。

Oracleは、外部入力やサードパーティ・ツールをそのモデルに組み込んでいますか。

Oracle Analyticsでは、モデルとの対話に外部入力は組み込まれません。モデルとの対話は、Oracle Analyticsとモデル自体の間の直接的な通信に厳密に限定されています。

モデルは、モデルを別の環境に移行することが困難になる可能性のあるサードパーティ・ツールまたはソリューションに依存していますか。

モデルはOracle Cloud Infrastructure (OCI)サービスとしてデプロイされ、同じ基盤モデルが複数のサービス・インスタンスで使用できます。インスタンス間でのモデル移行は必要ありません。

Oracleは、AIシステム・インシデントにどのように対応しますか。

Oracle Analyticsは、Oracle Cloud Hosting and Delivery Policiesの「サービス・レベル契約」条項に記載された標準のOracle Cloud Incident Responseポリシーを使用します。

Oracleは、システムの説明の品質をどのようにテストしていますか。

Oracle Analyticsは、すべてのコード変更、モデル・リビジョンおよびデプロイメント変更をリリース・ゲートにサブジェクトします。リリース・ゲートには、評価ベンチマークの一部として確立された根拠と一致する生成されたレスポンスの評価が含まれます。ベンチマークには、応答の一部として生成されたすべてのシステムの説明が含まれます。不一致は、性能後退として分類され、制御ゲートとして機能します。

Oracleは、システム出力の信頼性と公平性をどのように評価していますか。

Oracle Analyticsは、基盤モデルにOCI生成AIに依存しており、モデルを明示的にトレーニングしません。 OCI Generative AIは、ベストプラクティスを使用して、基盤モデルの信頼性を確保し、バイアスを防止します。

さらに、現在、Oracle Analyticsでは、エンド・ユーザーに表示されるレスポンスに対する大規模言語モデル(LLM)のコントリビューションを詳細に制御できます。このメカニズムにより、LLMはエンド・ユーザーに情報を直接表示しないため、生成されたレスポンスがOracle Analyticsによって完全に生成され、信頼性が確保されます。さらに、Oracle Analyticsサービス管理者は、個々の機能レベルでAIドリブン機能の一部またはすべてを無効にできます。詳細は、「生成AI構成について」を参照してください。

モデルが使用できない場合に備えて、ディザスタ・リカバリおよび緊急時対応計画はありますか。

Oracle Analyticsは、OCIの生成AIサービスを基盤モデルに頼っています。 OCIの耐障害性およびフォルト・トレランスについては、Oracle Cloud Hosting and Delivery Policiesに記載されています。 OCI生成AI専用クラスタの詳細は、「ホスティング・モデルの生成AIでの専用AIクラスタの作成」およびOracle PaaSおよびIaaS Public Cloud Servicesのピラー・ドキュメントを参照してください。

Oracleは、様々な環境でモデルの一貫性をどのようにテストしていますか。

すべての顧客モデルと開発モデルは、同じOCIフレームワークにデプロイされます。本番前および本番のテスト環境を含む内部テスト環境は、顧客環境と同じ構成状態を維持しています。

Oracleには、モデル用の確立されたガバナンス・ポリシーがありますか。

Oracle Analyticsは、OCIの生成AIサービスを通じて導入された基盤モデルを活用します。これらのモデルは、変更せずにネイティブ状態で使用されます。 Oracle Analyticsでは、基礎となる基盤モデルに対してトレーニング、ファインチューニングまたはモデルのカスタマイズは実行されません。したがって、OCI生成AIで使用されるモデル・ガバナンス・ポリシーは、Oracle Analyticsにも適用されます。

Oracleは、デプロイされたモデルに対する人間による監督の役割と責任を定義するポリシーおよび手順を確立していますか。

Oracle Analyticsには、手動でキュレートされたデータセットと組み合せたモデル評価のための合成データを使用したモデル評価のための堅牢なプロセスがあります。このプロセスは、コード、モデルおよびデプロイメントの変更を制御します。モデル評価の実行は、自動化と人間による監督の組合せによって評価されます。