本主题提供了对有关生成式 AI 如何与 Oracle Analytics 结合使用的常见问题的解答。
Oracle Analytics 生成式 AI 是使用多个模型还是使用由相互依赖的模型组成的系统？
Oracle Analytics 未实施链式或相互依赖的生成式 AI 模型。每个模型都作为独立的组件运行，可简化性能评估、访问控制和风险管理流程。Oracle 会针对各种分析用例持续评估最合适的模型和体系结构，并且可能会随着时间的推移更新或更改首选的模型和体系结构。
产品中使用了哪个类别的模型？模型是内部开发的还是由第三方开发的？
Oracle Analytics 生成式 AI 功能利用成熟 AI 提供方提供的基础模型，这些模型是为企业部署配置的。有关生成式 AI 模型的当前列表，请参见预训练的生成式 AI 模型。
是否持续监视和测试模型？频率如何？
在推出每个新发行版时都会重新验证模型，并且会解决发现的性能问题。在开发过程中，Oracle 先使用标准机器学习度量（包括精度、召回率和 F1 评分）验证 AI 模型，然后再进行部署。Oracle Analytics 结合使用合成数据与一组人工整理的数据来评估模型。模型评估侧重于准确度和偏差，方法是评估模型是否能够生成与既定基本事实匹配的响应。结果将与既定基准进行比较，以确定不匹配（以前成功但现在失败的表述）和匹配（以前失败但现在成功的表述）。任何不匹配都分类为回归并用作任何代码更改、模型修订或部署更改的控制门。
Oracle 是否有传达对其模型和输出所做更改的流程？
在 Oracle Analytics 发布过程中，我们将通过 Oracle Analytics Cloud 新增功能向您通知 AI 模型或输出的更改。租户管理员还可以启用用户订阅，从而确保在组织内更广泛地传达消息。此外，任何人都可以通过 Oracle Analytics 社区站点订阅 Oracle Analytics 每周电子邮件，及时了解新功能和即将推出的发行版。
Oracle Analytics 还使用《Oracle Cloud Hosting and Delivery Policies》（《Oracle Cloud 托管和交付策略》）中所述的标准 Oracle Cloud 更改管理策略。
Oracle 的 AI 策略是否包括法律和风险职能的审核流程？
Oracle 的产品开发团队遵循全球产品安全部门（该部门维护 Oracle 安全编码标准 (Secure Coding Standard, SCS)）的指导和强制性指令。这些标准的一部分专门用于 AI/ML，而 AI/ML 又具有许多安全指令。这些指令分为以下类别：
作为上述强制性安全编码标准的一部分，Oracle 产品开发团队会定期评估其项目是否存在特定于 AI 的安全风险和漏洞。
模型、Oracle Analytics AI 体系结构以及与 Oracle Analytics 的集成的安全性已经过云安全性、标准和体系结构计划 (Cloud Security, Standards, and Architecture Program, CSSAP) 安全审核。CSSAP 是由企业安全体系结构、全球信息安全、全球产品安全、Oracle Global IT 和 Oracle 的 IT 组织共同开发的全面安全审核流程，旨在提供完整的信息安全管理评估。有关其他信息，请参见《Corporate Security Architecture Oversight》。
Oracle 是否收集用户数据或类似度量来衡量与测试环境相关的输入和输出数据的差异？
当前，Oracle Analytics 不会为此目的捕获或收集明确的用户反馈。由于不会基于客户数据调整或训练模型，因此测试仅限于上述默认模型基准。总结一下：在推出每个新发行版时都会重新验证模型，并且会相应地解决发现的任何性能问题。在开发过程中，Oracle 先应用标准机器学习度量（例如精度、召回率和 F1 评分）验证 AI 模型，然后再进行部署。
Oracle 是否将外部输入或第三方工具与其模型相结合？
Oracle Analytics 不会在与模型的交互中包含任何外部输入。模型交互严格限于 Oracle Analytics 与模型本身之间的直接通信。
模型是否依赖于某些第三方工具或解决方案，从而可能会导致模型难以迁移到不同的环境？
模型作为 Oracle Cloud Infrastructure 服务部署，在多个服务实例中提供相同的基础模型。无需在实例之间迁移模型。
Oracle 如何应对 AI 系统意外事件？
Oracle Analytics 使用《Oracle Cloud Hosting and Delivery Policies》（《Oracle Cloud 托管和交付策略》）的 "Service Level Agreement"（服务水平协定）一节中所述的标准 Oracle Cloud 意外事件响应策略。
Oracle 如何测试系统解释的质量？
Oracle Analytics 要求所有代码更改、模型修订和部署更改受发布门限制，其中包括对生成的匹配既定基本事实（属于评估基准的一部分）的响应进行评估。基准中的基本事实包括作为响应的一部分生成的所有系统解释。任何不匹配都分类为回归并用作控制门。
Oracle 如何评估系统输出的可信度和公平性？
Oracle Analytics 依赖 OCI 生成式 AI 基础结构支持其基础模型，并不明确训练模型。OCI 生成式 AI 使用最佳实践来确保其基础模型具有良好可信度并防止出现偏见。
此外，Oracle Analytics 目前允许对大型语言模型 (Large Language Model, LLM) 为向最终用户显示的响应所做的贡献进行粗粒度控制。此机制可确保 LLM 不直接向最终用户显示信息，从而确保生成的响应完全由 Oracle Analytics 生成，因此可信。此外，Oracle Analytics 服务管理员还可以在单个功能级别禁用任何或所有 AI 驱动的功能。有关更多信息，请参见关于生成式 AI 配置。
模型不可用时，是否有适用于实例的灾难恢复和应急计划？
Oracle Analytics 依赖 OCI 生成式 AI 基础结构支持其基础模型。《Oracle Cloud Hosting and Delivery Policies》（《Oracle Cloud 托管和交付策略》）中介绍了 OCI 基础结构的弹性和容错能力。有关 OCI 生成式 AI 专用集群的更多详细信息，请参见 Creating a Dedicated AI Cluster in Generative AI for Hosting Models（在生成式 AI 中创建专用 AI 集群以托管模型）和 Oracle PaaS and IaaS Public Cloud Services Pillar Document（Oracle PaaS 和 IaaS 公有云服务主要文档）。
Oracle 如何测试模型以确保在不同环境中保持一致？
所有客户和开发模型都部署在同一个 Oracle Cloud Infrastructure 框架上。内部测试环境（包括预生产和生产测试环境）与客户环境保持相同的配置状态。
Oracle 是否有针对模型制定的监管策略？
Oracle Analytics 利用通过 Oracle Cloud Infrastructure 的生成式 AI 服务部署的基础模型。这些模型以原生状态使用，不进行修改 — Oracle Analytics 不会对底层基础模型执行训练、微调或模型定制。因此，OCI 生成式 AI 基础结构使用的模型监管策略也适用于 Oracle Analytics。
Oracle 是否制定了用于定义角色和职责以便人工监督部署的模型的策略和过程？
Oracle Analytics 提供了一个使用合成数据的强大模型评估流程，该合成数据用作任何代码更改、模型修订或部署更改的控制门。模型评估运行由自动化和人工监督相结合进行评估。除此之外，Oracle Analytics 不会对部署的模型执行人工监督。