基于 Cohere 大语言模型实施 Oracle Cloud Infrastructure Generative AI
Oracle Cloud Infrastructure Generative AI ( OCI Generative AI ) 是一项完全托管的服务，它提供了一系列先进、可定制的大型语言模型 (LLM)，涵盖了广泛的文本生成用例。您可以使用游乐场 - 控制台中的界面来浏览托管的预训练和定制模型，而无需编写一行代码，也可以在专用 AI 集群上基于您自己的数据创建和托管您自己的微调定制模型。
- 生成：提供用于生成文本或从您的文本提取信息的说明。
- 汇总：使用指示的格式、长度和语气汇总文本。
- 嵌入：将文本转换为向量嵌入，以在应用程序中用于语义搜索、文本分类或文本集群处理。
体系结构
您可以使用 OCI 生成式 AI 游乐场尝试预训练模型、运行提示、调整参数、更新提示并重新运行模型，直到对结果满意为止。在此之后，您可以将代码从控制台复制到应用程序中。
您还可以创建预训练模型的副本，添加自己的训练数据集，并让 OCI Generative AI 服务微调模型。OCI 生成式 AI 使用功能强大的专用 AI 集群，专门用于微调。这些集群仅属于您的租户。在对模型进行微调后，我们为定制模型创建一个端点，并在专为托管而设计的专用 AI 集群上创建该模型的主机。
在 OCI 上构建 LLM 的优势
生成式 AI 服务：Oracle 与 Cohere 合作提供原生生成式 AI 服务，Cohere 是一个领先的企业 AI 平台，具备高级语言理解能力，可用于构建新一代企业应用。OCI 生成式 AI 是一项完全托管的服务，可通过 API 将这些通用语言模型无缝集成到各种用例中，包括写作帮助、汇总和聊天。
专用 AI 集群：专用 AI 集群是可用于微调定制模型或托管定制模型端点的计算资源。这些集群专用于您的模型，不与其他租户中的用户共享。通过自定义模型 OCI 生成式 AI ，您可以使用自己的数据细化模型。
自定义模型：通过 OCI 生成式 AI ，您可以使用自己的数据细化模型。
注意：
Oracle Database 23ai 中提供了新的 AI 向量相似性搜索功能。- OCI Object Storage ，用于数据存储。
- 用于构建模型的 Oracle Cloud Infrastructure Data Science 工作区。
- OCI 生成式 AI 和适用于计算的 GPU。
- 适用于 UI 的 Oracle APEX Application Development 工具。
下图说明了此参考体系结构。
oci-generative-ai-llm-arch-oracle.zip
该体系结构具有以下组成部分：
- 区域
Oracle Cloud Infrastructure 区域是一个本地化的地理区域，其中包含一个或多个称为可用性域的数据中心。区域独立于其他区域，远距离可以区分它们（跨国家甚至大陆）。
- 虚拟云网络 (VCN) 和子网
VCN 是您在 Oracle Cloud Infrastructure 区域中设置的可定制软件定义网络。与传统数据中心网络一样，VCN 可以让您控制您的网络环境。一个 VCN 可以具有多个不重叠的 CIDR 块，您可以在创建 VCN 后更改这些块。您可以将 VCN 细分为多个子网，这些子网可以限定在某个区域或可用性域中。每个子网包含一系列不与 VCN 中的其他子网重叠的地址。您可以在创建后更改子网的大小。子网可以是公共子网，也可以是专用子网。
- 对象存储
通过对象存储，可以快速访问任意内容类型的大量结构化和非结构化数据，包括数据库备份、分析数据以及图像和视频等丰富内容。您可以安全、安全地存储数据，然后直接从互联网或云平台检索数据。您可以扩展存储，而不会出现性能或服务可靠性下降的情况。将标准存储用于“热”存储，以便您快速、立即和频繁地访问。将归档存储用于长时间保留的“冷”存储，很少或很少访问。
- 数据科学
Oracle Cloud Infrastructure Data Science 是一个完全托管的无服务器平台，数据科学团队可以使用该平台在 Oracle Cloud Infrastructure (OCI) 上构建、训练和管理机器学习 (ML) 模型。它可以轻松地与其他 OCI 服务集成，例如 Oracle Autonomous Data Warehouse 、Oracle Cloud Infrastructure Object Storage 等。您可以构建和评估高质量的机器学习模型，通过快速投入企业可信的数据来提高业务灵活性，并通过更轻松地部署机器学习模型来支持数据驱动的业务目标。
- Oracle Database 23ai（AI 向量搜索）
Oracle Database 23ai 可为希望构建新的微服务、图形、文档和关系型应用的开发人员提供全面、简单的融合数据库。
Oracle 使用 AI 向量向 Oracle Database 23ai 添加了语义搜索功能。称为 AI 向量搜索的功能集合包括新的向量数据类型、向量索引和向量搜索 SQL 运算符，这些运算符使 Oracle Database 能够将文档、图像和其他非结构化数据的语义内容存储为向量，并使用它们运行快速相似性查询。有关详细信息，请参阅了解更多信息部分中的博客链接。