根據 Cohere 大型語言模型導入 Oracle Cloud Infrastructure Generative AI
Oracle Cloud Infrastructure Generative AI ( OCI Generative AI) 是一項完全託管的服務，提供一組最先進、可自訂的大型語言模型 (LLM)，涵蓋廣泛的文字產生使用案例。您可以使用操場 - 主控台中的介面來探索託管的預先訓練和自訂模型，而無需撰寫單行程式碼，或根據您在專屬 AI 叢集上的資料建立和託管自己的微調自訂模型。
- 層代：提供產生文字或從文字擷取資訊的指示。
- 摘要：使用您指示的格式、長度和色調摘要列出文字。
- 內嵌：將文字轉換為向量內嵌項目，以在應用程式中用於語意搜尋、文字分類或文字分群。
架構
您可以使用 OCI Generative AI 操場來嘗試預先訓練的模型、執行提示、調整參數、更新提示及重新執行模型，直到您滿意結果為止。在此之後，您可以從主控台將程式碼複製到您的應用程式。
您也可以建立預先訓練模型的複本、新增自己的訓練資料集，然後讓 OCI Generative AI 服務微調模型。OCI Generative AI 使用專門用於微調的強大專屬 AI 叢集。這些叢集僅屬於您的租用戶。在微調模型之後，我們會在專為代管而設計的專用 AI 叢集上，為自訂模型和主機建立模型的端點。
在 OCI 上建置 LLM 的優點
生成式 AI 服務：Oracle 與 Cohere 合作提供原生生成式 AI 服務，這是一流的企業 AI 平台，配備先進的語言理解來打造下一代企業應用程式。OCI Generative AI 是透過 API 提供的完全託管服務，可將這些多功能語言模型無縫整合至各種使用案例，包括撰寫協助、摘要及交談。
專用的 AI 叢集：專用的 AI 叢集是運算資源，可用來微調自訂模型或代管自訂模型的端點。叢集專供您的模型使用，不會與其他租用戶共用。自訂模型 OCI Generative AI 可讓您使用自己的資料調整模型。
自訂模型： OCI Generative AI 可讓您使用自己的資料來調整模型。
附註：
Oracle Database 23ai 提供新的 AI 向量相似性搜尋功能。- OCI Object Storage 用於資料儲存。
- 用於建立模型的 Oracle Cloud Infrastructure Data Science 工作區。
- OCI Generative AI 搭配用於運算的 GPU。
- 適用於 UI 的 Oracle APEX Application Development 工具。
下圖說明此參照架構。
oci-generative-ai-llm-arch-oracle.zip - oci-generative-ai-llm-arch
此架構具有下列元件：
- 地區
Oracle Cloud Infrastructure 區域是包含一或多個資料中心 (稱為可用性網域) 的本地化地理區域。區域與其他區域無關，且遠距離可加以區分 (跨國家，甚至是大陸)。
- 虛擬雲端網路 (VCN) 和子網路
VCN 是您在 Oracle Cloud Infrastructure 區域中設定的可自訂軟體定義網路。就像傳統的資料中心網路一樣，VCN 也可讓您控制網路環境。VCN 可以有多個非重疊的 CIDR 區塊，您可以在建立 VCN 之後加以變更。您可以將 VCN 分割成子網路，子網路可以限定為區域或可用性網域。每個子網路都是由不與 VCN 中其他子網路重疊的連續位址範圍所組成。您可以在建立子網路後變更其大小。子網路可以是公用或專用。
- 物件儲存
物件儲存可讓您快速存取各種內容類型的大量結構化和非結構化資料，包括資料庫備份、分析資料，以及豐富的內容 (例如影像和影片)。您可以安全地儲存資料，然後直接從網際網路或雲端平台內擷取資料。您可以擴展儲存體，而不會發生任何效能或服務可靠性的降低。針對快速、立即且經常存取的「熱」儲存體，使用標準儲存體。將封存儲存用於保留很長一段時間、極少或極少存取的「冷」儲存。
- 資料科學
Oracle Cloud Infrastructure Data Science 是一個完全受管理的無伺服器平台，資料科學團隊可以用來在 Oracle Cloud Infrastructure (OCI) 上建置、訓練及管理機器學習 (ML) 模型。它可以輕鬆與其他 OCI 服務整合，例如 Oracle Autonomous Data Warehouse 、Oracle Cloud Infrastructure Object Storage 等。您可以建立和評估高品質的機器學習模型，透過讓企業信任的資料快速運作，提高業務彈性，並且可以更輕鬆地部署 ML 模型來支援資料導向的業務目標。
- Oracle Database 23ai (AI 向量搜尋)
Oracle Database 23ai 為尋求建構新微服務、圖形、文件和關聯式應用程式的開發人員提供最完整且簡單的融合式資料庫。
Oracle 已使用 AI 向量將語意搜尋功能新增至 Oracle Database 23ai。稱為「AI 向量搜尋」的功能集合包括新的向量資料類型、向量索引和向量搜尋 SQL 運算子，可讓 Oracle Database 將文件、影像和其他非結構化資料的語意內容儲存為向量，並使用這些運算子以快速執行相似性查詢。如需詳細資訊，請參閱瀏覽更多段落中的部落格連結。