Este tópico fornece respostas às perguntas mais frequentes sobre o modo como a IA generativa é utilizada com o Oracle Analytics.
A IA generativa do Oracle Analytics utiliza mais de um modelo ou um sistema de modelos interdependentes?
O Oracle Analytics não implementa modelos de IA generativa encadeados ou interdependentes. Cada modelo funciona como um componente independente, o que simplifica a avaliação de desempenho, os controlos de acesso e os processos de gestão de risco. A Oracle avalia continuamente os modelos e arquiteturas mais adequados para uma ampla gama de casos de utilização de análise e pode atualizar ou alterar os respetivos modelos e arquitetura preferidos ao longo do tempo.
Que categoria de modelos são utilizados no produto? O modelo é desenvolvido internamente ou por terceiros?
As capacidades de IA generativa do Oracle Analytics tiram partido dos modelos de base de fornecedores de IA estabelecidos que estão configurados para implementações empresariais. Para obter uma lista atual dos nossos modelos de IA generativa, consulte Modelos de IA Generativa Pré-Treinados.
O modelo é monitorizado e testado de forma contínua? Com que frequência?
Os modelos são revalidados a cada nova release, com a correção dos problemas de desempenho identificados. Durante o desenvolvimento, a Oracle utiliza métricas standard de aprendizagem automática, incluindo precisão, recall e pontuações F1 para validar os modelos de IA antes da implementação. O Oracle Analytics utiliza dados sintéticos para a avaliação do modelo, em combinação com um conjunto de dados examinados manualmente. A avaliação do modelo foca-se na precisão e no desvio ao avaliar a capacidade do modelo de gerar respostas que correspondam à verdade fundamental estabelecida. Os resultados são comparados com os benchmarks estabelecidos para identificar não correspondências (expressões que anteriormente tinham êxito e agora falham) e correspondências (expressões que anteriormente falhavam e agora têm êxito). Qualquer não correspondência é classificada como uma regressão e serve como um ponto de controlo para quaisquer alterações de código, revisões de modelo ou alterações de implementação.
A Oracle dispõe de processos para comunicar alterações aos respetivos modelos e saídas de dados?
Como parte do processo de release do Oracle Analytics, notificamos o utilizador sobre as alterações a modelos ou saídas de dados de IA através de Novidades no Oracle Analytics Cloud. Os administradores da tenancy também podem ativar subscrições de utilizadores, garantindo um conhecimento mais alargado na organização. Além disso, qualquer pessoa pode manter-se informada sobre as novas funcionalidades e as futuras releases subscrevendo o Email Semanal do Oracle Analytics através do site da Comunidade do Oracle Analytics.
O Oracle Analytics também utiliza as políticas standard de gestão de alterações do Oracle Cloud documentadas em Políticas de Serviços de Hosting Cloud e de Entrega da Oracle.
A Política de IA da Oracle inclui um processo de revisão para funções legais e de risco?
As equipas de desenvolvimento de produtos na Oracle seguem as orientações e diretivas obrigatórias da Global Product Security que mantêm os Padrões de Codificação Segura (SCS) da Oracle. Uma secção destes padrões é dedicada à IA/ML, que por sua vez tem uma série de diretivas de segurança. Estas diretivas dividem-se nas seguintes categorias:
Como parte dos Padrões de Codificação Segura obrigatórios acima, as equipas de desenvolvimento de produtos Oracle avaliam regularmente os respetivos projetos relativamente a riscos e vulnerabilidades de segurança específicos da IA.
A segurança do modelo, a arquitetura de IA do Oracle Analytics e a integração no Oracle Analytics foram submetidas a uma revisão de segurança do Cloud Security, Standards and Architecture Program (CSSAP). O CSSAP é um processo abrangente de revisão de segurança desenvolvido pela Corporate Security Architecture, Global Information Security, Global Product Security, Oracle Global IT e pelas organizações de TI da Oracle para fornecer uma avaliação completa da gestão da segurança das informações. Para obter informações adicionais, consulte Supervisão da Corporate Security Architecture.
A Oracle recolhe dados do utilizador ou métricas semelhantes para medir as diferenças entre os dados de entrada e saída relativamente aos ambientes de teste?
Atualmente, o Oracle Analytics não captura nem recolhe feedback explícito dos utilizadores para este fim. Uma vez que o modelo não é otimizado ou treinado com dados dos clientes, os testes estão limitados a benchmarks do modelo por omissão, conforme indicado acima. Resumindo: os modelos são revalidados a cada nova release e quaisquer problemas de desempenho identificados são resolvidos em conformidade. Durante o desenvolvimento, a Oracle aplica métricas standard de aprendizagem automática — como precisão, recall e pontuações F1 — para validar os modelos de IA antes da implementação.
A Oracle incorpora entradas de dados externas ou ferramentas de terceiros no respetivo modelo?
O Oracle Analytics não incorpora entradas de dados externas nas respetivas interações com o modelo. As interações do modelo estão estritamente limitadas à comunicação direta entre o Oracle Analytics e o próprio modelo.
O modelo depende de quaisquer ferramentas ou soluções de terceiros que possam dificultar a migração do modelo para um ambiente diferente?
O modelo é implementado como um serviço do Oracle Cloud Infrastructure, com o mesmo modelo de base disponível em várias instâncias do serviço. Não é necessária nenhuma migração do modelo entre as instâncias.
De que forma a Oracle responde a incidentes relacionados com sistemas de IA?
O Oracle Analytics utiliza as políticas standard de Resposta a Incidentes do Oracle Cloud que estão documentadas na secção Acordo de Nível de Serviço de Políticas de Serviços de Hosting Cloud e de Entrega da Oracle.
De que forma a Oracle testa a qualidade das explicações dos sistemas?
O Oracle Analytics sujeita todas as alterações de código, revisões do modelo e alterações de implementação a um ponto de controlo da release que inclui uma avaliação das respostas geradas correspondentes à verdade fundamental estabelecida como parte do nosso benchmark de avaliação. A verdade fundamental no benchmark inclui todas as explicações de sistemas geradas como parte da resposta. Qualquer não correspondência é classificada como uma regressão e serve como um ponto de controlo.
De que forma a Oracle avalia as saídas de dados do sistema quanto à fiabilidade e imparcialidade?
O Oracle Analytics depende da infraestrutura de IA Generativa do OCI para os respetivos modelos de base e não treina explicitamente os modelos. A IA Generativa do OCI utiliza os procedimentos recomendados para garantir a fiabilidade e prevenir parcialidades nos respetivos modelos de base.
Além disso, o Oracle Analytics oferece atualmente um controlo mais geral sobre a contribuição do Grande Modelo de Língua (LLM) para a resposta apresentada aos utilizadores finais. Este mecanismo garante que o LLM não apresenta diretamente informações aos utilizadores finais, garantindo assim que as respostas geradas são totalmente produzidas pelo Oracle Analytics e, por conseguinte, fidedignas. Além disso, o administrador do serviço do Oracle Analytics tem a capacidade de desativar qualquer ou todas as funcionalidades orientadas por IA ao nível de funcionalidades individuais. Para obter mais informações, consulte Acerca da Configuração de IA Generativa.
Existe um plano de contingência e recuperação de situações graves para as instâncias quando o modelo não está disponível?
O Oracle Analytics depende da infraestrutura de IA Generativa do OCI para os respetivos modelos de base. A resiliência e a tolerância a falhas da infraestrutura do OCI estão documentadas em Políticas de Serviços de Hosting Cloud e de Entrega da Oracle. Pode encontrar mais detalhes sobre os clusters Dedicados de IA Generativa do OCI em Criar um Cluster de IA Dedicado em IA Generativa para Alojamento de Modelos e Oracle PaaS and IaaS Public Cloud Services Pillar Document.
De que forma a Oracle testa o modelo no que se refere à consistência em diferentes ambientes?
Todos os modelos de cliente e de desenvolvimento são implementados na mesma estrutura do Oracle Cloud Infrastructure. Os ambientes de testes internos, incluindo os ambientes de testes de pré-produção e de produção, mantêm o mesmo estado de configuração dos ambientes de clientes.
A Oracle dispõe de uma política de governação estabelecida para o modelo?
O Oracle Analytics tira partido dos modelos de base implementados através do Serviço de IA Generativa do Oracle Cloud Infrastructure. Estes modelos são utilizados no respetivo estado nativo sem modificação. O Oracle Analytics não efetua treino, otimização ou customização de modelos nos modelos de base subjacentes. Como tal, as políticas de governação de modelos utilizadas pela infraestrutura de IA Generativa do OCI também são aplicáveis ao Oracle Analytics.
A Oracle estabeleceu políticas e procedimentos que definem perfis de grupo e responsabilidades para a supervisão humana dos modelos implementados?
O Oracle Analytics dispõe de um processo robusto para a avaliação de modelos utilizando dados sintéticos que servem de ponto de controlo para quaisquer alterações de código, revisões de modelo ou alterações de implementação. As execuções de avaliação de modelos são avaliadas por uma combinação de automação e supervisão humana. Além disso, o Oracle Analytics não supervisiona humanamente os modelos implementados.