Oracle Compute Cloud@Customer

“A maioria dos dados ainda está on-premises e muitos deles residem no Oracle Database. Muitos desses clientes querem obter os benefícios da IA, mas alguns não querem enviar seus dados para um serviço de nuvem de IA. O Compute Cloud@Customer com GPUs NVIDIA oferece uma solução atraente. Ele possibilita que os clientes aproveitem uma plataforma de IA de alto desempenho para executar inferência de IA generativa ou ajuste fino de LLM/SLM on-premises, onde seus dados estão, sem nunca sair de seus data centers, para máximo controle de segurança. Além disso, quando combinado com o Exadata Cloud@Customer, a plataforma desenvolvida em conjunto com o Oracle Database para processamento vetorial extremo, os clientes podem executar seus modelos de IA generativa no Compute Cloud@Customer e usar técnicas de RAG em seus dados internos para obter respostas mais relevantes às suas solicitações. Essa combinação oferece uma proposta de valor poderosa para fluxos de trabalho de IA on-premises.”

“A expansão da linha de computação em nuvem distribuída da Oracle, adicionando uma opção de menor custo para racks NVIDIA, é um grande passo para abrir caminho para que cargas de trabalho de IA generativa cheguem às instalações on-premises. Até agora, além das opções de implementação de região dedicada e Alloy da Oracle, praticamente a única alternativa para executar cargas de trabalho com modelos de linguagem exigia ir para um hiperescalador de nuvem pública. Mas, por muitas razões, que podem variar de políticas internas a requisitos de residência de dados, uma proporção significativa da empresa provavelmente permanecerá on-premises no futuro próximo. O Oracle Compute Cloud@Customer e o novo Private Cloud Appliance com GPUs NVIDIA levarão cargas de trabalho de IA de última geração para o data center. Embora os processadores NVIDIA L40S sejam menores em tamanho em comparação às instâncias executadas em OCI NVIDIA Superclusters, eles podem ter o tamanho certo para os tipos de cargas de trabalho empresariais específicas de domínio que serão executadas nos modelos mais compactos, que esperamos que se tornem comuns no futuro.”

“Logo após o lançamento da inovadora plataforma Exadata X11M para cargas de trabalho do Oracle Database 23ai, a Oracle agora revela o Compute Cloud@Customer com GPUs NVIDIA para a camada de aplicações, para ajudar as organizações a prosperar com cargas de trabalho exigentes em IA, HPC, gráficos 3D e streaming 4K. Outro ótimo caso de uso para organizações é a detecção de fraudes, em que a combinação das plataformas da Oracle e das GPUs da NVIDIA trabalham juntas para encontrar anomalias e identificar fraudes em tempo real, ao mesmo tempo em que ajudam as organizações a cumprir os requisitos de residência de dados.”

“Como parte da estratégia de nuvem distribuída da Oracle, o Compute Cloud@Customer com GPUs NVIDIA oferece OCI Compute on-premises e elimina as suposições na construção de uma plataforma de IA. Diferentemente de ofertas concorrentes disfarçadas de meras caixas com contratos de financiamento e sem nenhum suporte de nuvem, o Compute Cloud@Customer usa as mesmas APIs, o mesmo software e o mesmo plano de controle da OCI para uma experiência de nuvem autêntica. Essa é uma solução oportuna da Oracle que permite aos clientes começarem pequenos e e usar IA sem ter que se comprometer com um grande investimento inicial. Além disso, é um complemento perfeito para implementações do Exadata Cloud@Customer para o Oracle Database 23ai.”

“Para organizações de manufatura que buscam implementar réplicas digitais de suas linhas de produção, o Oracle Compute Cloud@Customer com GPUs NVIDIA é a solução on-premises perfeita. As organizações podem reduzir custos e tempo de colocação de produtos no mercado, melhorar o controle de qualidade e aprimorar a eficiência energética e a sustentabilidade — tudo isso sem impactar as operações de fabricação atuais. E com um modelo de pagamento conforme o uso que traz os benefícios da nuvem distribuída da OCI para ambientes on-premises, o Oracle Compute Cloud@Customer atende às necessidades de empresas que precisam armazenar e gerenciar seus dados em locais específicos, e as prepara para um início rápido em cargas de trabalho orientadas por IA.”

“O Compute Cloud@Customer da Oracle com expansão de GPU NVIDIA oferece uma solução atraente para organizações que precisam de recursos de IA poderosos e escaláveis ​​on-premises. A capacidade de executar cargas de trabalho exigentes, como IA generativa e LLMs, ao mesmo tempo em que aborda questões de soberania de dados, faz com que isso seja um divisor de águas para setores como serviços financeiros, saúde e telecomunicações. Além disso, é a combinação ideal com o Exadata Cloud@Customer, abordando a camada de aplicação de IA enquanto o Exadata gerencia a camada de dados de IA com o Oracle Database 23ai AI Vector Search.”

“A Oracle continua a cumprir seu mantra ‘traga IA para seus dados’, começando com o Oracle Database 23ai AI Vector Search, seguido pelo Oracle Exadata X11M, a plataforma de banco de dados em todas as suas variantes, com desempenho impressionante em todas as funções de IA. Após concluir o lado dos dados da equação, a Oracle agora anuncia um mecanismo de computação com preço econômico para executar modelos de IA on-premises: Compute Cloud@Customer com GPUs NVIDIA L40S, uma solução modular de alto desempenho com um modelo de consumo em nuvem. Essa tríade fornece uma arquitetura unificada que oferece suporte a fluxos de trabalho de ponta a ponta para muitos dos casos de uso de IA mais populares, incluindo inferência de IA generativa, ajuste fino de modelos de IA, RAG e outros. Os CIOs, incluindo aqueles que administram ambientes Oracle, com requisitos de residência de dados ou que estão dando os primeiros passos na IA, devem considerar seriamente adicionar o Compute Cloud@Customer ao seu portfólio.”

“Na corrida para adotar a inteligência artificial para obter vantagem competitiva, as empresas devem equilibrar inovação com segurança e conformidade. No entanto, muitas enfrentam desafios relacionados à soberania de dados e aos requisitos de residência, levantando preocupações sobre onde e como seus dados são processados. O Compute Cloud@Customer da Oracle resolve esses problemas oferecendo uma solução de nuvem on-premises que garante que os dados permaneçam seguros no data center do cliente. Ele pode até funcionar de modo desconectado para proporcionar maior controle de soberania. Equipado com GPUs NVIDIA L40S, ele oferece o desempenho necessário para IA, gráficos e processamento de vídeo em todos os setores. Com sua segurança, modularidade e preços baseados no consumo, a plataforma fornece uma base convincente para a adoção de IA empresarial.”

“A busca vetorial de IA e a geração aumentada de recuperação (RAG) são duas técnicas que as organizações empregam para extrair valor de forma mais eficiente dos dados corporativos que residem nos bancos de dados de uma empresa. No entanto, operacionalizar a pesquisa vetorial e a RAG — e o ajuste contínuo — para obter o melhor desempenho e eficiência é uma ciência demorada e inexata para muitas organizações de TI. A combinação do Oracle Database 23ai no Exadata X11M com o Compute Cloud@Customer com GPUs NVIDIA L40S atinge o equilíbrio ideal entre desempenho e eficiência, tornando a obtenção de valor da IA ​​mais precisa e sem atrito. Além disso, o consumo por meio do Oracle Compute Cloud@Customer oferece esse recurso de uma maneira mais econômica.”

“Começar a usar IA pode ser um grande desafio para as organizações. O Oracle Compute Cloud@Customer com GPUs NVIDIA L40S elimina três problemas principais para o cliente. Primeiro, ele remove a barreira de entrada com uma arquitetura modular que começa pequena e pode crescer conforme necessário, e ainda oferece o desempenho exigido para executar modelos de IA substanciais. Em segundo lugar, segue um modelo de assinatura em nuvem, então os clientes são cobrados apenas pelo que usam. Por fim, os riscos de segurança e conformidade são bastante reduzidos, porque o Compute Cloud@Customer é implementado e executado on-premises, de modo que os dados nunca precisam sair do data center do cliente.”

“O Oracle Compute Cloud@Customer traz o poder da IA ​​escalável e da economia de nuvem baseada no consumo para organizações que não podem mover seus dados para a nuvem. Sua arquitetura integrada com computação escalável, armazenamento e até 48 GPUs NVIDIA L40S facilita para os usuários executar LLMs para inferência e outros casos de uso de IA em qualquer lugar.”