Oracle Compute Cloud@Customer

"La mayoría de los datos siguen siendo locales y gran parte de ellos reside en Oracle Database. Muchos de estos clientes quieren obtener los beneficios de la IA, pero en algunos casos, prefieren no enviar sus datos a un servicio de IA en la nube. Compute Cloud@Customer con GPU NVIDIA proporciona una solución atractiva. Permite a los clientes aprovechar una plataforma de IA de alto rendimiento para aplicar la inferencia de la IA generativa o ajustes finos de LLM/SLM en entornos locales, donde están sus datos, sin salir en ningún caso de sus centros de datos, para obtener el máximo control de seguridad. Además, cuando se combina con Exadata Cloud@Customer, la plataforma diseñada conjuntamente con Oracle Database para un procesamiento vectorial extremo, los clientes pueden ejecutar sus modelos GenAI en Compute Cloud@Customer y utilizar técnicas de RAG en sus datos internos para obtener respuestas más relevantes a sus peticiones de datos. Esta combinación ofrece un potente respaldo de valor para los flujos de trabajo de IA locales".

"La extensión de Oracle de su línea de computación en la nube distribuida que agrega una opción más pequeña y de menor costo para los racks NVIDIA es un gran paso de cara a allanar el camino para que las cargas de trabajo de IA generativa se apliquen en entornos locales. Hasta ahora, aparte de las opciones de implementación de Dedicated Region y Alloy de Oracle, prácticamente la única alternativa para ejecutar cargas de trabajo con modelos de lenguaje requería recurrir a un hyperscaler de nube pública. Pero por muchas razones, entre las que se podrían incluir desde políticas internas hasta requisitos de residencia de datos, es probable que en el futuro cercano una parte significativa de la empresa siga operando en un entorno local. Oracle Compute Cloud@Customer y el nuevo Private Cloud Appliance con GPU NVIDIA traerán cargas de trabajo de IA generativa al centro de datos. Si bien los procesadores NVIDIA L40S son de menor tamaño que las instancias que se ejecutan en OCI NVIDIA Superclusters, pueden presentar el tamaño perfecto para tipos de cargas de trabajo empresariales específicas del dominio que se ejecutarán en modelos más compactos. De hecho, esperamos que se convierta en práctica común den el futuro".

"Justo tras el lanzamiento de la innovadora plataforma Exadata X11M para cargas de trabajo de Oracle Database 23ai, Oracle presenta ahora Compute Cloud@Customer con GPU NVIDIA para la capa de aplicación, lo cual ayudará a las organizaciones a prosperar con cargas de trabajo exigentes en IA, HPC, gráficos 3D y streaming 4K. Otro excelente caso de uso para las organizaciones es la detección de fraudes, donde las plataformas de Oracle y las GPU de NVIDIA trabajan en coordinación para encontrar anomalías e identificar prácticas ilícitas en tiempo real, al tiempo que ayudan a las entidades a cumplir los requisitos en materia de residencia de datos".

"Como parte de la estrategia de nube distribuida de Oracle, Compute Cloud@Customer con GPU NVIDIA ofrece OCI Compute en entornos locales y elimina todas las conjeturas e incertidumbres que provoca la creación de una plataforma de IA. A diferencia de las ofertas competitivas disfrazadas de simples cajas con contratos de financiación y sin ninguna nube que las respalde en absoluto, Compute Cloud@Customer utiliza las mismas API, el mismo software y el mismo panel de control que Oracle Cloud Infrastructure para ofrecer una auténtica experiencia de nube. Esta es una excelente solución de Oracle que permite a los clientes empezar a pequeña escala y entrar en la IA sin tener que comprometerse realizando una enorme inversión inicial. Además, es un complemento perfecto para las implementaciones de Exadata Cloud@Customer para Oracle Database 23ai".

"Para las organizaciones industriales que tratan de implementar réplicas digitales de sus líneas de producción, Oracle Compute Cloud@Customer con GPU NVIDIA es la solución local perfecta. Las organizaciones pueden reducir los costos y el tiempo de comercialización, reforzar el control de calidad y mejorar la eficiencia energética y la sostenibilidad: todo ello sin perjudicar a las operaciones de fabricación en curso. Y con un modelo de pago por consumo que brinda las ventajas de la nube distribuida de Oracle Cloud Infrastructure a entornos locales, Oracle Compute Cloud@Customer aborda las necesidades de las organizaciones que están obligadas a almacenar y gestionar sus datos en ubicaciones específicas, y las prepara para que puedan empezar rápidamente a utilizar cargas de trabajo basadas en IA".

"La expansión de Compute Cloud@Customer de Oracle con GPU NVIDIA ofrece una solución atractiva para las organizaciones que necesitan capacidades de IA potentes y escalables en entornos locales. La capacidad de ejecutar cargas de trabajo exigentes como la IA generativa y los LLM, al tiempo que aborda las preocupaciones de soberanía de datos, lo convierte en un cambio radical para industrias como servicios financieros, salud y telecomunicaciones. Además, es la combinación ideal con Exadata Cloud@Customer, ya que aborda la capa de aplicación de IA, mientras que Exadata gestiona la capa de datos de IA con Oracle Database 23ai AI Vector Search".

"Oracle sigue cumpliendo su lema de "llevar la IA a tus datos" empezando por Oracle Database 23ai AI Vector Search, y seguida de Oracle Exadata X11M, la plataforma de bases de datos en todas sus variantes, con un rendimiento impresionante en todas las funciones de IA. Tras completar la parte de los datos de la ecuación, Oracle anuncia ahora un motor de recursos informáticos a un precio económico para ejecutar modelos de IA en entornos locales (Compute Cloud@Customer con GPU NVIDIA L40S), una solución modular de alto rendimiento con un modelo de consumo en la nube. Esta apuesta triple proporciona una arquitectura unificada que admite flujos de trabajo integrales para muchos de los casos de uso de IA más populares, incluida la inferencia de IA generativa, los modelos de IA de ajuste, la RAG y otros. Los directores de sistemas de información, incluidos los que ejecutan entornos de Oracle, los que tienen requisitos de residencia de datos o los que dan sus primeros pasos en la IA, deben analizar seriamente la adición de Compute Cloud@Customer a su cartera".

"En la carrera por adoptar la inteligencia artificial para obtener una ventaja competitiva, las empresas deben equilibrar la innovación con la seguridad y el cumplimiento. Sin embargo, muchos se enfrentan a desafíos relacionados con los requisitos de soberanía y residencia de datos, lo que plantea preocupaciones sobre dónde y cómo se procesan sus datos. Compute Cloud@Customer de Oracle aborda estos problemas al ofrecer una solución en la nube local que garantiza que los datos permanezcan de forma segura en el centro de datos de un cliente. Incluso puede funcionar en un modo sin conexión para incrementar el control sobre la soberanía. Equipado con GPU NVIDIA L40S, ofrece el rendimiento necesario para la IA, los gráficos y el procesamiento de video en todos los sectores. Con su seguridad, modularidad y precios basados en el consumo, la plataforma proporciona una base atractiva para la adopción de la IA empresarial".

"AI Vector Search y la generación aumentada de recuperación (RAG) son dos técnicas que las empresas utilizan para extraer valor de manera más eficiente de los datos empresariales que residen en bases de datos alrededor de una organización. Sin embargo, la puesta en funcionamiento de AI Vector Search y RAG, y el ajuste continuo, para obtener el mejor rendimiento y eficiencia absolutos, es una ciencia inexacta y que requiere mucho tiempo para muchas organizaciones de TI. La combinación de Oracle Database 23ai en Exadata X11M con Compute Cloud@Customer con GPU NVIDIA L40S logra ese equilibrio óptimo de rendimiento y eficiencia, lo que hace que el valor derivado de la IA sea preciso y presente menos fricciones. Además, consumir esto a través de Oracle Compute Cloud@Customer ofrece esta capacidad de una manera más rentable".

"Empezar con la IA puede ser un gran desafío para las organizaciones. Oracle Compute Cloud@Customer con GPU NVIDIA L40S elimina tres problemas clave para el cliente. En primer lugar, elimina la barrera de entrada con una arquitectura modular que comienza pequeña y puede crecer según sea necesario, y aun así ofrece el rendimiento necesario para ejecutar modelos de IA sustanciales. En segundo lugar, sigue un modelo de suscripción a la nube, por lo que a los clientes se les cobra solo por lo que consumen. En tercer lugar, los riesgos de seguridad y cumplimiento se reducen en gran medida, porque Compute Cloud@Customer se implementa y ejecuta en entornos locales, de modo que los datos nunca necesitan salir del centro de datos del cliente".

"Oracle Compute Cloud@Customer aporta el poder de la IA escalable y la economía de la nube basada en el consumo a las organizaciones que no pueden mover sus datos a la nube. Su arquitectura integrada con computación, almacenamiento y hasta 48 GPU NVIDIA L40S escalables facilita a los usuarios la ejecución de LLM para inferir y otros casos de uso de IA en cualquier lugar".