¿Qué es Sovereign AI?

La IA soberana suena moderna y genial, como un equipo internacional de espías de James Bond que protege un centro de datos subterráneo súper secreto. Sin embargo, a diferencia de una película de Bond, la IA soberana es real y práctica, y afecta más que a la seguridad nacional. Las sólidas políticas de gobernanza de IA soberana y la diligencia técnica pueden ayudar a proteger los activos corporativos, salvaguardar la privacidad de los clientes y endurecer la infraestructura informática cívica contra actores maliciosos.

En su mayor parte, la IA soberana depende de prácticas de seguridad de TI sólidas, influenciadas por las leyes nacionales o los estándares de la industria. Tu organización puede sentir que es necesario adoptar la IA soberana ahora o en un futuro cercano, e incluso si no, puede querer considerar adoptar esas prácticas y políticas de todos modos.

¿Qué es Sovereign AI?

En pocas palabras, la IA soberana tiene como objetivo garantizar la producción nacional de IA, incluidos los datos que se utilizan para entrenar la IA, explorados por la IA cuando está investigando una consulta y generados como resultado por la IA en respuesta a una consulta.

En este contexto, la IA soberana puede incluir cualquier o todos los tipos de tecnologías etiquetadas como "inteligencia artificial", incluido el aprendizaje automático para comprender las tendencias de datos y detectar anomalías; los usos de las redes neuronales convolucionales para el reconocimiento de patrones o la identificación de objetos; e imágenes, sonidos o texto creados por la IA generativa. La IA soberana también puede implicar reglas que rigen los usos de las tecnologías de IA, como reglas sobre la privacidad.

Podría considerar que la IA soberana está relacionada con la soberanía de datos, pero no es la misma. Ahí es donde una empresa u organización debe considerar las normas nacionales sobre dónde se pueden almacenar y procesar sus datos, incluso cómo se transitan a través de las redes. Un ejemplo de una norma en materia de soberanía sería el RGPD de la Unión Europea. Las organizaciones pueden seguir prácticas ahora que podrían facilitar el cumplimiento a medida que evolucionan las reglas. Por ejemplo, la mayoría de las organizaciones cuentan con políticas de gobernanza de datos. Extender esas políticas a la IA al principio de los ensayos puede evitar problemas en el futuro y guiar los usos permitidos. Los sistemas de IA también pueden requerir reglas únicas que consideren cómo y dónde se entrenaron los modelos de IA, o cómo y dónde se accederá a los datos de la organización aprovechándolos al máximo para brindar los resultados más útiles.

IA soberana frente a IA pública

Los sistemas de IA soberana almacenan y gestionan modelos y datos de IA, que pueden incluir datos operativos y de entrenamiento sujetos a las regulaciones y limitaciones nacionales o regionales que rodean el uso de aplicaciones de IA solo por personas y sistemas autorizados. Encontrarás soluciones de IA soberana en uso por parte de gobiernos, contratistas gubernamentales y proveedores de servicios, organizaciones que trabajan para gobiernos y cualquier empresa que pueda tener datos y aplicaciones regulados.

Puedes considerar que la "IA pública" es todo lo demás, es decir, aplicaciones y datos que no están sujetos a consideraciones de IA soberana y otros mandatos de cumplimiento. Dicha lista incluye una amplia gama de aplicaciones de consumo y redes de negocio. Piensa en los LLM utilizados para las funciones de IA de Google Chat y Facebook, así como en muchos generadores de imágenes, agregadores de noticias, sistemas de videoconferencia y traductores de idiomas. Sin embargo, no todo el software de IA para consumidores sería visto como "IA pública". Los bancos, las organizaciones de atención médica, las instituciones educativas y otros pueden estar interesados en la IA soberana.

Conclusiones clave

• La IA soberana está relacionada con la soberanía de datos, ampliada para abarcar nuevas tecnologías y usos para los datos, incluidos los modelos de IA.
• La categoría incluye el uso de GenAI y el aprendizaje automático cuando esos sistemas se entrenan o tienen acceso a fuentes de datos que están sujetas a restricciones jurisdiccionales u otras.
• Con los socios que ofrecen opciones para los controles de soberanía, una infraestructura distribuida en la nube puede ayudarte a abordar las consideraciones de IA soberana, así como los controles de residencia de datos, privacidad y acceso.

La IA soberana en detalle

La IA soberana es un término amplio que se refiere al control de los sistemas de IA que pueden verse afectados por limitaciones jurisdiccionales. Un objetivo principal de la IA soberana es a menudo ayudar a evitar que los datos confidenciales salgan de una jurisdicción o que personas sin las credenciales adecuadas accedan a ellos.

Hay seis aspectos principales a considerar relacionados con la IA soberana: comprender las regulaciones que se aplican a tu organización, determinar tu infraestructura de IA preferida, implementar controles de residencia de datos, configurar controles de privacidad de datos, instituir controles legales y proteger tu pila de IA.

• Comprender las regulaciones. ¿Entiende los requisitos de soberanía de datos de su país o región? Si es así, es probable que seas uno de los pocos. Estas reglas a menudo son complejas. Con la soberanía de la IA, es posible que primero tengas que considerar las reglas de soberanía de datos y luego, posiblemente, ir más allá para considerar cómo se usan los datos para entrenar algoritmos y qué respuestas proporcionan los modelos de IA terminados.

• Determinar su infraestructura de IA preferida. Sus soluciones de IA pueden implementarse on-premises, en la nube, en un modelo de nube híbrida/local, o incluso abarcando varias nubes. A menudo, es más fácil crear y gestionar esta infraestructura en la nube, donde su proveedor puede ayudar con las preguntas y proporcionar un amplio conjunto de servicios de IA.

  Si estás mirando la nube, necesitas encontrar tu modelo preferido. ¿Está buscando soluciones de software como servicio que puedan proporcionar software empresarial con funcionalidad de IA incluida? ¿Para una plataforma como servicio que proporciona muchas herramientas de IA que puede utilizar para ensamblar sus propios sistemas de IA? ¿Por infraestructura como servicio donde estás, esencialmente, alquilando servidores y redes y creando todo por ti mismo? ¿O por alguna combinación de estos? Las decisiones que tome determinarán lo que se necesita para cumplir con las consideraciones de IA soberana.

• Implantación de controles de residencia de datos Con las opciones de infraestructura disponibles, es hora de evaluar la cantidad de datos, aplicaciones y tráfico de red que permanecen dentro de las fronteras nacionales o de su zona preferida. Si tu proveedor puede ayudarte a gestionar los problemas de soberanía de datos, te resultará más fácil con la soberanía de IA.

  En función del proveedor de servicios en la nube, puede configurar controles muy detallados para sus datos, aplicaciones, redes e infraestructura informática, así como los controles de acceso de usuario necesarios. En función de su sector y de los requisitos específicos, es posible que pueda abordar la conformidad mediante una oferta de nube pública comercial con regiones de muchos países. O puede que necesite una nube específica del gobierno que aborde los requisitos adicionales. Por ejemplo, en la Unión Europea, una nube soberana de la UE puede ser adecuada para usted. En algunos casos, puede que desee ejecutar una nube completa dentro de su centro de datos; Oracle se refiere a esto como una región dedicada. Puede que incluso desee implantar regiones en la nube aisladas, una infraestructura que se parece a la nube pero que funciona desconectada de Internet.

  Todas las opciones anteriores deben estar sobre la mesa para su programa de soberanía de IA.

• Configuración de controles de privacidad de datos. Aunque la residencia de datos considera dónde viven los datos, la privacidad de los datos se centra en el tipo de datos y cómo se pueden utilizar. ¿Los usuarios pueden ver información personal o solo los resultados agregados de un informe de datos? ¿Qué tipos de respuestas puede ofrecer la IA generativa en respuesta a las consultas? Puede ser complicado, y su software puede necesitar un sistema de control de acceso flexible que pueda ayudarlo a manejar casos de uso complejos.

  Puede que no sea suficiente, por ejemplo, controlar el acceso a tu chatbot de IA generativa. Es posible que su chatbot deba diseñarse para responder a las consultas de forma personalizada. La buena noticia es que los principales proveedores de software en la nube, especialmente aquellos que ofrecen aplicaciones SaaS, a menudo se utilizan para lidiar con estos escenarios complejos y muchos han extendido esos controles de privacidad de datos a sus agentes de IA y otras herramientas de inteligencia artificial.

  Además, si una organización desea utilizar la IA en la nube, puede ser necesario tener controles sobre quién puede acceder a los datos desde una perspectiva operativa/interna. Esto se puede abordar, en algunos casos, con un cifrado sólido utilizando claves proporcionadas por el cliente y mantenidas por proveedores locales. Otros casos requieren operaciones autorizadas y personal de apoyo.

• Establecimiento de controles legales. Determinar cómo cumplir con las regulaciones puede ser complicado. Incluso dentro de una sola empresa, puede haber diferentes consideraciones dependiendo de los datos: información del empleado, datos de salud, finanzas, propiedad intelectual. Para las corporaciones multinacionales, las combinaciones y permutaciones son asombrosas.

  En este punto, es hora de consultar con un abogado. Los planificadores de TI pueden ayudar a sus socios legales a comprender los entresijos de poner los sistemas en conformidad, y los abogados pueden ayudar a dirigir la TI hacia un sistema que reduzca los riesgos de cumplimiento. Los consultores pueden ayudar con las evaluaciones y pruebas.

  Otra área clave a la hora de evaluar proveedores de soluciones es si tienen capacidades y recursos jurisdiccionales para satisfacer sus necesidades de conformidad. Por ejemplo, si opera en la Unión Europea, es posible que desee que su proveedor de IA en la nube tenga opciones dentro de la UE.

• Protege tu pila de IA. Es posible que desee que los sistemas de IA estén sujetos a sus aparatos de seguridad existentes, pero también puede creer que la IA requiere un poco más de esfuerzo y pruebas. Será raro que entrenes tus propios sistemas de IA, pero si lo haces, es posible que desees realizar pruebas destinadas a proteger tus datos de entrenamiento patentados. Es más probable que proporcione al sistema de IA algunos de sus datos, a menudo utilizando la generación aumentada de recuperación o RAG. Puede decidir realizar pruebas para detectar instancias en las que los usuarios puedan crear peticiones de datos que les muestren información para la que no están autorizados.

  Tenga en cuenta que pasar por alto la tarea de ampliar el rol, la ubicación y otros factores de cada usuario al motor de recuperación de datos tiene el potencial de generar fugas de datos que podrían afectar el cumplimiento de su sistema. Además de la situación de los usuarios que obtienen más acceso del que tienen derecho, las medidas de seguridad de pila de IA deben ayudar a abordar las interrupciones y las violaciones de datos que pueden ser causadas por ataques maliciosos o desastres regionales. Estos riesgos, incrementados por el posible robo de identidad del contenido generado por la IA, exigen estrategias sólidas de ciberseguridad para fomentar una gobernanza de datos responsable junto con una infraestructura redundante para ayudar con la resiliencia dentro de la jurisdicción.

¿Por qué es importante la IA soberana?

La IA soberana, al igual que la soberanía de datos, es importante porque puede llevar a las organizaciones a garantizar mejor que solo las personas y los sistemas autorizados tengan acceso a tecnologías transformadoras y plataformas informáticas de vanguardia, infraestructura de redes, aplicaciones, propiedad intelectual y datos protegidos.

El panorama de la IA soberana en rápida evolución está haciendo que muchas empresas vuelvan a examinar todas sus propiedades de TI y cuestionen a sus proveedores de servicios sobre sus ofertas relacionadas con la IA soberana. Las soluciones de IA soberana requieren que los controles y políticas de acceso se establezcan claramente y se sigan de cerca, y no solo por el riesgo de incumplimiento de las leyes y regulaciones actuales de soberanía de datos. Claro, los factores externos pueden estar impulsando iniciativas de IA soberana, pero sin embargo son una buena idea.

Ventajas de la IA soberana

Las consideraciones de IA soberana pueden agregar una capa adicional de cumplimiento y gobernanza a las operaciones empresariales y de TI. Estos son algunos de los beneficios potenciales de ese trabajo de cumplimiento adicional:

• Oportunidades de negocio. Cada vez más, a medida que los gobiernos y otras organizaciones buscan controlar los datos generados dentro de sus fronteras, pueden requerir que sus socios cumplan con los conceptos de IA soberana, y los primeros en moverse podrían tener una ventaja competitiva.
• Seguridad mejorada. La implementación de capacidades de IA soberana puede ayudar a las organizaciones a hacer un mejor trabajo protegiendo aplicaciones, infraestructura y datos críticos.
• Mayor comprensión normativa. Las reglas están cambiando constantemente, y trabajar hacia la IA soberana puede ayudar a los equipos a comprender los objetivos de los gobiernos y las agencias reguladoras.

Desafíos de la IA soberana

Podría haber un costo asociado con abordar las consideraciones de IA soberana. Estos son algunos de los desafíos en torno a la IA soberana:

• Costos legales. Las organizaciones pueden necesitar investigar múltiples gobiernos y jurisdicciones y luego resolver reglas complejas, y tal vez contradictorias, para implementar un programa de IA soberana. El abogado probablemente tendrá que hacer una parte significativa de ese trabajo.
• Lento ritmo de cambio. Cada proyecto de cumplimiento tiene su propia línea de tiempo que depende de tratar con múltiples entidades, que podrían incluir gobiernos y agencias reguladoras. Esto puede significar un progreso lento en algunas áreas, con horarios a menudo fuera de su control.
• Gastos de personal. Es posible que necesite contratar personal o consultores para ayudar tanto con el trabajo legal como con la implementación de soluciones técnicas. Debido a que este es un área emergente, esos empleados o consultores pueden ser difíciles de encontrar y costosos.
• Complejidad técnica. Los desafíos de la IA soberana pueden requerir cambios en su infraestructura de TI y pila de aplicaciones. Puede que sea necesario migrar los datos de una región a otra. Y es posible que tenga que escribir un nuevo software o modificar el código para ayudar a abordar el cumplimiento.

El futuro de la IA soberana

"Más". Ese es el resumen de una sola palabra del futuro de la IA soberana. También puedes esperar que las tecnologías emergentes de inteligencia artificial, y los nuevos casos de uso, inspiren regulaciones adicionales. ¿Imágenes? Videos ¿Redes sociales? En cualquier lugar donde tus datos corporativos entre en contacto con la IA y en cualquier lugar donde tus clientes y empleados puedan utilizarla, es probable que te encuentres con problemas de IA soberana.

¿Cómo puede prepararse mejor para este entorno normativo complejo y en constante cambio? El trabajo inicial de encontrar los socios proveedores de servicios adecuados, elegir arquitecturas y modelos de datos con una seguridad estricta y configurar permisos exhaustivos puede ser un esfuerzo adicional ahora, pero debería pagar dividendos a medida que trabajas para lograr tus objetivos de IA soberana.

¿Cómo puede OCI ayudarte a alcanzar tus objetivos de soberanía de IA?

Si las iniciativas de IA de tu organización aprovechan la computación en la nube, en una única arquitectura en la nube, multinube o híbrida, Oracle tiene las herramientas y tecnologías que necesitas. La pieza central es Oracle Cloud Infrastructure (OCI), que proporciona una potente plataforma para crear sus propias aplicaciones de IA y agregar funcionalidad de IA a las aplicaciones que ya utiliza. Oracle y OCI respaldan la IA soberana y la soberanía de datos en cinco áreas clave: oferta de IA, residencia de datos, privacidad de datos, controles legales y seguridad. El conjunto de servicios de IA y aplicaciones mejoradas mediante IA de Oracle integra las últimas funciones inteligentes con aplicaciones altamente seguras y escalables. Las funciones de residencia de datos de Oracle ayudan a mantener tus datos dentro de las fronteras de tu país, región u otra jurisdicción. Por defecto, todos los datos y metadatos están restringidos a una única región de Oracle Cloud. Con la nube dedicada, los datos también están separados físicamente de los de otras regiones.

Oracle te ayuda a gestionar modelos de IA y te ayuda a garantizar las limitaciones de acceso mediante capacidades de seguridad avanzadas, incluso si el modelo base era de producción propia o provenía de un proveedor externo. Y cuando se trata de marcos y controles legales, Oracle trabaja con más de 80 agencias de cumplimiento y certificaciones, y ha recibido la certificación de nivel 6 de impacto del Departamento de Defensa de EE. UU. Las herramientas adicionales ayudan a gestionar y auditar tus LLM y otros activos de IA durante todo el ciclo de vida de la nube de IA. Obtén más información leyendo Innovación en IA: 5 pilares clave para habilitar la IA soberana.

La IA soberana ya está aquí

Todos estamos acostumbrados a los requisitos de soberanía de datos, por lo que no es de extrañar que la inteligencia artificial pueda ver regulaciones similares. La IA soberana puede considerarse una extensión de la soberanía de datos para cubrir las nuevas tecnologías que conforman una pila de soluciones de IA, incluidos los datos de entrenamiento, los LLM y los algoritmos de aprendizaje automático. Hay nuevos casos de uso, sin duda, pero encontrará problemas similares con respecto a la seguridad, la privacidad de los datos, la residencia de los datos, los controles de acceso y los problemas legales a los que se enfrentan muchas organizaciones. Considera la IA soberana como una oportunidad para implementar las mejores prácticas para proteger a tu organización y a sus clientes, así como a tu país y tu región, y descubrirás que con el socio tecnológico adecuado, es un desafío que vale la pena asumir.

Preguntas frecuentes sobre la IA soberana

¿Es la IA soberana lo mismo que la soberanía de datos?

En general, la soberanía de datos se centra en los datos en sí, mientras que la IA soberana se centra en el desarrollo y el control de los sistemas de IA, incluidos los datos utilizados por esos sistemas, dentro de una jurisdicción específica.

¿Qué industrias se ven más afectadas por la IA soberana?

Muchos tipos de empresas u organizaciones pueden tener ahora o en el futuro requisitos de IA soberana, pero en términos generales los más grandes incluyen infraestructura militar y de defensa, salud, educación, finanzas y banca e infraestructura crítica. La propia industria de TI también podría ser candidata a consideraciones de IA soberana.

¿Es costosa la IA soberana?

Siempre hay costos cuando se trata de adelantarse al cumplimiento. En el caso de la IA soberana, uno de los mayores gastos previstos podría ser el aprendizaje y mantenerse al día con los entornos regulatorios para las jurisdicciones en las que opera y residen sus partes interesadas. También podría haber costos para las pruebas de cumplimiento y la certificación. Si bien puede haber gastos tecnológicos, considere que estos se pueden minimizar trabajando con los socios adecuados y diseñando sistemas por adelantado para anticipar las futuras regulaciones de IA soberana.