O que É IA Soberana?

A IA soberana parece moderna e descolada, como uma equipe de espionagem internacional do James Bond protegendo um data center subterrâneo supersecreto. No entanto, ao contrário de um filme de Bond, a IA soberana é real e prática, e afeta mais do que a segurança nacional. Políticas sólidas de governança de IA soberana e diligência técnica podem ajudar a proteger ativos corporativos, proteger a privacidade do cliente e fortalecer a infraestrutura de computação cívica contra atores maliciosos.

Na maioria das vezes, a IA soberana depende de práticas sólidas de segurança de TI, influenciadas pelas leis nacionais ou pelos padrões do setor. Sua organização pode sentir que é necessário adotar a IA soberana agora ou em um futuro próximo – e, mesmo que não, pode considerar adotar essas práticas e políticas de qualquer maneira.

O que É IA Soberana?

Simplificando, a IA soberana visa garantir a produção doméstica de IA, incluindo dados usados para treinar a IA, explorados pela IA ao pesquisar uma consulta e gerados como saída pela IA em resposta a uma consulta.

Neste contexto, a IA soberana pode incluir qualquer ou todos os tipos de tecnologias rotuladas como "inteligência artificial", incluindo machine learning para entender tendências de dados e detectar anomalias; usos de redes neurais convolucionais para reconhecimento de padrões ou identificação de objetos; e imagens, sons ou texto criados pela IA generativa. A IA soberana também pode envolver regras que regem o uso de tecnologias de IA, como regras sobre privacidade.

Você poderia considerar que a IA soberana está relacionada à soberania de dados, mas não é a mesma coisa. É aí que uma empresa ou organização deve considerar as regras nacionais sobre onde seus dados podem ser armazenados e processados, mesmo como são transmitidos entre as redes. Um exemplo de uma regra de soberania seria o GDPR da União Europeia. As organizações podem seguir práticas agora que podem facilitar a conformidade à medida que as regras evoluem. Por exemplo, a maioria das organizações tem políticas de governança de dados em vigor. A extensão dessas políticas à IA no início dos testes pode evitar problemas e orientar os usos permitidos. Os sistemas de IA também podem exigir regras exclusivas que considerem como e onde os modelos de IA foram treinados, bem como como como e onde acessarão os dados de uma organização à medida que trabalham para fornecer os resultados mais úteis.

IA soberana versus IA pública

Os sistemas de IA soberana armazenam e gerenciam modelos e dados de IA, que podem incluir dados operacionais e de treinamento sujeitos a regulamentações e limitações nacionais ou regionais em torno do uso de aplicações de IA apenas por pessoas e sistemas autorizados. Você encontrará soluções soberanas de IA em uso por governos, empreiteiros governamentais e provedores de serviços, organizações que trabalham para governos e qualquer empresa que possa ter dados e aplicações regulamentados.

Você pode considerar a “IA pública” como todo o resto, ou seja, aplicativos e dados que não estão sujeitos a considerações de IA soberana e outras exigências de conformidade. Essa lista inclui uma ampla gama de aplicativos de consumo e redes de negócios. Pense nos LLMs usados para o Google Chat e nas funções de IA do Facebook, bem como em muitos geradores de imagens, agregadores de notícias, sistemas de videoconferência e tradutores de idiomas. No entanto, nem todos os softwares de IA de consumo seriam vistos como "IA pública". Bancos, organizações de saúde, instituições educacionais e outros podem se interessar pela IA soberana.

Principais Conclusões

• A IA soberana está relacionada à soberania de dados, expandida para abranger novas tecnologias e usos para dados, incluindo modelos de IA.
• A categoria inclui o uso de GenAI e machine learning quando esses sistemas são treinados ou têm acesso a fontes de dados sujeitas a restrições jurisdicionais ou outras.
• Com parceiros oferecendo opções para controles de soberania, uma infraestrutura de nuvem distribuída pode ajudar você a abordar considerações de IA soberana, bem como controles de residência, privacidade e acesso de dados.

Explicando a IA soberana

A IA soberana é um termo amplo que se refere ao controle de sistemas de IA que podem ser afetados por limitações jurisdicionais. Um dos principais objetivos da IA soberana é ajudar a evitar que dados confidenciais saiam de uma jurisdição ou sejam acessados por pessoas sem as credenciais adequadas.

Há seis aspectos principais a serem considerados relacionados à IA soberana: entender as regulamentações que se aplicam à sua organização, determinar sua infraestrutura de IA preferida, implementar controles de residência de dados, configurar controles de privacidade de dados, instituir controles legais e proteger sua pilha de IA.

• Compreender os regulamentos. Você entende os requisitos de soberania de dados do seu país ou região? Se assim for, você provavelmente está em minoria. Essas regras são muitas vezes complexas. Com a soberania da IA, você pode precisar primeiro considerar as regras de soberania de dados e, possivelmente, ir além para considerar como os dados são usados para treinar algoritmos e quais respostas os modelos de IA concluídos fornecem.

• Determinando sua infraestrutura de IA preferida. Suas soluções de IA podem ser implementadas on-premises, na nuvem, em um modelo de nuvem híbrida/on-premises ou até mesmo abrangendo várias nuvens. Muitas vezes, é mais fácil criar e gerenciar essa infraestrutura na nuvem, onde seu provedor pode ajudar com perguntas e fornecer um rico conjunto de serviços de IA.

  Se você está olhando para a nuvem, precisa encontrar seu modelo preferido. Você está procurando soluções de software como serviço que possam fornecer software empresarial com a funcionalidade de IA incluída? Para plataforma como serviço que fornece muitas ferramentas de IA que você pode usar para montar seus próprios sistemas de IA? Para infraestrutura como serviço onde você está, essencialmente, alugando servidores e redes e criando tudo você mesmo? Ou para alguma combinação destes? As escolhas que você fizer determinarão o que é necessário para você cumprir as considerações soberanas de IA.

• Implementação de controles de residência de dados. Com as opções de infraestrutura disponíveis, é hora de avaliar o quanto de seus dados, aplicativos e tráfego de rede permanecem dentro das fronteiras nacionais ou da zona preferida. Se o seu provedor puder ajudá-lo a gerenciar problemas de soberania de dados, você terá mais facilidade com a soberania da IA.

  Dependendo do provedor de nuvem, você pode configurar controles refinados para sua infraestrutura de dados, aplicativos, rede e computação e os controles de acesso de usuário necessários. Dependendo do seu setor e dos requisitos específicos, você poderá atender à conformidade usando uma oferta de nuvem pública comercial com regiões em muitos países. Ou você pode precisar de uma nuvem específica do governo que atenda a requisitos adicionais. Por exemplo, na União Europeia, uma nuvem soberana da UE pode ser apropriada para você. Em alguns casos, talvez você queira executar uma nuvem completa dentro do seu data center; a Oracle se refere a isso como uma região dedicada. Você pode até querer implementar regiões de nuvem isoladas, uma infraestrutura que se parece com a nuvem, mas que opera desconectada da internet.

  Todas as opções acima devem estar disponíveis para seu programa de soberania de IA.

• Definindo controles de privacidade de dados. Enquanto a residência de dados considera onde os dados residem, a privacidade de dados se concentra no tipo de dados e em como eles podem ser usados. Os usuários podem ver informações pessoais ou apenas resultados agregados de um relatório de dados? Quais tipos de respostas a IA generativa pode oferecer em resposta a consultas? Pode ser complicado, e seu software pode precisar de um sistema de controle de acesso flexível que possa ajudá-lo a lidar com casos de uso complexos.

  Pode não ser suficiente, por exemplo, controlar o acesso ao seu chatbot de IA generativa. Seu chatbot pode precisar ser projetado para responder a consultas de maneiras personalizadas. A boa notícia é que os principais provedores de software em nuvem, especialmente aqueles que oferecem aplicativos SaaS, geralmente são usados para lidar com esses cenários complexos e muitos estenderam esses controles de privacidade de dados para seus agentes de IA e outras ferramentas de inteligência artificial.

  Além disso, se uma organização quiser usar a IA na nuvem, pode ser necessário ter controles sobre quem pode acessar dados de uma perspectiva operacional/interna. Isso pode ser resolvido, em alguns casos, com criptografia forte usando chaves fornecidas pelo cliente e mantidas por provedores locais. Outros casos exigem operações limpas e pessoal de suporte.

• Instituindo controles legais. Determinar como cumprir os regulamentos pode ser complicado. Mesmo dentro de uma única empresa, pode haver diferentes considerações, dependendo dos dados – informações do funcionário, dados de saúde, finanças, propriedade intelectual. Para as multinacionais, as combinações e permutações são surpreendentes.

  Neste ponto, é hora de consultar o advogado. Os planejadores de TI podem ajudar seus parceiros legais a entender os prós e contras de colocar os sistemas em conformidade, e os advogados podem ajudar a orientar a TI em direção a um sistema que reduza os riscos de conformidade. Os consultores podem ajudar com avaliações e testes.

  Outra área importante ao avaliar provedores de soluções é se eles têm recursos e capacidades jurisdicionais para atender às suas necessidades de conformidade. Por exemplo, se você estiver operando na União Europeia, talvez queira que seu provedor de nuvem de IA tenha opções dentro da UE.

• Protegendo sua pilha de IA. Você pode querer que os sistemas de IA estejam sujeitos ao seu aparato de segurança existente, mas também pode acreditar que a IA requer um pouco mais de esforço e teste. Será raro que você treine seus próprios sistemas de IA, mas se o fizer, talvez você queira realizar testes destinados a proteger seus dados de treinamento proprietários. Mais provavelmente, você fornecerá ao sistema de IA alguns de seus dados, geralmente usando a geração aumentada de recuperação ou RAG. Você pode decidir realizar testes para capturar instâncias em que os usuários possam criar prompts que mostrem informações para as quais não estão autorizados a ver.

  Observe que ignorar a tarefa de estender a função, a localização e outros fatores de cada usuário até o mecanismo de recuperação de dados tem o potencial de levar a vazamentos de dados que podem afetar a conformidade do seu sistema. Além da situação de os usuários ganharem mais acesso do que têm direito, as medidas de segurança da pilha de IA precisam ajudar a resolver interrupções e violações de dados que podem ser causadas por ataques maliciosos ou desastres regionais. Esses riscos, aumentados por possíveis roubos de identidade de conteúdo gerado por IA, exigem estratégias robustas de segurança cibernética para promover a governança responsável de dados, juntamente com uma infraestrutura redundante para ajudar na resiliência dentro da jurisdição.

Por que a IA soberana é importante?

A IA soberana, como a soberania de dados, é importante porque pode levar as organizações a garantir melhor que apenas pessoas e sistemas autorizados tenham acesso a tecnologias transformadoras e plataformas de computação de ponta, infraestrutura de rede, aplicações, propriedade intelectual e dados protegidos.

O cenário soberano de IA em rápida evolução está fazendo com que muitas empresas reexaminem todas as suas propriedades de TI e questionem seus provedores de serviços sobre suas ofertas soberanas relacionadas à IA. As soluções de IA soberana exigem que os controles e as políticas de acesso sejam claramente definidos e seguidos à risca, e não apenas por causa do risco de não conformidade com as leis e normas atuais de soberania de dados. Claro, fatores externos podem estar impulsionando iniciativas soberanas de IA, mas ainda assim são uma boa ideia.

Vantagens da IA soberana

As considerações de IA soberana podem adicionar uma camada adicional de conformidade e governança às operações de TI e negócios. Aqui estão alguns dos benefícios potenciais desse trabalho extra de conformidade:

• Oportunidades de negócios. Cada vez mais, à medida que os governos e outras organizações buscam controlar os dados gerados dentro de suas fronteiras, eles podem exigir que seus parceiros cumpram os conceitos de IA soberana, e os pioneiros podem ter uma vantagem competitiva.
• Segurança aprimorada. A implementação de recursos soberanos de IA pode ajudar as organizações a fazer um trabalho melhor de proteção de aplicações, infraestrutura e dados críticos.
• Maior compreensão regulatória. As regras estão em constante mudança, e trabalhar em direção à IA soberana pode ajudar as equipes a entender os objetivos dos governos e das agências reguladoras.

Desafios da IA soberana

Pode haver um custo associado ao tratamento de considerações de IA soberana. Aqui estão alguns dos desafios em torno da IA soberana:

• Custos legais. As organizações podem precisar pesquisar vários governos e jurisdições e, em seguida, resolver regras complexas e talvez contraditórias para implementar um programa de IA soberana. O advogado provavelmente precisará fazer uma parte significativa desse trabalho.
• Ritmo lento de mudança. Cada projeto de conformidade tem sua própria linha do tempo que depende de lidar com várias entidades, o que pode incluir governos e agências reguladoras. Isso pode significar um progresso lento em algumas áreas, com horários muitas vezes além do seu controle.
• Despesas da equipe. Pode ser necessário contratar pessoal ou consultores para auxiliar tanto no trabalho jurídico quanto na implementação de soluções técnicas. Como essa é uma área emergente, esses funcionários ou consultores podem ser difíceis de encontrar e caros.
• Complexidade técnica. Os desafios da IA soberana podem exigir alterações na infraestrutura de TI e na pilha de aplicações. Talvez seja necessário migrar dados de uma região para outra. E você pode precisar escrever um novo software ou alterar o código para ajudar a lidar com a conformidade.

O futuro da IA soberana

"Mais". Esse é o resumo de uma palavra do futuro da IA soberana. Você também pode esperar que as tecnologias emergentes de inteligência artificial – e novos casos de uso – inspirem regulamentações adicionais. Imagens? Vídeos? As mídias sociais? Em qualquer lugar em que seus dados corporativos afetem a IA e em qualquer lugar em que seus clientes e funcionários possam usar a IA, é provável que você encontre problemas de IA soberana.

Como você pode se preparar melhor para esse ambiente regulatório complexo e em constante mudança? O trabalho inicial de encontrar os parceiros provedores de serviços certos, escolher arquiteturas e modelos de dados com segurança rígida e configurar permissões completas pode ser um esforço extra agora, mas deve render dividendos à medida que você trabalha para atingir seus objetivos soberanos de IA.

Como a OCI pode ajudar você a atingir suas metas de soberania de IA?

Se as iniciativas de IA da sua organização aproveitarem a computação em nuvem - em uma única nuvem, multicloud ou arquitetura híbrida - a Oracle terá as ferramentas e tecnologias necessárias. O ponto central é a Oracle Cloud Infrastructure (OCI), que fornece uma plataforma avançada para criar suas próprias aplicações de IA e adicionar funcionalidade de IA às aplicações que você já usa. A Oracle e a OCI oferecem suporte à IA soberana e à soberania de dados em cinco áreas principais: oferta de IA, residência de dados, privacidade de dados, controles legais e segurança. O conjunto de serviços de IA e aplicativos aprimorados por IA da Oracle integra os recursos inteligentes mais recentes a aplicativos altamente seguros e escaláveis. Os recursos de residência de dados da Oracle ajudam a manter seus dados dentro das fronteiras de seu país, região ou outra jurisdição. Por padrão, todos os seus dados e metadados são restritos a uma única região da Oracle Cloud. Com a Dedicated Cloud, seus dados também ficam fisicamente separados dos dados de outras regiões.

A Oracle ajuda a gerenciar modelos de IA e ajuda a garantir limitações de acesso usando recursos de segurança avançados, mesmo que o modelo base tenha sido desenvolvido internamente ou venha de um provedor de terceiros. E quando se trata de estruturas e controles legais, a Oracle trabalha com mais de 80 agências e certificações de conformidade e recebeu a certificação de Nível de Impacto 6 do Departamento de Defesa dos EUA. Ferramentas adicionais ajudam a gerenciar e auditar seus LLMs e outros ativos de IA durante todo o ciclo de vida da nuvem de IA. Saiba mais lendo Inovação em IA: 5 pilares principais para ativar a IA soberana.

A IA soberana já é uma realidade

Estamos todos acostumados com os requisitos de soberania de dados, por isso não é surpresa que a inteligência artificial possa ver regulamentações semelhantes. A IA soberana pode ser considerada como uma extensão da soberania dos dados para abranger as novas tecnologias que compõem uma pilha de soluções de IA, incluindo dados de treinamento, LLMs e algoritmos de machine learning. Há novos casos de uso, certamente, mas você encontrará problemas semelhantes em relação à segurança, privacidade de dados, residência de dados, controles de acesso e questões legais que muitas organizações enfrentam. Veja a IA soberana como uma oportunidade para implementar as melhores práticas para proteger sua organização e seus clientes, bem como sua nação e sua região, e você descobrirá que, com o parceiro de tecnologia certo, é um desafio que vale a pena enfrentar.

Perguntas frequentes sobre IA soberana

IA soberana é a mesma coisa que soberania de dados?

Em geral, a soberania de dados se concentra nos próprios dados, enquanto a IA soberana se concentra no desenvolvimento e controle de sistemas de IA, incluindo os dados usados por esses sistemas, dentro de uma jurisdição específica.

Quais setores são mais afetados pela IA soberana?

Muitos tipos de empresas ou organizações podem ter, agora ou no futuro, requisitos de IA soberana, mas, em termos gerais, os maiores incluem militares e de defesa, saúde, educação, finanças e bancos, e infraestrutura crítica. O próprio setor de TI também pode ser candidato a considerações de IA soberana.

A IA soberana é cara?

Sempre há custos ao tentar se antecipar à conformidade. No caso da IA soberana, uma das maiores despesas previstas poderia ser aprender e acompanhar os cenários regulatórios das jurisdições nas quais você opera e suas partes interessadas residem. Também pode haver custos para testes de conformidade e certificação. Embora possa haver despesas com tecnologia, considere que elas podem ser minimizadas trabalhando com os parceiros certos e projetando sistemas com antecedência para antecipar futuras regulamentações de IA soberana.