Qu'est-ce que l'IA souveraine ?

L'IA souveraine semble moderne et cool, comme une équipe d'espionnage internationale de James Bond qui protège un data center souterrain super secret. Cependant, contrairement à un film de James Bond, l'IA souveraine est réelle et pratique, et elle affecte plus que la sécurité nationale. De solides politiques souveraines de gouvernance de l'IA et une diligence technique peuvent aider à protéger les ressources de l'entreprise, à protéger la vie privée des clients et à renforcer l'infrastructure informatique civique contre les acteurs malveillants.

Pour la plupart, l'IA souveraine dépend de pratiques de sécurité informatique solides, influencées par les lois nationales ou les normes du secteur. Votre entreprise peut avoir besoin d'adopter l'IA souveraine maintenant ou dans un proche avenir, et même si ce n'est pas le cas, elle peut envisager d'adopter ces pratiques et politiques de toute façon.

Qu'est-ce que l'IA souveraine ?

En termes simples, l'IA souveraine vise à assurer la production nationale de l'IA, y compris les données utilisées pour entraîner l'IA, explorées par l'IA lorsqu'elle recherche une requête et générées en tant que sortie par l'IA en réponse à une requête.

Dans ce contexte, l'IA souveraine peut inclure tout ou tous les types de technologies étiquetées comme "intelligence artificielle", y compris le machine learning pour comprendre les tendances des données et repérer les anomalies ; les utilisations des réseaux neuronaux convolutionnels pour la reconnaissance de modèles ou l'identification d'objets, et les images, sons ou textes créés par l'IA générative. L'IA souveraine peut également impliquer des règles régissant l'utilisation des technologies d'IA, telles que des règles relatives à la vie privée.

Vous pouvez considérer l'IA souveraine comme liée à la souveraineté des données, mais pas la même. C'est là qu'une entreprise ou une organisation doit tenir compte des règles nationales sur l'endroit où ses données peuvent être stockées et traitées, même comment elles sont transférées sur les réseaux. Un exemple de règle de souveraineté serait le RGPD de l'Union européenne. Les entreprises peuvent désormais suivre des pratiques qui pourraient faciliter le traitement de la conformité à mesure que les règles évoluent. Par exemple, la plupart des entreprises ont des stratégies de gouvernance des données en place. L'extension de ces politiques à l'IA dès le début des essais peut éviter les problèmes et guider les utilisations autorisées. Les systèmes d'IA peuvent également nécessiter des règles uniques qui tiennent compte de la façon et de l'endroit où les modèles d'IA ont été entraînés, ainsi que de la façon et de l'endroit où ils accéderont aux données d'une entreprise lorsqu'ils travailleront pour fournir les résultats les plus utiles.

IA souveraine et IA publique

Les systèmes d'IA souverains stockent et gèrent des modèles et des données d'IA, qui peuvent inclure des données opérationnelles et d'entraînement soumises aux réglementations nationales ou régionales et aux limites entourant l'utilisation d'applications d'IA par des personnes et des systèmes autorisés uniquement. Vous trouverez des solutions d'IA souveraines utilisées par les gouvernements, les entrepreneurs gouvernementaux et les fournisseurs de services, les organisations qui travaillent pour les gouvernements et toutes les entreprises qui pourraient avoir des données et des applications réglementées.

Vous pouvez considérer "l'IA publique" comme tout le reste, c'est-à-dire les applications et les données qui ne sont pas soumises à des considérations d'IA souveraine et à d'autres mandats de conformité. Cette liste comprend un large éventail d'applications grand public et de réseaux d'entreprise. Pensez aux LLM utilisés pour les fonctions d'IA de Google Chat et de Facebook, ainsi qu'à de nombreux générateurs d'images, agrégateurs d'actualités, systèmes de vidéoconférence et traducteurs linguistiques. Cependant, tous les logiciels d'IA grand public ne seraient pas considérés comme une "IA publique". Les banques, les organisations de soins de santé, les établissements d'enseignement et autres peuvent s'intéresser à l'IA souveraine.

Principaux points à retenir

• L'IA souveraine est liée à la souveraineté des données, étendue pour englober les nouvelles technologies et utilisations des données, y compris les modèles d'IA.
• La catégorie comprend l'utilisation de GenAI et du machine learning lorsque ces systèmes sont formés ou ont accès à des sources de données soumises à des restrictions juridictionnelles ou autres.
• Avec des partenaires offrant des options pour les contrôles de souveraineté, une infrastructure cloud distribuée peut vous aider à résoudre les problèmes liés à l'IA souveraine, ainsi que la résidence des données, la confidentialité et les contrôles d'accès.

Explication de l'IA souveraine

L'IA souveraine est un terme large qui fait référence au contrôle des systèmes d'IA qui peuvent être affectés par des limitations juridictionnelles. L'un des principaux objectifs de l'IA souveraine est souvent d'aider à empêcher les données sensibles de quitter une juridiction ou d'être accessibles par des personnes sans les informations d'identification appropriées.

Il y a six aspects principaux à considérer liés à l'IA souveraine : comprendre les réglementations qui s'appliquent à votre entreprise, déterminer votre infrastructure d'IA préférée, implémenter des contrôles de résidence des données, configurer des contrôles de confidentialité des données, instituer des contrôles juridiques et sécuriser votre pile d'IA.

• Comprendre les règlements. Comprenez-vous les exigences de souveraineté des données de votre pays ou de votre région ? Si c'est le cas, vous êtes probablement minoritaire. Ces règles sont souvent complexes. Avec la souveraineté de l'IA, vous devrez peut-être d'abord considérer les règles de souveraineté des données, puis, éventuellement, aller au-delà pour réfléchir à la façon dont les données sont utilisées pour entraîner des algorithmes et aux réponses fournies par les modèles d'IA finis.

• Détermination de votre infrastructure d'IA préférée Vos solutions d'IA peuvent être implémentées sur site, dans le cloud, dans un modèle cloud/sur site hybride, ou même sur plusieurs clouds. Il est souvent plus facile de créer et de gérer cette infrastructure dans le cloud, où votre fournisseur peut répondre à des questions et fournir un riche ensemble de services d'IA.

  Si vous regardez le cloud, vous devez trouver votre modèle préféré. Vous recherchez des solutions logicielles en tant que service qui peuvent fournir aux logiciels d'entreprise des fonctionnalités d'IA incluses ? Pour la plateforme en tant que service qui fournit de nombreux outils d'IA que vous pouvez utiliser pour assembler vos propres systèmes d'IA ? Pour l'infrastructure en tant que service où vous êtes, essentiellement, louer des serveurs et des réseaux et tout créer vous-même ? Ou pour une combinaison de ceux-ci ? Les choix que vous faites détermineront ce qu'il faut pour vous conformer aux considérations relatives à l'IA souveraine.

• Implémenter des contrôles de résidence des données. Avec les choix d'infrastructure en main, il est temps d'évaluer la quantité de vos données, applications et trafic réseau qui restent à l'intérieur des frontières nationales ou de votre zone préférée. Si votre fournisseur peut vous aider à gérer les problèmes de souveraineté des données, vous passerez plus de temps avec la souveraineté de l'IA.

  Selon le fournisseur de cloud, vous pouvez configurer des contrôles de niveau très fin pour vos données, applications, réseau et infrastructure de calcul, ainsi que les contrôles d'accès utilisateur nécessaires. En fonction de votre secteur d'activité et des exigences spécifiques, vous pouvez être en mesure de gérer la conformité en utilisant une offre de cloud public commercial avec des régions de nombreux pays. Vous pouvez également avoir besoin d'un cloud spécifique au gouvernement qui réponde à des exigences supplémentaires. Par exemple, dans l'Union européenne, un cloud souverain de l'UE peut vous convenir. Dans certains cas, vous pouvez exécuter un cloud complet dans votre centre de données. Oracle fait référence à cette région en tant que région dédiée. Vous pouvez même mettre en œuvre des régions cloud isolées, une infrastructure qui ressemble au cloud mais qui fonctionne déconnectée d'Internet.

  Toutes les options ci-dessus doivent être sur la table pour votre programme de souveraineté de l'IA.

• Configurer des contrôles de confidentialité des données. Alors que la résidence des données tient compte de l'endroit où vivent les données, la confidentialité des données se concentre sur le type de données et la façon dont elles peuvent être utilisées. Les utilisateurs peuvent-ils voir les informations personnelles ou uniquement les résultats agrégés d'un rapport de données ? Quels types de réponses l'IA générative peut-elle offrir en réponse aux requêtes ? Cela peut être compliqué, et votre logiciel peut avoir besoin d'un système de contrôle d'accès flexible qui peut vous aider à gérer des cas d'utilisation complexes.

  Il ne suffit peut-être pas, par exemple, de contrôler l'accès à votre chatbot d'IA générative. Votre chatbot devra peut-être être conçu pour répondre aux requêtes de manière personnalisée. La bonne nouvelle est que les principaux fournisseurs de logiciels cloud, en particulier ceux qui proposent des applications SaaS, sont souvent utilisés pour faire face à ces scénarios complexes et beaucoup ont étendu ces contrôles de confidentialité des données à leurs agents d'IA et à d'autres outils d'intelligence artificielle.

  En outre, si une entreprise souhaite utiliser l'IA dans le cloud, il peut être nécessaire de disposer de contrôles sur les personnes autorisées à accéder aux données d'un point de vue opérationnel/interne. Cela peut être résolu, dans certains cas, avec un chiffrement fort à l'aide de clés fournies par le client et gérées par des fournisseurs locaux. D'autres cas nécessitent des opérations et du personnel de soutien.

• Mettre en place des contrôles juridiques. Déterminer comment se conformer à la réglementation peut être compliqué. Même au sein d'une seule entreprise, il peut y avoir différentes considérations en fonction des données : informations sur les salariés, données de santé, données financières, propriété intellectuelle. Pour les multinationales, les combinaisons et permutations sont stupéfiantes.

  À ce stade, il est temps de consulter un conseiller juridique. Les planificateurs informatiques peuvent aider leurs partenaires juridiques à comprendre les tenants et aboutissants de la mise en conformité des systèmes, et les avocats peuvent les aider à orienter l'informatique vers un système qui réduit les risques de conformité. Les consultants peuvent vous aider dans les évaluations et les tests.

  Un autre domaine clé lors de l'évaluation des fournisseurs de solutions est de savoir s'ils disposent de compétences et de ressources propres à répondre à vos besoins en matière de conformité. Par exemple, si vous opérez dans l'Union européenne, vous voudrez peut-être que votre fournisseur de cloud d'IA dispose d'options au sein de l'UE.

• Sécuriser sa pile d'IA. Vous voudrez peut-être que les systèmes d'IA soient soumis à votre appareil de sécurité existant, mais vous pourriez également croire que l'IA nécessite un peu plus d'efforts et de tests. Il sera rare que vous entraîniez vos propres systèmes d'IA, mais si vous le faites, vous voudrez peut-être effectuer des tests visant à protéger vos données d'entraînement propriétaires. Plus probablement, vous fournirez au système d'IA certaines de vos données, souvent à l'aide de la génération augmentée de récupération ou de la RAG. Vous pouvez décider d'effectuer des tests pour détecter les instances dans lesquelles les utilisateurs peuvent créer des prompts qui affichent des informations qu'ils ne sont pas autorisés à voir.

  Notez que le fait d'ignorer la tâche consistant à étendre le rôle, l'emplacement et d'autres facteurs de chaque utilisateur au moteur d'extraction de données risque d'entraîner des fuites de données qui pourraient avoir un impact sur la conformité de votre système. En plus de la situation dans laquelle les utilisateurs ont plus d'accès qu'ils ne le peuvent, les mesures de sécurité de la pile d'IA doivent aider à résoudre les pannes et les violations de données pouvant être causées par des attaques malveillantes ou des catastrophes régionales. Ces risques, accrus par le vol d'identité potentiel du contenu généré par l'IA, exigent des stratégies de cybersécurité robustes pour favoriser une gouvernance responsable des données ainsi qu'une infrastructure redondante pour aider à la résilience au sein de la juridiction.

Pourquoi l'IA souveraine est-elle importante ?

L'IA souveraine, comme la souveraineté des données, est importante car elle peut conduire les entreprises à mieux s'assurer que seules les personnes et les systèmes autorisés ont accès à des technologies transformatrices et à des plateformes informatiques de pointe, à une infrastructure réseau, à des applications, à la propriété intellectuelle et à des données protégées.

L'évolution rapide du paysage de l'IA souveraine fait que de nombreuses entreprises réexaminent l'ensemble de leurs domaines informatiques et questionnent leurs fournisseurs de services sur leurs offres souveraines liées à l'IA. Les solutions d'IA souveraine exigent que les contrôles d'accès et les politiques soient clairement énoncés et suivis de près, et pas seulement en raison du risque de non-respect des lois et réglementations actuelles en matière de souveraineté des données. Bien sûr, des facteurs externes peuvent être à l'origine d'initiatives d'IA souveraines, mais ils sont néanmoins une bonne idée.

Avantages de l'IA souveraine

Les considérations relatives à l'IA souveraine peuvent ajouter une couche supplémentaire de conformité et de gouvernance aux opérations informatiques et commerciales. Voici quelques-uns des avantages potentiels de ce travail supplémentaire de conformité :

• Opportunités commerciales. De plus en plus, alors que les gouvernements et d'autres organisations cherchent à contrôler les données générées à l'intérieur de leurs frontières, ils peuvent exiger que leurs partenaires se conforment aux concepts souverains d'IA, et les premiers acteurs pourraient avoir un avantage concurrentiel.
• Sécurité renforcée. La mise en œuvre de fonctionnalités d'IA souveraine peut aider les entreprises à mieux protéger les applications, l'infrastructure et les données critiques.
• Meilleure compréhension réglementaire. Les règles changent constamment, et travailler à l'IA souveraine peut aider les équipes à comprendre les objectifs des gouvernements et des agences de réglementation.

Défis de l'IA souveraine

Il pourrait y avoir un coût associé à la prise en compte des considérations liées à l'IA souveraine. Voici quelques-uns des défis liés à l'IA souveraine :

• Frais juridiques. Les organisations peuvent avoir besoin de rechercher plusieurs gouvernements et juridictions, puis de résoudre des règles complexes, voire contradictoires, pour mettre en œuvre un programme d'IA souverain. L'avocat devra probablement faire une partie importante de ce travail.
• Un rythme de changement lent. Chaque projet de conformité a son propre calendrier qui dépend de la gestion de plusieurs entités, ce qui pourrait inclure les gouvernements et les organismes de réglementation. Cela peut signifier des progrès lents dans certains domaines, avec des horaires souvent hors de votre contrôle.
• Frais de personnel. Vous devrez peut-être embaucher du personnel ou des consultants pour vous aider à la fois dans le travail juridique et dans la mise en œuvre de solutions techniques. Comme il s'agit d'un domaine émergent, ces employés ou consultants peuvent être difficiles à trouver et coûteux.
• Complexité technique. Les défis liés à l'IA souveraine peuvent nécessiter des modifications de votre infrastructure informatique et de votre pile d'applications. Les données doivent peut-être être migrées d'une région à une autre. Et vous devrez peut-être écrire un nouveau logiciel ou modifier le code pour aider à gérer la conformité.

L'avenir de l'IA souveraine

"Plus." C'est le résumé en un mot de l'avenir de l'IA souveraine. Vous pouvez également vous attendre à ce que les nouvelles technologies d'intelligence artificielle et les nouveaux cas d'utilisation inspirent des réglementations supplémentaires. Images ? Vidéos ? Réseaux sociaux ? Partout où vos données d'entreprise toucheront l'IA et où vos clients et collaborateurs pourraient utiliser l'IA, vous risquez de rencontrer des problèmes d'IA souveraine.

Comment vous préparer au mieux à cet environnement réglementaire complexe et en constante évolution ? Le travail initial consistant à trouver les bons partenaires fournisseurs de services, à choisir des architectures et des modèles de données avec une sécurité stricte et à configurer des autorisations approfondies peut être un effort supplémentaire maintenant, mais il devrait porter ses fruits lorsque vous travaillez à atteindre vos objectifs souverains en matière d'IA.

Comment OCI peut-il vous aider à atteindre vos objectifs de souveraineté en matière d'IA ?

Si les initiatives d'IA de votre entreprise exploitent le cloud computing dans une architecture cloud, multicloud ou hybride unique, Oracle dispose des outils et des technologies dont vous avez besoin. La pièce maîtresse est Oracle Cloud Infrastructure (OCI), qui fournit une plateforme puissante pour la création de vos propres applications d'IA et l'ajout de fonctionnalités d'IA aux applications que vous utilisez déjà. Oracle et OCI prennent en charge l'IA souveraine et la souveraineté des données dans cinq domaines clés : l'offre d'IA, la résidence des données, la confidentialité des données, les contrôles juridiques et la sécurité. La suite de services d'IA et d'applications améliorées par l'IA d'Oracle intègre les dernières fonctionnalités intelligentes avec des applications hautement sécurisées et hautement évolutives. Les fonctionnalités de résidence des données d'Oracle permettent de conserver vos données aux frontières de votre pays, région ou autre juridiction. Par défaut, toutes vos données et métadonnées sont limitées à une seule région Oracle Cloud. Avec le cloud dédié, vos données sont également physiquement séparées de celles des autres régions.

Oracle vous aide à gérer les modèles d'IA et à garantir les limitations d'accès à l'aide de fonctionnalités de sécurité avancées, même si le modèle de base a été développé en interne ou provient d'un fournisseur tiers. En matière de cadres juridiques et de contrôles, Oracle travaille avec plus de 80 agences et certifications de conformité et a reçu la certification US Defense Department Impact Level 6. Des outils supplémentaires vous aident à gérer et à auditer vos LLM et autres ressources d'IA pendant tout le cycle de vie du cloud d'IA. En savoir plus en lisant Innovation de l'IA : 5 piliers clés pour permettre l'IA souveraine.

L'IA souveraine est là aujourd'hui

Nous sommes tous habitués aux exigences de souveraineté des données, il n'est donc pas surprenant que l'intelligence artificielle puisse voir des réglementations similaires. L'IA souveraine peut être considérée comme une extension de la souveraineté des données pour couvrir les nouvelles technologies qui composent une pile de solutions d'IA, y compris les données d'entraînement, les LLM et les algorithmes de machine learning. Il existe de nouveaux cas d'utilisation, mais vous trouverez des problèmes similaires en matière de sécurité, de confidentialité des données, de résidence des données, de contrôles d'accès et de questions juridiques auxquels de nombreuses entreprises sont confrontées. Considérez l'IA souveraine comme une occasion de mettre en œuvre les meilleures pratiques pour protéger votre entreprise et ses clients, ainsi que votre pays et votre région, et vous constaterez qu'avec le bon partenaire technologique, c'est un défi à relever.

FAQ sur l'IA souveraine

L'IA souveraine est-elle la même que la souveraineté des données ?

En général, la souveraineté des données se concentre sur les données elles-mêmes, tandis que l'IA souveraine se concentre sur le développement et le contrôle des systèmes d'IA, y compris les données utilisées par ces systèmes, dans une juridiction spécifique.

Quelles industries sont les plus touchées par l'IA souveraine ?

De nombreux types d'entreprises ou d'organisations peuvent avoir maintenant ou à l'avenir des exigences souveraines en matière d'IA, mais les plus importantes comprennent généralement l'armée et la défense, les soins de santé, l'éducation, la finance et la banque, et les infrastructures critiques. L'industrie informatique elle-même pourrait également être un candidat pour des considérations d'IA souveraines.

L'IA souveraine est-elle coûteuse ?

Il y a toujours des coûts lorsque vous essayez de devancer la conformité. Dans le cas de l'IA souveraine, l'une des plus grandes dépenses prévues pourrait être d'apprendre et de suivre le paysage réglementaire des juridictions dans lesquelles vous exercez vos activités et de vos parties prenantes. Il pourrait également y avoir des coûts pour les tests de conformité et la certification. Bien qu'il puisse y avoir des dépenses technologiques, considérez que celles-ci peuvent être minimisées en travaillant avec les bons partenaires et en concevant des systèmes à l'avance pour anticiper les futures réglementations souveraines en matière d'IA.