什么是主权 AI？

主权 AI 听起来既现代又酷，就像詹姆斯·邦德 (James Bond) 的国际间谍团队守卫着一个超级秘密的地下数据中心。然而，与詹姆斯·邦德电影不同的是，主权人工智能是真实存在而实用的，影响的不仅仅是国家安全。完善的主权 AI 治理政策和技术尽职调查有助于保护公司资产、维护客户隐私，并加强公民计算基础设施以抵御恶意行为者的攻击。

在大多数情况下，主权 AI 依赖于受国家或地区的法律或行业标准影响的可靠 IT 安全实践。您的组织可能觉得现在或不久的将来有必要采用主权 AI，即使没有，它可能还是想考虑采用这些做法和政策。

什么是主权 AI？

简单地说，主权 AI 旨在确保 AI 的国内生产，包括用于训练 AI 的数据，AI 在研究查询时进行了探索，并作为 AI 响应查询的输出生成。

在这种情况下，主权 AI 可能包括任何或所有标记为“人工智能”的技术，包括用于了解数据趋势和发现异常的机器学习；使用卷积神经网络进行模式识别或对象识别；以及由生成式 AI 创建的图像，声音或文本。主权 AI 还可能涉及控制 AI 技术使用的规则，例如隐私规则。

您可以将主权 AI 视为与数据主权相关，但与之不同。这就是一家公司或组织必须根据国家或地区规定，确定其数据的存储和处理位置，甚至是如何跨网络传输。主权规则的一个例子是欧盟的 GDPR。组织现在可以遵循一些实践，从而随着规则的发展更轻松地满足合规性要求。例如，大多数组织都制定了数据治理策略。在试验的早期阶段将这些政策扩展到人工智能，可能会避免出现问题并指导允许的使用。人工智能系统还可能需要独特的规则，以考虑如何以及在何处训练人工智能模型，以及它们如何以及在何处访问组织数据，以提供更有用的结果。

主权 AI 与公共 AI

主权 AI 系统存储和管理 AI 模型和数据，其中可能包括受国家或地区法规和限制的操作和训练数据，这些法规和限制规定只有授权人员和系统才能使用 AI 应用。您将发现政府、政府承包商和服务提供商、为政府工作的组织以及可能监管数据和应用的任何企业正在使用主权 AI 解决方案。

您可以将“公共 AI”视为其他一切，即不受主权 AI 考虑和其他合规性要求的应用和数据。该列表包括广泛的消费者应用程序和商业网络。想想用于 Google Chat 和 Facebook AI 功能的 LLM，以及许多图像生成器、新闻聚合器、视频会议系统和语言翻译器。然而，并非所有消费者 AI 软件都被视为“公共 AI”。银行、医疗机构、教育机构等都可能对主权 AI 感兴趣。

关键要点

• 主权 AI 与数据主权相关，并进行了扩展，涵盖了新技术和数据用途，包括 AI 模型。
• 该类别包括当这些系统在受管辖或其他限制的数据源上接受培训或访问时使用 GenAI 和机器学习。
• 借助提供主权控制选项的合作伙伴，分布式云基础设施可帮助您解决主权 AI 考虑因素，以及数据驻留、隐私和访问控制。

主权 AI 说明

主权人工智能 (Sovereign AI) 是一个广义的术语，指的是对可能受到司法管辖限制影响的 AI 系统的控制。主权人工智能的一个主要目标是帮助防止敏感数据离开司法管辖区或被没有适当凭据的人访问。

与主权 AI 相关，需要考虑六个主要方面：了解适用于您的组织的法规，确定您首选的 AI 基础设施，实施数据驻留控制，设置数据隐私控制，实施法律控制以及保护 AI 堆栈。

• 了解法规。您了解您所在国家或地区的数据主权要求吗？如果是这样，你很可能是少数人。这些规则往往很复杂。借助 AI 主权，您可能需要首先考虑数据主权规则，然后考虑如何使用数据来训练算法以及完成的 AI 模型提供哪些答案。

• 确定您首选的 AI 基础结构。您的 AI 解决方案可以在本地、云端、混合云/本地模式中实施，甚至可以跨多个云。在云中构建和管理此基础设施通常非常简单，您的提供商可以在云中帮助解决问题并提供丰富的 AI 服务。

  如果你正在寻找云，你需要找到你喜欢的模型。您是否正在寻找能够为企业软件提供 AI 功能的软件即服务解决方案？对于提供许多 AI 工具的平台即服务，您可以使用这些工具来组装自己的 AI 系统？对于基础设施即服务，你基本上是在租用服务器和网络，自己创造一切？或者对于其中的一些组合？您所做的选择将决定您遵守主权 AI 考虑所需的条件。

• 实施数据驻留控制。随着基础设施的选择，现在是时候评估您的数据、应用和网络流量在国界或首选区域内的数量了。如果您的提供商能够帮助您管理数据主权问题，您将可以更轻松地处理 AI 主权问题。

  您可能会发现，根据云提供商的不同，您可以为数据、应用、网络和计算基础设施设置非常细粒度的控制，以及必要的用户访问控制。根据您的行业和特定要求，您可以通过在许多国家/地区使用商业公有云产品来满足合规性要求。或者，您可能需要政府特定的云来满足其他要求。例如，在欧盟，欧盟主权云可能适合您。在某些情况下，您可能希望在您的数据中心内运行完整的云技术服务；Oracle 将此称为专用区域。您甚至可能希望实施隔离的云技术区域，这个基础设施看起来像云技术，但运行时无需连网。

  所有上述选项都应纳入您的 AI 主权计划之中。

• 设置数据隐私控制。虽然数据驻留会考虑数据所在的位置，但数据隐私侧重于数据的类型及其使用方式。用户是否可以查看个人信息，或仅查看数据报表的汇总结果？生成式 AI 可以提供哪些类型的响应来响应查询？这可能很复杂，您的软件可能需要一个灵活的访问控制系统来帮助您处理复杂的用例。

  例如，控制对生成式 AI 聊天机器人的访问可能还不够。您的聊天机器人可能需要设计成以定制方式响应查询。好消息是，主流云技术软件提供商，特别是提供 SaaS 应用的提供商，经常处理这些复杂的情况，许多提供商已经将这些数据隐私控制需求添加到其 AI agent 及其他 AI 工具中。

  此外，如果组织希望在云中使用 AI，可能需要从运营/内部的角度控制谁可以访问数据。在某些情况下，可以使用由客户提供并由本地提供商维护的密钥进行强加密来解决此问题。其他案件需要清理行动和支助人员。

• 实施法律控制。确定如何遵守法规可能会很复杂。即使在单个公司内，也可能存在不同的考虑因素，具体取决于数据 - 员工信息、健康数据、财务、知识产权。对于跨国公司来说，组合和排列是惊人的。

  现在是时候咨询法律顾问了。IT 规划人员可以帮助法律合作伙伴了解将系统引入合规性的内部和外部，律师也可以帮助引导 IT 部门采用降低合规风险的系统。顾问可以帮助您进行评估和测试。

  在评估解决方案提供商时，另一个关键领域是他们是否具有满足合规性需求的管辖权能力和资源。例如，如果您是在欧盟运营，您可能希望您的 AI 云提供商在欧盟范围内拥有选项。

• 保护您的 AI 堆栈。您可能希望 AI 系统受制于您现有的安全设备，但您可能还认为 AI 需要更多的努力和测试。您很少会训练自己的 AI 系统，但如果您这样做，您可能希望进行旨在保护专有训练数据的测试。更有可能的是，您将为 AI 系统提供一些数据，通常使用检索增强生成或 RAG。您可以决定进行测试，以捕获用户可以制作提示的实例，这些提示显示他们无权查看的信息。

  请注意，忽略将每个用户的角色、位置和其他因素扩展到数据检索引擎的任务可能会导致数据泄露，从而影响系统的合规性。除了用户获得比他们有权获得的更多访问权限的情况之外，人工智能堆栈安全措施还需要帮助解决恶意攻击或区域灾难可能导致的中断和数据泄露问题。这些风险因人工智能生成的内容的潜在身份盗窃而增加，因此需要强大的网络安全策略来促进负责任的数据治理以及冗余基础设施，以帮助司法管辖区内的弹性。

主权 AI 为何重要？

主权人工智能与数据主权一样重要，因为它可以帮助组织更好地确保只有授权人员和系统才能访问变革性技术和计算平台、网络基础设施、应用、知识产权和受保护的数据。

迅速发展的主权 AI 环境使许多企业重新审视其整个 IT 资产，并向服务提供商询问其主权 AI 相关产品。主权 AI 解决方案要求明确阐述和严格遵守访问控制和政策，这不仅是因为存在不遵守当前数据主权法律和法规的风险。当然，外部因素可能正在推动主权 AI 计划，但它们仍然是一个好主意。

主权 AI 的优势

主权 AI 考虑因素可能会为 IT 和业务运营增加额外的合规性和治理层。下面是这些额外的合规性工作的一些潜在好处：

• 业务机会。随着政府和其他组织越来越多地试图控制在其境内生成的数据，他们可能要求他们的合作伙伴遵守主权人工智能概念，而先行者可能获得竞争优势。
• 增强安全性。实施主权 AI 功能可以帮助企业更好地保护应用、基础设施和关键数据。
• 加强监管理解。这些规则在不断变化，朝着主权 AI 的方向努力，可以帮助团队了解政府和监管机构的目标。

主权 AI 的挑战

解决主权 AI 考虑问题可能会产生一定的成本。以下是有关主权 AI 的一些挑战：

• 法律费用。组织可能需要研究多个政府和司法管辖区，然后解决复杂且可能相互矛盾的规则，以实施主权 AI 计划。律师可能需要做这项工作的很大一部分。
• 变革步伐缓慢。每个合规项目都有自己的时间表，这取决于与多个实体打交道，其中可能包括政府和监管机构。这可能意味着某些领域的进展缓慢，时间表往往超出您的控制范围。
• 员工费用。您可能需要聘请员工或顾问来协助开展法律工作和实施技术解决方案。由于这是一个新兴领域，这些员工或顾问可能难以找到并且成本高昂。
• 技术复杂性。主权 AI 挑战可能需要对 IT 基础设施和应用堆栈进行更改。数据可能需要从一个区域迁移到另一个区域。您可能需要编写新的软件或修改代码来帮助解决合规性问题。

主权 AI 的未来

“更多”。这是对主权 AI 未来的一个字总结。您还可以期待新兴的人工智能技术和新用例能够激发更多法规。图像？视频？社交媒体?您的企业数据将触及 AI 以及客户和员工可能使用 AI 的任何位置，您都可能会发现存在主权 AI 问题。

您如何才能更好地为这种复杂且不断变化的监管环境做好准备？在您实现主权 AI 目标时，您需要提前找到合适的服务提供商合作伙伴、选择具有严密安全性的架构和数据模型以及设置全面权限，这可能非常费力。

OCI 如何帮助您实现 AI 主权目标？

如果您的企业的 AI 计划在单一云技术平台、多云或混合架构中利用云计算，Oracle 将为您提供您所需的工具和技术。Oracle Cloud Infrastructure (OCI) 是一个强大的平台，可帮助您构建自己的 AI 应用并为已使用的应用添加 AI 功能。Oracle 和 OCI 在以下五个关键领域支持主权 AI 和数据主权：AI 产品、数据驻留、数据隐私、法律控制和安全。Oracle 的 AI 服务和 AI 增强型应用套件将新的智能功能与高度安全、高度可扩展的应用相集成。Oracle 的数据驻留功能可帮助您将数据保存在您的国家/地区、地区或其他司法管辖区的边界内。默认情况下，您的所有数据和元数据仅限于单个 Oracle Cloud 区域。借助 Dedicated Cloud，您的数据也会与其他地区的数据以物理方式相互隔离。

Oracle 可帮助您管理 AI 模型，并使用高级安全功能来确保访问限制，即使基本模型是自生的还是来自第三方提供商。在法律框架和控制方面，Oracle 与 80 多个合规机构和认证机构合作，并获得美国国防部影响级别 6 认证。其他工具有助于在整个 AI 云技术生命周期中管理和审计 LLM 及其他 AI 资产。阅读《AI 创新：实现主权 AI 的五大关键支柱》，了解更多信息。

主权 AI 现已到来

我们都习惯于数据主权要求，因此人工智能可以看到类似的法规也就不足为奇了。主权 AI 可以被视为数据主权的扩展，涵盖构成 AI 解决方案堆栈的新技术，包括训练数据、LLM 和机器学习算法。当然，还有一些新的用例，但您会发现许多企业面临的安全性、数据隐私、数据驻留、访问控制和法律问题等类似问题。将主权 AI 视为实施优秀实践以保护您的组织及其客户（以及您的国家和地区）的机会，您会发现，通过合适的技术合作伙伴，这是一个值得承担的挑战。

主权 AI 常见问题解答

主权 AI 是否与数据主权相同？

一般来说，数据主权侧重于数据本身，而主权 AI 侧重于 AI 系统的开发和控制，包括这些系统在特定司法管辖区内使用的数据。

哪些行业受主权 AI 影响更大？

许多类型的企业或组织现在或将来可能有主权 AI 要求，但从广义上讲，主要要求军事和国防、医疗卫生、教育、金融和银行以及关键基础设施。IT 行业本身也可以成为主权 AI 考虑因素的候选人。

主权 AI 是否昂贵？

在努力实现合规性之前，总会有成本。对于主权人工智能，主要的一笔预期支出可能是学习并跟上您运营所在司法管辖区和利益相关者的监管环境。合规性测试和认证也可能会产生成本。虽然可能存在技术费用，但可以考虑通过与合适的合作伙伴合作并提前设计系统来预测未来的主权 AI 法规，尽可能减少这些费用。