Palantir 发布了一套新平台,使用英伟达的开放模型 NVIDIA Nemotron 为美国政府机构运行安全 AI[1]。该平台把前沿级模型引入与外部网络彻底隔离的"气隙"(air-gapped)环境,让各机构在自有基础设施上运行、训练并拥有这些模型。其思路颇具反差:开放模型恰恰在封闭环境中最能发挥价值。
把开放模型带入机密环境
Palantir 此次推出的,是在 NVIDIA Nemotron 开放模型之上,为政府机构构建专用模型的机制[1]。模型运行在英伟达加速计算平台上,部署于与不安全外部网络完全隔离的气隙环境中[1]。
政府业务与民营企业在商业、能源、医疗、农业、教育、交通等领域高度重叠[1]。美国联邦政府的文职雇员约有 300 万人,英伟达称其为"全球规模最大的企业之一"[1]。其设想是用 AI 化解这种跨领域的复杂性,并为一线决策提供支持。
NVIDIA Nemotron 是一个开放模型系列,公开了权重(模型参数)、训练数据与训练方法,专为自主运行的 AI 智能体而设计[2]。最新的 Nemotron 3 包含 Nano、Super、Ultra 三个版本,可按用途和处理量灵活选用[2]。由于公开的权重可在部署前由各组织自行检验,再带入机密环境并依据自有数据微调,这与本次用途十分契合。
"主权 AI 操作系统"掌握数据与所有权
让模型安全运行的基础,是 Palantir 的"Sovereign AI Operating System(主权 AI 操作系统)"[1]。它构建在该公司的 AIP、Ontology、Foundry 与 Apollo 之上,承担在机密环境中部署所需的运营与数据授权层[1]。明确的数据授权、由架构层面强制实施的隔离,以及全程可审计,是其核心[1]。
各机构可在自有基础设施上运行经过调整的 Nemotron,使用自己的数据进行训练,并完整拥有由此得到的模型,包括其权重[1]。由于权重中铭刻着该组织的运营经验,将其留在内部而非交给第三方,意义不容小觑。在运行中持续以新数据和反馈改进模型,还会形成"数据飞轮",在提升性能的同时,让数据、模型与审计日志始终处于使用方的掌控之下[1]。在企业级正式运行方面,另由"NVIDIA AI Enterprise"软件套件提供支撑[1]。
开放模型带来信任、掌控与更低成本
英伟达将开放模型的价值归纳为信任、掌控与成本三点[1]。
首先,信任源自透明。由于第三方可独立检验模型,单一组织容易忽视的漏洞、偏见和非预期行为更易被发现并加以修正[1]。其次是掌控,企业、政府和开发者可针对自身用途改造和微调模型,即便在金融等封闭模型可能触及数据保护法规的领域也能部署[1]。最后是成本,英伟达表示已有约三分之二的企业在使用开放模型,并认可其性价比[1]。在构建能够规模化而不至于崩溃的 AI 时,成本效率已成为重要因素。
开源长期是美国技术领导力的支柱,一路贯穿 ARPANET、UNIX、C 语言、Linux、GitHub 与 Docker[1]。此次尝试,正是把这一脉相承的开放模型,延伸到国家安全这一最为敏感的领域。
总结
Palantir 与英伟达勾勒出一套平台,将 Nemotron 开放模型引入气隙环境,让美国政府机构得以在自有基础设施上运行、训练并完整拥有模型(含权重)。Palantir 的主权 AI 操作系统负责数据授权、隔离与审计,而其主张则围绕透明带来的信任、面向用途的掌控,以及开放模型更低的成本。不过,这毕竟是 Palantir 与英伟达描绘的构想,能在多大程度上兼顾机密性与成效,仍取决于今后的实际部署。
出典:https://blogs.nvidia.com/blog/palantir-secure-ai-us-agencies-nemotron-open-models/
出典:https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/
