NVIDIA在KubeCon宣布向CNCF贡献OpenShell及Agent Substrate以强化AI代理安全
NVIDIA在KubeCon + CloudNativeCon上宣布向云原生计算基金会(CNCF)贡献开源软件及基础设施,旨在强化自主AI代理的安全与治理。核心举措包括将开源运行时NVIDIA OpenShell作为Sandbox项目贡献给CNCF,用于保护和治理自主代理。同时,NVIDIA参与贡献由Google主导的Agent Substrate框架,该框架已被CNCF接受为Sandbox项目,专门用于在Kubernetes上运行长期代理工作负载。NVIDIA与Google正合作整合OpenShell和Agent Substrate,以支持跨云和本地环境的代理安全与治理。[1]
在基础设施层面,NVIDIA推出Kubernetes Engine(NVKE)、Kubernetes Recipes(NVKR)和Snapshot,作为其DSX AI Factory Platform的新组件。NVKE和NVKR目前处于公开预览阶段,提供用于在GPU基础设施上交付托管Kubernetes服务的开源组件。Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster、Firmus和SK Telecom等合作伙伴已计划将NVKE和NVKR功能整合到其产品中。[1]
NVIDIA Snapshot旨在解决模型加载和推理工作负载预热带来的延迟,通过恢复检查点副本支持推理和代理工作负载的启动、恢复和扩展。设计合作伙伴Crusoe和Saturn Cloud使用NVIDIA HGX B300系统对Snapshot进行了评估。测试数据显示,Crusoe在Crusoe Cloud上测试GLM-5.3时,将工作负载就绪时间从约8分钟减少到31秒;Saturn Cloud的从零开始推理测试将vLLM启动时间从2到8.5分钟减少到6到34秒。[1]