本文分享自华为云社区《在华为云 CCE 上解锁 AgentCube打造高性能 AI Agent》随着大模型技术的飞速发展AI Agent 正从概念走向生产。与传统的批处理任务或推理服务不同Agent 工作负载呈现出独特的运行特征——间歇性活跃、极低延迟敏感、多轮会话状态持久化。然而现有的 Kubernetes 调度体系主要面向批处理和长运行服务设计难以有效应对这类潮汐式交互负载空闲时资源白白占用唤醒时又无法做到亚秒级响应状态管理更是一大痛点。AgentCube 正是为解决这一矛盾而生。作为 Volcano社区的子项目AgentCube 专为 AI Agent 工作负载打造了专用的控制面与数据面核心优势体现在四个方面极速启动—— 通过 Warm Pool 预热池机制预先创建并暂停一批沙箱当 Agent 请求到来时以 Claim-and-Go 的方式进行毫秒级分配消除冷启动瓶颈。高效调度—— 借助 Volcano Agent Scheduler 的乐观并发控制与精简调度策略大幅提升调度吞吐并能与 Volcano 原有的 Batch Scheduler 无缝协作确保 Agent 与传统批处理作业的统一调度与资源协调。原生会话管理—— 以 Session ID 为核心路由标识会话到来时自动识别并路由请求至对应沙箱并在沙箱休眠时自动唤醒保障多轮交互的上下文连续性。安全隔离—— 为每个会话分配独立沙箱确保计算、内存与文件系统的端到端隔离防止跨租户数据泄露。同时支持以安全容器运行 Agent借助安全运行时技术实现内核级强隔离。本文将聚焦 AgentCube 在华为云 CCE云容器引擎上的实践探讨如何将 AgentCube 的调度能力与 CCE 的基础设施深度结合为 AI Agent 应用提供高效、稳定的云原生运行底座。关于AgentCube的原理可通过设计文档或往期文章了解。环境准备已经创建好了一个1.29或更高版本的CCE集群确保本地安装的python版本3.11安装SDK pip install agentcube_sdk安装 AgentCube 插件AgentCube目前已上架华为云 CCE 插件市场。可通过登录CCE控制台进入集群插件中心界面找到AgentCube插件进行配置安装。AgentCube主要组件workloadmanager管理AgentRuntime和CodeInterpreter的生命周期。agentcube-routerAPI 网关代理客户端请求到沙箱实例。volcano-agent-scheduler调度器组件提供低延迟和高吞吐的负责调度。agent-sandbox-controller管理AgentSandbox资源。安装时需要设置如下参数redis.addrRedis的地址必须配置。redis.passwordRedis的密码必须配置。agentSandbox.install是否自动安装agent-sandbox。AgentCube插件运行时依赖 agent-sandbox当参数配置为true时会自动安装。如果集群已手动安装了agent-sandbox则可配置为false跳过安装。agentSandbox.extensions是否启用agent-sandbox的extension controller。volcano.scheduler.enabled是否安装volcano agent-scheduler调度器。由于AgentCube运行时依赖Redis维护会话状态和索引从稳定性和可扩展性考虑建议购买和使用华为云分布式缓存服务 DCS。此外如果要在集群外访问 AgentCube可为workloadmanager和agentcube-router的Service绑定ELB Ingress。开始使用步骤一环境变量设置export WORKLOAD_MANAGER_URLhttp://workloadmanager-addr:workloadmanager-portexport ROUTER_URLhttp://agentcube-router-addr:agentcube-router-port其中workloadmanager-addr、workloadmanager-service-nodeport为workload-manager的访问地址和端口agentcube-router-addr、agentcube-router-port为agentcube-router的访问地址和端口步骤二使用CodeInterpreterCodeInterpreter是AgentCube两大核心能力之一另一个是AgentRuntime是专为执行 LLM 生成的不可信代码而设计的受限运行时。通过收窄模板配置、内置 JWT 认证和预热池加速在保障安全隔离的同时实现毫秒级启动适用于代码解释器等沙箱执行场景。部署CodeInterpreter首先创建文件code-interpreter.yamlapiVersion: runtime.agentcube.volcano.sh/v1alpha1kind: CodeInterpretermetadata:name: my-codeinterpreternamespace: defaultspec:template:# runtimeClassName: kata # 若使用安全容器则可配置runtimeClassName为kata或kuasar-vmm需要有支持安全运行时的节点image: swr.ap-southeast-3.myhuaweicloud.com/container/picod:latest # 使用 PicoD 镜像当前示例使用的镜像仅支持执行shell和python代码resources:requests:cpu: 100mmemory: 128Milimits:cpu: 500mmemory: 512MisessionTimeout: 15m # 空闲 15 分钟后超时maxSessionDuration: 8h # 最大会话时长 8 小时warmPoolSize: 5 # 预热 5 个 Pod执行部署kubectl apply -f code-interpreter.yaml验证是否部署成功kubectl get codeinterpreter部署完成后等待一段时间执行kubectl get pods |grep my-codeinterpreter可以看到已经预热出了5个CodeInterpreter。远程执行第一份代码创建python脚本quickstart.pyimport osfrom agentcube import CodeInterpreterClientWORKLOAD_MANAGER_URL os.getenv(WORKLOAD_MANAGER_URL, http://workloadmanager.agentcube.svc.cluster.local:8080)ROUTER_URL os.getenv(ROUTER_URL, http://agentcube-router.agentcube.svc.cluster.local:8080)with CodeInterpreterClient(namemy-codeinterpreter, namespacedefault) as client:result client.run_code(python, print(Hello from AgentCube!))print(result)上述python脚本会连接到上一步部署的CodeInterpreter启动一个隔离的沙箱会话向其发送一段待执行的 Python 代码片段并打印输出结果。执行python quickstart.py开始运行输出2026-06-05 15:25:22,584 | INFO | agentcube.code_interpreter | Creating new session...2026-06-05 15:25:22,790 | INFO | agentcube.code_interpreter | Session created: 900923f4-4d1c-4383-ac6b-331c5ec83acbHello from AgentCube!2026-06-05 15:25:22,921 | INFO | agentcube.code_interpreter | Deleting session 900923f4-4d1c-4383-ac6b-331c5ec83acb...尝试在一个会话中连续执行代码在步骤三中我们创建的CodeInterpreter仅运行了单次代码便自动结束了会话。但在真实的业务场景中我们往往需要处理多轮连续交互。接下来我们将通过一个更具实战价值的进阶示例来展示 AgentCube 的会话保持能力。创建python脚本longtask.pyimport osfrom agentcube import CodeInterpreterClientWORKLOAD_MANAGER_URL os.getenv(WORKLOAD_MANAGER_URL, http://workloadmanager.agentcube.svc.cluster.local:8080)ROUTER_URL os.getenv(ROUTER_URL, http://agentcube-router.agentcube.svc.cluster.local:8080)def session_reuse_workflow():# 步骤 1创建会话并写入数据print(step 1: Create a session and write initial data.)client1 CodeInterpreterClient(namemy-codeinterpreter,namespacedefault,workload_manager_urlWORKLOAD_MANAGER_URL,router_urlROUTER_URL,)# 写入多个文件client1.write_file(100, counter.txt)client1.write_file([], results.json)session_id client1.session_idprint(fsession ID: {session_id})print(The file system status has been saved.\n)# 注意不调用 client1.stop()让会话保持活跃# 步骤 2复用会话读取并处理数据print(step 2: Reusing sessions and processing data.)client2 CodeInterpreterClient(namemy-codeinterpreter,namespacedefault,workload_manager_urlWORKLOAD_MANAGER_URL,router_urlROUTER_URL,session_idsession_id, # 复用会话)code import jsonimport time# 读取计数器with open(counter.txt) as f:counter int(f.read().strip())print(fcurrent count: {counter})# 增加计数counter 1with open(counter.txt, w) as f:f.write(str(counter))# 读取结果列表with open(results.json) as f:results json.load(f)# 添加新结果results.append({timestamp: time.time(),counter: counter})# 保存结果with open(results.json, w) as f:json.dump(results, f, indent2)print(fnew count: {counter})print(fresult count: {len(results)})result client2.run_code(python, code)print(f{result}\n)# 步骤 3查看文件系统状态print(step 3: Verifying the File System Statuses)files client2.list_files(.)print(fFiles in session: {[f[name] for f in files]}\n)# 清理会话client2.stop()print(session is deleted)if __name__ __main__:session_reuse_workflow()上述python脚本首先创建了一个会话往CodeInterpreter中上传了两个文件counter.txt和results.json。然后并不立即关闭会话而是使用第一次创建会话时返回的session_id会话ID再次创建了一个客户端并远程执行代码。执行python longtask.py开始运行输出如下step 1: Create a session and write initial data.2026-06-05 15:45:03,386 | INFO | agentcube.code_interpreter | Creating new session...2026-06-05 15:45:03,775 | INFO | agentcube.code_interpreter | Session created: eda5f22f-ad7d-4d95-9adf-b74dbf015051session ID: eda5f22f-ad7d-4d95-9adf-b74dbf015051The file system status has been saved.step 2: Reusing sessions and processing data.2026-06-05 15:45:03,893 | INFO | agentcube.code_interpreter | Reusing existing session: eda5f22f-ad7d-4d95-9adf-b74dbf015051current count: 100new count: 101result count: 1step 3: Verifying the File System StatusesFiles in session: [.bashrc, .profile, counter.txt, picod, results.json, script_1780645503894.py]2026-06-05 15:45:04,072 | INFO | agentcube.code_interpreter | Deleting session eda5f22f-ad7d-4d95-9adf-b74dbf015051...session is deleted可以看到3轮请求的session_id是相同的说明 AgentCube 识别到了请求所属中的会话ID将所有请求都代理到了同一个CodeInterpreter实例而非创建新的。且第2、3轮请求能够读取到第1轮请求上传的文件说明这个CodeInterpreter实例并没有被销毁和重建它的整个运行时状态——包括文件系统、内存中的变量、进程上下文等都在请求之间完整保留。这正是 CodeInterpreter 区别于无状态函数调用的核心优势。步骤三使用AgentRuntime有别于CodeInterpreterAgentRuntime支持完整的 PodSpec 自定义适用于对话、工具调用等常规 Agent 场景部署AgentRuntime创建agent.py、requirements.txt文件其中agent.py文件内容为官方提供的Agent示例代码requirements.txt如下agentcube_sdk使用如下Dockerfile制作Agent容器镜像并将制作好的镜像上传华为云SWR。FROM python:3.11-slimWORKDIR /app# 复制依赖文件COPY requirements.txt .# 安装 Python 依赖RUN pip install --no-cache-dir -r requirements.txt# 复制应用代码COPY agent.py /app/# 暴露端口EXPOSE 8080# 运行应用CMD [python, /app/agent.py]创建文件agent-runtime.yamlapiVersion: runtime.agentcube.volcano.sh/v1alpha1kind: AgentRuntimemetadata:name: my-agent-appnamespace: defaultspec:targetPort:- pathPrefix: /port: 8080protocol: HTTPpodTemplate:labels:app: my-agent-appspec:schedulerName: default-scheduler # 如果开启安装了volcano agent-scheduler调度器可配置为agent-schedulercontainers:- name: my-agent-appimage: {{agent image}} # 构建好并上传华为云SWR的Agent容器镜像env:- name: WORKLOAD_MANAGER_URLvalue: http://workloadmanager.agentcube.svc.cluster.local:8080- name: ROUTER_URLvalue: http://agentcube-router.agentcube.svc.cluster.local:8080- name: CODEINTERPRETER_NAMEvalue: my-codeinterpreter- name: CODEINTERPRETER_NAMESPACEvalue: defaultreadinessProbe:httpGet:path: /healthport: 8080periodSeconds: 5sessionTimeout: 15m # 空闲 15 分钟后超时maxSessionDuration: 8h # 最大会话时长 8 小时status: {}执行部署:kubectl apply -f agent-runtime.yaml验证是否部署成功:kubectl get agentruntime输出:NAME AGEmy-agent-app 1m说明部署成功my-agent-app为我们创建的Agent的名字。与Agent进行对话创建python脚本chatToAgent.pyfrom agentcube.agent_runtime import AgentRuntimeClientimport osimport timeROUTER_URL os.getenv(ROUTER_URL, http://agentcube-router.agentcube.svc.cluster.local:8080)def test_conversation():# 第一轮对话agent_client1 AgentRuntimeClient(agent_namemy-agent-app,namespacedefault,router_urlROUTER_URL,timeout500,connect_timeout120.0)# 记录会话ID后续对话复用session_id agent_client1.session_idresult agent_client1.invoke(payload{prompt: Introduce yourself},)print(fresponse: {result}\n)time.sleep(1)# 第二轮对话agent_client2 AgentRuntimeClient(agent_namemy-agent-app,namespacedefault,router_urlROUTER_URL,timeout500,connect_timeout120.0,session_idsession_id)result agent_client2.invoke(payload{prompt: What can you do?},)print(fresponse: {result}\n)time.sleep(1)# 第三轮对话agent_client3 AgentRuntimeClient(agent_namemy-agent-app,namespacedefault,router_urlROUTER_URL,timeout500,connect_timeout120.0,session_idsession_id)result agent_client3.invoke(payload{prompt: Write a Python function for me},)print(fresponse: {result}\n)if __name__ __main__:test_conversation()上述python脚本首先创建了一个对话对话的对象是上一步创建的my-agent-appAgent应用然后连续发起3次对话。输出如下2026-06-05 16:33:28,396 | INFO | agentcube.agent_runtime | Bootstrapping AgentRuntime session...2026-06-05 16:33:29,771 | INFO | agentcube.agent_runtime | AgentRuntime session created: cdb9f642-fcfd-4d96-b024-c49b8fc4baf3response: {response: Hello Agent received: Introduce yourself, agent: hello-agent, timestamp: 2026-06-05T08:33:29.839193, original_prompt: Introduce yourself}2026-06-05 16:33:30,812 | INFO | agentcube.agent_runtime | Reusing AgentRuntime session: cdb9f642-fcfd-4d96-b024-c49b8fc4baf3response: {response: Hello Agent received: What can you do?, agent: hello-agent, timestamp: 2026-06-05T08:33:30.912573, original_prompt: What can you do?}2026-06-05 16:33:31,886 | INFO | agentcube.agent_runtime | Reusing AgentRuntime session: cdb9f642-fcfd-4d96-b024-c49b8fc4baf3response: {response: Hello Agent received: Write a Python function for me, agent: hello-agent, timestamp: 2026-06-05T08:33:31.989551, original_prompt: Write a Python function for me}可以看到3次对话的session_id是相同的说明 AgentCube 识别到了请求所属中的会话ID将所有请求都代理到了同一个AgentRuntime实例。总结AgentCube 以极速启动、高效调度、原生会话管理、安全隔离四大核心能力补齐了 K8s 集群承载 AI Agent 工作负载的短板。华为云 CCE 将持续集成 AgentCube 为用户打造低延迟、高吞吐、强隔离的高性能 AI Agent 运行底座。相关链接[1] AgentCube GitHub仓库: https://github.com/volcano-sh/agentcube[2] Volcano官网: Volcano[3] AgentCube设计文档: https://github.com/volcano-sh/agentcube/tree/main/docs/design[4] Kubernetes 跑 AI Agent缺的不只是算力——AgentCube 补上了什么: Kubernetes 跑 AI Agent缺的不只是算力——AgentCube 补上了什么-云社区-华为云[5] Python SDK: https://github.com/volcano-sh/agentcube/tree/main/sdk-python[6] 华为云CCE控制台: https://console.huaweicloud.com/cce2.0/?regioncn-north-9#/cce/cluster/list[7] AgentSandbox: GitHub - kubernetes-sigs/agent-sandbox: agent-sandbox enables easy management of isolated, stateful, singleton workloads, ideal for use cases like AI agent runtimes. · GitHub[8] 华为云分布式缓存服务 DCS: Security Verification[9] Agent示例代码: agentcube/cmd/cli/examples/hello-agent/main.py at release-0.1.0 · volcano-sh/agentcube · GitHub