智见未来 | AI企业深访——江苏博云科技股份有限公司：打造AI全栈平台，构建从异构算力调度到企业级智能体应用的全链路能力

主要从三个维度进行优化完善，在端能力维度，桌面端持续完善多Workspace管理、定时任务、技能中心（本地/精选/社区）、场景应用、记忆管理、IM工具/邮箱/制品库/沙箱设置等模块；Web SaaS端主要对23项功能持续迭代，三栏IDE实时执行可视化是重点投入方向；手机端主要是语音对话、拍照识别、待办审批、企业SSO、离线缓存持续完善；BoBot CLI主要是MCP协议生态扩展、守护进程、远程会话、桥接模式、技能插件化；在平台与生态维度，持续拓展MCP生态，对技能市场进行改善治理，打造多Agent协作能力，并在金融、工业、政务、销售与服务、研发与运维、通用办公等领域持续沉淀场景应用模板；在底座协同维度，与模型训推平台BMP微调流水线打通，让Agent在生产中的反馈直接驱动垂直模型迭代；与先进算力管理引擎ACE打通；与昇腾/国产卡的端到端推理优化；持续深化安全体系，特别是面向金融、能源、政务的合规适配。

AIOS（ACE/BMP）部署模式：

①客户私有化本地部署：管理节点+算力节点两段式架构，资源充裕时分离部署，资源紧张时合并部署；支持单机或集群高可用；操作系统、CPU、GPU兼容国内外多产品系列；

②算力一体机：本地部署+租用；

③租用+私有化混合：在先进算力管理引擎ACE中本地资源与租用智算主机统一纳管，支持费用统计与研发预算规划；

④跨数据中心：统一管理与运维；

⑤算力运营平台：面向智算中心、运营商、产业园，对外售卖算力+模型服务。

BoAgent（BoClaw）部署模式：

部署原则支持完全私有化部署、数据不出域、断网可用。

围绕“Agent/AI工作负载”，主要有以下技术优化：

①异构设备插件层：基于Kubernetes Device Plugin扩展，自动注册GPU/NPU/DCU/PPU设备并做集群级配额；

②池化与远程调用：在CUDA Runtime/Driver层或DPU上拦截API，实现跨主机GPU池化与远程调用，把“碎片化的小算力”聚合成“大任务可用的池化算力”，反过来也能“大卡切小”；

③高级调度策略：基于Volcano等做Gang Scheduling（成组调度）、Binpack（装箱调度）、DRF（主资源公平调度）、FIFO（先进先出调度）、亲和/反亲和、任务拓扑、SLA（服务水平协议调度）、抢占、回填、混部、潮汐调度、真实负载重调度，避免分布式训练资源死锁；

④作业生命周期统一：通过VCJob等扩展，把PyTorch、TensorFlow、PaddlePaddle、MindSpore、MPI、Horovod、DeepSpeed、Spark、Flink、Ray等框架的作业一并纳入容器化管理；

⑤镜像供应链优化：分级镜像仓库（个人/项目/公共）、镜像预热到目标节点（消除冷启动）、Dockerfile/归档/任务保存为镜像，让任务启动更快、协作更顺畅、资源更省钱；

⑥高性能网络：支持RoCE/RDMA/IB多种高性能网络协议，对接DPU与主流智能网卡，支持TCP/IP协议栈卸载、OVS卸载、加解密卸载；

⑦容器+虚拟机+裸金属混合：渲染、仿真等不能跑在容器里的工作负载由管理引擎统一调度，支持虚拟机挂载GPU、批量开关机、固定IP；

⑧HPC+Kubernetes混合调度：通过Kubernetes容器镜像到Slurm容器镜像的转换，把Slurm作业和Kubernetes作业纳入同一视图，用户在容器化IDE中即可向两套调度器提交作业；

⑨微隔离+多租户安全：网络微隔离、加密存储、RBAC跨租户切换、审计日志，满足行业合规要求；

⑩Ray集群原生集成：深度集成Ray集群，满足弹性需求。

在网络与存储层，包括网络（智能网卡卸载、网络吞吐能力等）、存储（本地存储、商业存储、NFS协议栈优化、Ceph原生集成、PB级容量扩展）等。

在数据层，包括多源数据接入（CSV/TSV、SQL、图像、音频、视频、PDF、JSON、日志）、数据集版本管理（私有/项目/公共三级）、多模态标注（图片分类/检测/分割/OCR、文本分类/NER（命名实体识别）、音频识别/分类、视频分类/对象跟踪/时间分割）、自动/预/协同标注、数据清洗（图片清洗+文本清洗）；

在开发运维层，包括在线IDE（Jupyter/VSCode/PyCharm/IDEA/WebStorm/ComfyU）模板化拉起、算法仓+Git库双向同步、可视化建模（拖拽Workflow+内置算子+自定义算子）、镜像全生命周期管理（构建/扫描/分发/预热/纳管第三方Registry）、多维度监控告警（集群/节点/加速卡/Pod/容器；GPU温度、功率、风扇、利用率、显存、IB网络等）、AutoML自动调参+Tensorboard训练过程可视化；

在调度层，包括异构加速卡统一纳管、GPU切分、虚拟化、池化、远程调用、高阶调度策略、弹性收缩、多租户配额等；

在训推层，包括模型训练、大模型微调、模型推理、模型治理（模型仓库、模型市场、版本管理、单模型/多模型评估等）、AI模型网关（智能路由、健康检查、Token/RPM（每分钟可处理的API请求次数）/并发限流、API Key、统一鉴权与审计）；

在智能体应用层，包括Prompt工程、知识库RAG、应用广场、MCP Server注册与调用、多模态对话、联网搜索等。

①BMP/AIOS层：模型市场已预置DeepSeek、通义千问、ChatGLM、豆包、文心等开源大模型，并适配客户自研模型（如3B/7B/13B/72B）。AI模型网关支持版本一键切换、A/B测试、金丝雀发布、灰度发布；与英伟达、昇腾MindIE、海光、天数等做异构推理动态择优。

②BoAgent层：AIGW模型网关原生接入13+主流模型（GPT系列/Claude系列/DeepSeek/通义千问/GLM等），支持智能路由（负载均衡/故障转移）、上下文窗口13K~256K、模型类型标识（对话/推理）、组织级与部门级模型分配；客户可按业务场景灵活切换不同厂商的模型。

BoAgent的Skill体系主要来源三个方面，一是本地技能，即用户已下载或导入的技能，可通过zip/文件夹一键添加；二是精选技能（Skills Hub），官方筛选的高质量技能（文档处理/数据分析/自动化/信息检索），实现一键安装；三是社区技能，通过社区贡献，系统按下载量与收藏数综合排行，发现热门高质量技能。同时，通过审批发布工作流、策略管控进行平台治理。在商业模式上对应“Skills Hub商城——开发、上线和分享Skills”，结合BoAgent Code让企业IT与开发者自定义并上架技能，沉淀为可复用资产。

公司的战略定位是国产化AI全栈平台与全场景价值赋能服务商，沿“全栈+全场景+国产化+生态”四条路径推进。在产品矩阵上，打造容器云/DevOps/云管、AIOS（ACE+BMP）、BoAgent（BoClaw）、OPC平台/行业方案四层产品矩阵；在生态体系上，打造战略生态伙伴（算力/硬件层）、产品生态伙伴（模型层）、方案生态伙伴（智能体层，联合发布行业版、共建区域算力中心）、渠道生态伙伴（渠道销售、产品代理、ISV、硬件合作，联合打造AI盒子、一体机等）。

在长期策略上，一是重点发展全栈自主可控+信创合规，把“安全、合规、可控”作为持续投入方向；二是与高校/CCF/中科院等开展联合课题研究、产品研发；三是沿着“基础平台→基本应用→生产应用→平台升级→办公深化→生产深度集成”的六步实施路径，与客户共同成长；四是通过OPC模式承接政府需求、孵化创业团队，让平台具备持续运转能力。

①异构国产化加速：CPU→算力卡→网卡→辅助芯片的“全栈国产化”将成为基础设施建设的关键；

②软硬协同下沉：计算/网络/缓存能力持续从CPU下沉到GPU、DPU、智能网卡，调度层必须适配这种趋势；

③超算+智算融合：单一Slurm或单一Kubernetes都无法满足新负载，混合调度成为必选；

④细粒度池化+远程化：从“一卡一应用”走向“1%算力级”的池化与远程化，让算力具备类公用基础设施的供给形态；

⑤运营化：从“自用”走向“对外售卖”，平台需要计量计费、配额、模型/算力网关、SLA等服务。

目前，Agentic AI范式持续演进，在2023年以前，主要是规则引擎/RPA，固定逻辑，缺乏应变；2023年到2025年期间，主要是LLM Function Calling/API调用，能联网但任务链短、缺长程规划；2025年以后，Agentic AI开始涌现，实现记忆+规划+工具+闭环执行，形成“感知——思考——行动”闭环，自主完成复杂任务，但AI Token消耗呈指数级增长。未来Harness Engineering将从“训练为王”走向“推理+Agent工程为王”，打通Prompt、RAG、Agent、微调四级阶梯，MCP Server标准化也将成为Agent连接外部工具的核心协议。同时，Agent Harness的工程化关键是可观测性、可重放、可评估、可治理。