返回案例列表
智能制造私有部署
头部新能源车企工业质检大模型私有部署
基于国产昇腾算力的生产质检大模型部署方案
项目概述
为某头部新能源车企部署完全私有化的视觉大模型与分析系统，打通从零部件外观缺陷检测到整车装配偏差分析的质量管理闭环。
合作流程
1
硬件调测
2 周本地 GPU/昇腾服务器网络拓扑搭建、驱动与算子调优
2
推理部署
4 周基于 vLLM 和 Triton Server 进行大模型高并发部署
3
接口联调
3 周与车间相机、MES 生产执行系统完成低延迟接口对接
4
测试验证
2 周真实产线满载测试，优化高吞吐负载均衡性能
5
持续升级
持续针对新产品缺陷样本进行模型微小参数更新部署
业务挑战
- 质检数据敏感且体量大，云端推理存在泄密隐患且带宽压力巨大
- 工业现场环境复杂，缺陷种类繁多，对模型推理的低延迟高吞吐要求严苛
- 需要适配国产昇腾 AI 算力硬件生态，实现完全信创化部署
我们的方案
采用 vLLM 推理加速框架与昇腾 CANN 平台，将质检视觉大模型私有化部署在厂区本地服务器集群。通过 K8s 进行多显卡容器化管理与负载均衡，实现毫秒级的缺陷自动检测识别与警报下发。
技术架构
工业大模型私有化推理部署架构
边缘数据接入（工业相机/网关）→ 本地私有算力层（昇腾 GPU 集群 + CANN 算子加速）→ 模型推理层（vLLM 推理引擎 + K8s 容器调度）→ 业务应用层（缺陷警报/生产报表/MES 对接）
核心技术栈
vLLMAscend 昇腾硬件CANNKubernetesDocker私有化部署
我们的合作模式
每个项目都遵循标准化的合作流程，确保交付质量与客户满意度
需求沟通
方案设计
PoC 验证
敏捷交付
持续运维
关键成果
推理延迟降至30 毫秒
缺陷检出率提升35%
日均处理图像数100 万张+
“从需求对接到上线交付，智文团队展现了极强的执行力。系统的预测性维护功能帮助我们避免了一次可能导致 8 小时停线的重大故障。”
—— 数字化总监
相关服务
行业方案
想了解类似的方案？
联系我们