制造业私有化部署大模型,放车间还是放机房?

不必二选一。按资料类型、响应要求、网络条件、复核责任四项来定:核心工艺和断网可用的问答放车间,多厂区统一管理放机房,多数企业两者结合。

要点速览

• 制造业私有化部署,先定模型放哪里,再选模型和估算力
• 核心工艺不出厂区、现场断网要可用,倾向车间侧一体机
• 多厂区统一管理、资料偏通用,倾向机房侧服务器
• 多数企业两者结合,代价是边界与同步机制要设计清楚
• 工艺变更、质量判定、安全操作由人确认,AI只做检索提示

制造业私有化部署大模型,放车间还是放机房,不用急着下结论,也不必二选一。可以按四项来定:资料类型、响应要求、网络条件、复核责任。如果核心工艺资料不允许出厂区,或者车间问答要求网络中断时也能用,倾向在车间侧放一体机。如果需要多厂区统一管理,资料以通用手册和制度为主,使用人数又较多,倾向放在机房侧的服务器上。实际落地时,多数制造企业会把两者结合起来。无论模型放在哪里,有一件事不变:涉及工艺变更、质量判定和安全操作的结论,由工程师和质量负责人确认,AI 只做资料检索、整理和风险提示。

先定位置,再谈选模型

制造企业的资料本来就是分散的。工艺文件和作业指导书在工艺部门。设备手册一部分在车间机台旁,一部分在设备科电脑里。质检记录分散在质量系统和纸质台账之间。供应商资料由采购和质量共管。图纸、变更单、历史问题分析报告,也各有各的存放位置。

不少项目一开始就比较哪个模型效果好。但对制造业来说,模型放在哪里,会先决定三件事:哪些资料能进来,谁能访问,网络断了还能不能用。这三件事没定,选出来的模型可能拿不到它需要的资料,或者拿到了不该拿的资料。

所以更稳妥的顺序是:先按四项把部署位置定下来,再在这个边界里估算力、选模型、建知识库。算力估算的方法可以参考私有化部署大模型算力怎么估,这里不展开。下面逐项说位置怎么定。

第一项:资料类型,哪些不能出厂区

把要接入大模型的资料大致分成三类:

• 通用资料:设备厂商手册、通用安全规范、公司制度、培训材料。外泄风险低,适合集中管理。
• 受控资料:作业指导书、检验标准、供应商资料、历史质量问题记录。需要按部门和岗位控制访问,但可以在企业内部流转。
• 核心工艺:关键工序参数、配方、工艺窗口、良率分析等。不少企业要求这类资料不出厂区,有的要求不出某个车间。

资料怎么分档、每档谁能问、谁来复核,可以结合制造业企业知识库怎么搭建一起看。落到部署位置上,三种做法的倾向如下:

• 现场侧:核心工艺资料只在厂区内的一体机上处理,不经过外部链路。代价是每个厂区各有一套,资料更新要逐点同步,维护工作比较分散。
• 机房侧:通用资料和受控资料集中在机房服务器上,统一建库、统一授权。代价是资料要经过网络进入机房,链路、存储和访问控制都要有对应的安全安排。如果机房就在厂区内,核心资料也可以考虑放进去。
• 两者结合:核心工艺留在现场,通用和受控资料进机房。代价是要维护两套资料的边界,避免同一份文件两边各存一版。

第二项:响应要求,断网时还要不要能用

同样是问答,车间和办公室的要求差别很大。产线班组长在机台边问某个报警代码是什么意思、换型步骤第几步怎么做,等不了太久,也不能因为网络中断就用不了。办公室里的工程师查历史质量问题、整理分析报告,对实时性要求低一些。但这类问题更复杂,文档更长,还经常多人同时使用。

立项时可以直接问一句:网络中断时,这个问答是否必须可用。夜班、检修停网、链路故障时,现场是否需要继续查询。

• 现场侧:一体机放在车间,不依赖外部网络,适合高频、短问短答的现场场景。代价是单台整机能承载的并发和模型规模有限,复杂问题的回答质量会受影响,需要事先划定它负责哪些问题。
• 机房侧:适合办公查询、长文档整理和多人并发。代价是依赖网络,一旦断网,现场就用不上,需要准备回退方式,比如本地保留常用文档或纸质作业指导书。
• 两者结合:现场一体机负责常用问答,保证断网时基本可用,复杂分析转到机房侧处理。代价是要明确两边的分工,并让使用者知道什么问题该去哪里问。

第三项:网络条件,厂区与机房之间的链路

这一项看的是基础条件:厂区与总部、与机房之间的链路是否稳定,带宽是否够用,有没有备用线路。还要看企业是单厂区还是多厂区,多个厂区是否需要用同一套模型和知识库。

• 链路稳定、多厂区统一管理:倾向集中在机房。模型、知识库、权限和调用记录都在一处,各厂区看到的是同一套内容。代价是链路成为关键路径,需要做冗余,也要约定好机房侧的运维责任。
• 链路不稳定或厂区偏远:倾向放在现场侧。代价是节点分散,容易出现各厂区模型版本不一致、资料新旧不一,需要有统一的管理手段把各点拉齐。
• 两者结合:现场放一体机满足本地使用,由机房侧统一安排模型和资料的更新,并汇总调用记录。代价是同步机制要设计好,更新失败时要有人发现并处理。

第四项:复核责任,放在哪里,判断都归人

前三项决定位置,这一项决定边界。在制造业中,有几类问题的 AI 输出只能作为参考:

• 工艺变更:参数调整、工序增减、替代料导入。
• 质量判定:来料检验结论、不合格品放行或判废、客户投诉的原因定性。
• 安全操作:停机检修、上锁挂牌、危险作业审批。

在这些场景里,AI 能做的是:检索相关文件和历史记录,整理成摘要,对比新旧版本的差异,标记与现行标准不一致的地方,提示可能的风险。批准变更、做出判定、签字放行,由工艺工程师、质量负责人和安全主管完成。

这条边界对部署有直接要求。第一,回答应当带出处,复核人能直接看到原文,而不是只看到一段结论。第二,调用记录要留存。无论问题是在现场一体机上问的,还是在机房服务器上问的,记录都要能汇总到一处,方便抽查和追溯。如果企业已经按等保 2.0 做过系统定级,模型所在的系统也应纳入同一套管理。

四项合起来:三种常见组合

• 以现场为主:适合单厂区、核心工艺占比高、车间问答要求断网可用的情况。代价是扩展到更多厂区时,维护量会成倍增加。
• 以机房为主:适合多厂区、资料以通用和受控类为主、主要在办公场景使用、链路条件较好的情况。代价是现场断网时需要回退方案。
• 两者结合:核心工艺和现场高频问答留在车间,通用资料、复杂分析和统一管理放在机房。多数制造企业最终会采用这种形态,代价是边界和同步机制要设计清楚。

一体机和机房服务器各自适合做什么,可以参考AI一体机和机房AI服务器的分工。

交付层面:MaxDeploy 怎么对应这几种组合

润迅的 MaxDeploy 交付由三层基座构成。R30 AI 一体机是客户现场的入口,R500 AI 服务器提供机房级的高性能算力,XunOS 是运行在硬件之上的 AI 操作系统,MaxModel 是模型统一管理平台,用一个 Key 接入多个大模型,支持多模型路由和调用审计。基座之上运行企业知识库 MaxKnow。

放回本文的四项里,它们分别对应这些问题:

• 资料类型:MaxKnow 用来集中管理入库资料。资料怎么分档、各岗位能访问哪些范围、核心工艺是否只留在现场节点,建议在实施前与交付方逐项确认,再写进方案。
• 响应要求:R30 放在车间,作为现场入口,用来覆盖高频问答。
• 网络条件:R500 可以放在企业自有机房,也可以托管到数据中心,并通过 MaxModel 统一调用入口。润迅在深圳自建运营前海云与田心两座数据中心,需要托管时可以作为选项之一。
• 复核责任:MaxModel 的调用审计会留下调用记录。回答是否附带出处、出处能否定位到原文,建议作为验收要求写进试点方案。

具体用哪几层、放在哪里,取决于前面四项的判断结果,而不是先定产品再套场景。

试点前自查清单与下一步

建议先选一个厂区、一条产线、一类资料做试点。开始前,把下面几件事写清楚:

1. 资料分级:试点资料属于通用、受控还是核心工艺,对应放在现场还是机房。
2. 权限:哪些岗位能问哪些资料,班组、工艺、质量、采购的范围是否分开。
3. 调用记录:记录保存在哪里、保留多久、谁有权查看,现场和机房的记录能否汇总。
4. 更新责任人:作业指导书、检验标准改版后,谁负责更新知识库,多久内完成同步。
5. 复核人:工艺变更、质量判定、安全操作三类问题分别由谁复核,复核结果是否留痕。
6. 断网预案:现场节点或链路出故障时,车间用什么方式继续工作。

这几项写清楚之后,再去估算力、选模型,范围会小很多,试点效果也更容易评估。从算力到应用,每个环节要准备什么,可以对照企业私有化部署 AI 的五个环节逐项检查。如果希望结合厂区的实际情况讨论 MaxDeploy 的部署组合,可以拨打润迅业务热线 400-854-5566。

→ 联系润迅,聊聊你的场景,获取适合的方案