私有化部署大模型上线不等于交付结束。监控、更新、故障、权限四类事项,要写清谁看、谁定、谁做、谁留记录。
要点速览
- 上线不等于交付结束,监控、更新、故障、权限四类事要写进合同
- 每类事项写清谁看、谁定、谁做、谁留记录
- 故障按硬件、系统、模型、应用四层分别指定第一联系人
- R500 托管在机房时,机房侧与系统侧职责要分开写
- AI 只做告警整理、初步分析和提示,变更与回退由人确认
私有化部署大模型上线,不等于交付结束。上线之后至少有四类事要有人管:运行监控、模型与系统更新、故障响应、账号与权限变更。每一类都要写清楚四件事:谁来看,谁来定,谁来做,谁来留记录。这些内容应当写进合同正文或运维附件。验收时双方都在场,真正出问题往往是几个月以后的某个晚上。到那时再翻合同,如果上面没写,或者只写了一句“提供运维支持”,客户方和服务方就很容易各说各的。
为什么上线之后的分工要单独写
站内不少文章讲过怎么写需求、怎么看方案书、怎么做试点,这些都发生在签约和验收之前。验收通过以后,系统进入长期运行,情况会有三处变化:
- 参与的人变了。项目期间对接的是服务方的项目经理和实施工程师。上线后一般转给售后或运维团队,客户方也从项目组换成日常的 IT 值班人员。
- 问题的类型变了。项目期间多是“能不能做出来”,上线后多是“为什么今天变慢了”“谁把这个账号开给了实习生”“升级以后某个功能不能用了”。
- 责任的边界变模糊了。私有化部署一般涉及硬件、操作系统、模型服务和上层应用四层,有时还会加上一个托管机房。任何一层出问题,另外几层都可能受影响,第一反应常常是“不是我这边的问题”。
所以上线后的分工不能只靠口头约定和服务方的工作习惯,要拆成具体事项,一项一项写下来。下面按四类展开。
第一类:运行监控——谁在看,看什么,告警发给谁
监控是运维的起点。没有人看,故障就只能靠业务部门来报,那时候影响已经出现了。合同里至少要写清三件事。
看什么
- 服务是否在线:模型推理服务、知识库检索服务、管理后台是否能正常响应。
- 算力与显存占用:GPU 利用率、显存占用、长时间满载或者异常空闲。
- 基础资源:CPU、内存、磁盘空间、网络连通性。日志和向量数据把磁盘写满,是容易被忽略的情况。
- 调用情况:调用量、失败率、响应时间的变化趋势。
谁来看
服务方能不能远程访问监控数据,要看客户的网络策略。有些企业不允许外部连入内网,那监控面板就只能由客户方值班人员查看,服务方靠客户转发截图或日志。合同要写明采用哪种方式,不能默认服务方一直在线盯着。
告警发给谁
告警渠道、接收人、非工作时间由谁接,都要写下来。客户方人员调整时,告警接收人要同步更新,这件事也要指定负责人。不少告警没人处理,原因只是接收人早已换岗。
第二类:模型与系统更新——谁决定升级,怎么备份,怎么回退
大模型的版本更新较频繁,操作系统、驱动、推理框架也会有补丁。更新本身不难,麻烦在于更新以后效果变了、接口变了,或者和上层应用不兼容。
- 谁决定升级。服务方可以提出建议,决定权在客户方。原因很直接:模型换版本以后回答风格和准确度可能变化,业务部门要先认可。合同里写明“升级须客户方书面确认”。
- 升级前如何备份。要备份的内容包括当前模型文件和配置、应用配置、知识库数据与索引、用户和权限数据。写明谁执行备份,备份放在哪里,怎么确认备份可以恢复。
- 出问题如何回退。回退的触发条件、操作人、回退到哪个版本,要在升级前确定。回退方案没有写清楚的升级,不建议进入执行窗口。
- 变更窗口。升级安排在什么时间段,是否需要提前通知业务部门,通知由谁发出。
签约前可以要求服务方说明:质保期内哪些更新包含在服务范围里,哪些需要另行评估。这部分在方案书阶段就该问到,具体怎么核对可以参考私有化部署大模型方案书怎么看:先核对这六处。
第三类:故障响应——按硬件、系统、模型、应用四层先找谁
出故障时第一个问题是“先找谁”。建议按层拆开,每一层写明第一联系人和升级路径。
- 硬件层:服务器或一体机本身,包括 GPU、电源、硬盘、主板。要写清报修入口、备件由谁提供、是否需要到场、到场前由谁做初步确认。
- 系统层:操作系统、驱动、容器与推理运行环境。通常由服务方负责,但客户方如果自己装过软件、改过网络配置,要事先说明,定位才不会绕路。
- 模型层:模型服务启动失败、输出异常、显存溢出、并发上不去。由服务方负责排查,客户方提供出问题时的调用记录和复现方式。
- 应用层:知识库检索不准、业务系统对接报错、页面异常。应用是服务方交付的,由服务方处理;是客户方自己开发、调用模型接口的,由客户方先排查自己的代码。
另外加一条兜底规则:判断不了是哪一层时,由谁牵头。建议明确由服务方牵头定位、客户方配合提供信息,定位结果双方书面确认后再按层分派。这样能避免“先证明不是你的问题,我才处理”。
第四类:账号与权限变更——谁审批,谁执行,谁留记录
私有化部署的一个重要理由是数据可控,而数据是否可控,很大程度取决于权限管得怎么样。上线后权限变更会持续发生:新员工入职、部门调整、项目结束、人员离职。
- 谁审批:业务账号由客户方的部门负责人或 IT 负责人审批;管理员账号和服务方的运维账号,建议由客户方 IT 负责人单独审批。
- 谁执行:日常的业务账号开通和回收由客户方管理员执行;涉及系统层的高权限账号,由服务方在客户确认后执行。
- 谁留记录:每一次开通、调整、回收都要记录申请人、审批人、执行人和时间。服务方运维人员登录系统,同样要留下记录。
- 服务方账号的边界:服务方运维账号什么时候启用、什么时候停用,合作结束时怎么交还,这些都要写进合同。
企业如果有等保 2.0 方面的要求,权限审批与操作记录往往会被问到,在合同阶段约定好记录方式,后面整理起来会轻松不少。
一份可直接复制的职责分工模板
下面把四类事项整理成“事项 / 客户方 / 服务方 / 双方确认”的格式,可以直接复制到运维附件里,再根据实际情况修改。
- 服务在线与资源监控 / 客户方:指定值班人,接收告警并转报 / 服务方:配置监控项与告警规则,定期提交运行报告 / 双方确认:监控项清单、告警渠道、非工作时间接收人
- 模型版本升级 / 客户方:业务评估,书面同意升级 / 服务方:提出升级说明、执行备份与升级 / 双方确认:变更窗口、回退条件、回退负责人
- 系统与驱动补丁 / 客户方:确认窗口,通知业务部门 / 服务方:评估兼容性并执行 / 双方确认:补丁范围、执行后验证项
- 数据与配置备份 / 客户方:提供备份存放位置,确认保留策略 / 服务方:执行备份并验证可恢复 / 双方确认:备份周期、恢复演练安排
- 硬件故障 / 客户方:报修,配合到场或开放机房访问 / 服务方:诊断、备件与更换 / 双方确认:报修入口、到场方式
- 系统与模型故障 / 客户方:提供现象、时间点与调用记录 / 服务方:牵头定位与修复 / 双方确认:定位结论与关闭条件
- 应用故障 / 客户方:自研部分自行排查 / 服务方:交付部分负责修复 / 双方确认:应用归属清单
- 业务账号变更 / 客户方:审批并执行 / 服务方:提供操作指引 / 双方确认:审批流程与记录格式
- 管理员与运维账号 / 客户方:单独审批,定期复核 / 服务方:按审批执行,登录留痕 / 双方确认:账号清单、启停规则、合作结束时的交还
这份模板只做框架。响应时限、到场时限这类数字,要依据双方实际的人员安排和服务协议来填,不建议直接照抄别人的。
一体机放现场、服务器放机房,运维入口不一样
同样是私有化部署,硬件放在哪里,会直接影响运维入口和到场方式。以润迅 MaxDeploy 交付中的两种形态为例:
R30 AI 一体机:放在客户现场
R30 是放在客户现场的整机。日常能接触到设备的是客户自己的人员,所以硬件层的初步检查,例如看指示灯、确认供电和网线、按指引重启,一般由客户方先做;服务方通过远程或到场处理后续问题。合同要写清楚:远程接入怎么开通、谁审批;需要到场时怎么预约,进入现场由谁陪同。
R500 AI 服务器:放在机房
R500 是机房级的 AI 服务器,通常放在企业自有机房或托管机房。如果托管在机房,运维会多出一方,还要再拆一层:
- 机房侧职责:供电、制冷、网络接入、机柜物理安全、现场代操作(例如按指令重启、插拔线缆)。这部分以机房的服务协议为准。
- 系统侧职责:服务器上的操作系统、模型服务、应用与权限。这部分由交付服务方和客户方按上面的模板分工。
托管场景里常见的推诿是“服务器不通”时,机房说网络正常,服务方说系统正常。所以要在合同里写明:机房侧和系统侧各自出具什么检查结果,由谁汇总判断。两种形态分别适合什么场景,可以参考AI一体机是什么意思:放现场的整机,和机房AI服务器分工不同。
分工能不能落地,要看有没有记录
分工写进合同以后,执行时要靠记录来对照。出了问题,双方看同一份记录,比各自回忆要可靠。
- MaxModel 的调用审计:MaxModel 是模型统一管理平台,提供多模型路由与调用审计。出现“某个部门用量突然增加”或“某次回答出了问题”时,审计记录可以作为排查的依据,辅助判断问题出在模型层还是应用层。
- XunOS 与 MaxControl:XunOS 是 MaxDeploy 中的 AI 操作系统,MaxControl 负责统一管理。交付时可以和服务方逐项确认:哪些运行状态、配置与权限操作能在这套环境里查看和记录,记录保存在哪里,客户方能否自行查看和导出。没有覆盖到的部分,用工单或变更单补齐,对应模板里“谁留记录”这一列。
工具只负责帮助记录和查看,谁该审批、谁该执行,还是要在合同里约定。
AI 在运维里做什么,不替谁拍板
运维环节也可以用 AI 辅助,但边界要先写清楚:
- 可以做的:整理告警,把同一时段的多条告警归类;对日志做初步分析,提示可能的原因方向;标记异常的权限变更或调用量变化,提醒值班人员关注。
- 不做的:不自行执行升级、回退、重启、权限变更。这些操作都由运维人员确认后执行,确认人和执行人要留在记录里。
原因不复杂:AI 的分析可能有偏差,而变更操作一旦出错,影响的是业务。把 AI 放在“整理和提示”的位置,把“确认和执行”留给人,责任也就清楚了。
行动建议:签约前对照这份条款自查
如果你正在评估私有化部署,或者已经上线但合同里只写了一句“提供运维支持”,可以按下面的清单逐条核对:
- 合同或运维附件里是否列出了监控项、告警渠道和非工作时间的接收人?
- 模型和系统升级是否写明须客户方书面确认,并约定了备份内容和回退负责人?
- 故障是否按硬件、系统、模型、应用四层分别写了第一联系人,并有“无法判断时由谁牵头”的条款?
- 账号与权限变更是否写清审批人、执行人和记录方式,服务方运维账号是否有启停规则?
- 硬件放在现场还是机房?如果托管在机房,机房侧与系统侧的职责是否分开写明?
- 远程接入和到场支持的开通方式、审批人是否明确?
- 调用审计、操作记录由哪个系统保存,保存多久,客户方能否自行查看和导出?
- AI 辅助运维的范围是否限定在整理、初步分析和提示,变更与回退是否写明由人工确认?
- 质保期内外的服务范围差别,以及合作结束时的账号、数据、文档交接是否有约定?
清单里答不上来的项,建议在面谈时直接拿去问服务方,可以结合私有化部署大模型服务商怎么选?面谈先问这五个问题一起准备。如果想先弄清调用审计在你的环境里怎么做记录,可以从大模型统一管理平台是什么?一个Key、路由、审计三件事分清看起,再拨打润迅业务热线 400-854-5566,结合你的部署形态一起梳理运维分工。
常见问题
私有化部署大模型上线后由谁负责运维?
一般由客户方和服务方共同承担,但要按事项拆开。客户方通常负责值班接收告警、审批升级和权限;服务方负责监控配置、执行升级、定位系统与模型故障。具体分工要写进合同或运维附件,不能只写一句“提供运维支持”。
大模型升级出问题了怎么回退?
回退要在升级之前就准备好:先备份模型文件、配置、知识库数据和权限数据,约定回退的触发条件、操作人和目标版本。升级由客户方书面确认后才执行,回退同样由运维人员确认后操作,并留下记录。
AI 服务器托管在机房,出故障先找机房还是找服务商?
先看是哪一层的问题。供电、制冷、网络接入和现场代操作属于机房侧;操作系统、模型服务、应用和权限属于系统侧,找交付服务方。判断不了时,合同里应约定由谁牵头汇总双方的检查结果。
私有化部署大模型的运维合同要写哪些条款?
至少写清监控项与告警接收人、升级审批与回退负责人、按四层划分的故障联系人、账号权限的审批执行与记录方式、远程与到场支持的开通方式,以及合作结束时账号、数据和文档的交接安排。
可以让 AI 自动处理大模型运维告警吗?
可以让 AI 整理告警、初步分析日志、标记异常并提示值班人员,但升级、回退、重启和权限变更不建议由 AI 自行执行。这些操作应由运维人员确认后执行,确认人和执行人都要记录。