政务私有化部署大模型要注意什么?先划清四件事

政务单位可以私有化部署大模型。上线前要先划清四件事:材料入库边界、设备位置与内外网、人工复核范围、运维与模型更换。

要点速览

• 政务私有化的难点不在装模型,而在先划清四条边界
• 材料按全单位、限部门、不入库三档分,并落到系统权限上
• 放现场还是放机房看规模,内外网与日志存放要写明
• AI 只做整理、初审、标记与提示,判断与确认归工作人员
• 应用与模型之间加统一管理层,换模型不必推翻整套系统

政务单位可以私有化部署大模型。真正的难点不在“把模型装进机房”,而在上线前划清四件事:

1. 哪些材料能进知识库;
2. 设备放在哪里,内外网怎么分;
3. AI 的输出到哪一步必须由工作人员复核;
4. 上线后谁来运维,模型怎么更换。

这四件事如果没有写进方案和使用规范,系统装好了也很难放心用,常见结局是试用一阵后被搁置。下面逐项说明,每项都附上立项或采购时“可以怎么问”,以及“听到什么回答需要追问”。

为什么政务场景要先划边界,再谈模型

和一般企业相比,政务场景有三个特点。

• 材料来源杂。同一单位里,公开政策、内部请示、业务台账、群众来信混在一起,敏感程度差别很大。
• 责任链条清楚。一份答复、一个审核意见最终由哪个岗位签字,本来就有规定。AI 进来以后,这条链不能变得模糊。
• 留痕要求高。谁在什么时间问了什么、系统引用了哪份材料,事后需要能查。

因此,讨论用哪个模型、要多少算力之前,先把数据、网络、复核、运维四条边界说清楚,后面的选型才有依据。单位在梳理时,通常还要对照《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》以及等保 2.0 的相关要求,具体适用范围以本单位主管部门和法务意见为准。

这套思路和金融行业的做法相近,只是侧重点不同,可参考金融行业私有化部署大模型,上线前先划清四件事。

数据边界:哪些能入库,哪些只限部门,哪些不入库

知识库建得好不好,先看材料分得清不清。比较实用的办法是按三档来分:

• 可在全单位使用:已公开的政策文件、办事指南、内部通用制度、标准化表单说明等。
• 仅限本部门使用:业务台账、内部工作材料、尚未公开的工作方案。这类材料可以入库,但要按部门和岗位限定谁能检索、谁能看到原文。
• 不入库:含大量个人信息的原始档案、按本单位保密规定不应进入信息系统的材料、尚未定稿且版本反复变动的文稿。

分档之后,还要落到系统权限上,做到按部门、按角色、按材料来源分别隔离。这样某个科室的材料不会出现在其他科室的问答结果里。具体做法可参考企业知识库权限怎么做?按部门、角色、来源三层隔离,这里不再展开。

可以怎么问

• 知识库能否按部门、角色、来源分别设置可见范围?
• 文件删除或下架后,问答结果里是否还会被引用?
• 能否查到某个回答引用了哪几份材料?

听到什么要追问

• “先把资料全部导进去,后面再慢慢调权限。”需要追问:入库期间谁能看到这些资料,权限调整前产生的问答记录怎么处理。
• “模型会自己判断该不该回答。”需要追问:可见范围是靠系统权限控制,还是靠模型自觉。后者不能作为边界。

部署位置与网络:放现场还是放机房,日志存在哪

私有化部署的“私有”,首先体现在设备和数据放在哪里。政务单位常见两种选择:

• 放在单位现场。适合使用人数有限、希望数据不出本楼、场景相对集中的情况,比如一个业务处室的材料整理和初审。这类场景可以考虑 AI 一体机这种整机形态。
• 放在机房。适合多个部门同时使用、需要运行规模更大的模型、调用并发较高的情况,一般用机房级 AI 服务器,放在单位自有机房或符合要求的数据中心。

位置定下来之后,还有三件事要说清。

• 内外网划分。模型和知识库运行在哪个网段?是否完全不连互联网?如果业务上确实需要调用外部模型,要单独评估、单独审批,并在配置上能随时关闭。
• 调用记录和日志。提问内容、回答内容、引用材料、操作人、时间,这些记录存放在本地还是厂商侧?谁有权查看?保存期限是否按本单位规定执行?
• 升级方式。模型和系统更新是离线导入,还是需要联网?

可以怎么问

• 系统在完全断开互联网的情况下,能否正常运行和授权?
• 调用日志能否全部留在本地,并导出供审计使用?
• 现场设备和机房服务器之后能否并入同一套管理?

听到什么要追问

• “需要联网激活”或“需要定期回传数据做优化”。需要追问:回传什么内容、能否关闭、关闭后功能有何影响。
• “日志在我们的平台上可以看。”需要追问:这个平台部署在哪里,数据是否离开单位网络。

人工复核边界:AI 做到哪一步,人接手到哪一步

这一条最容易被默认,也最需要写成文字。比较稳妥的分工是:

• AI 负责:材料整理、初步审核、风险标记与提示。例如把一批来件按事项归类,标出缺少的要件,提示与现行文件表述不一致的地方。
• 工作人员负责:关键判断与确认。是否受理、如何答复、意见是否成立、文稿能否对外,都由对应岗位决定并签字。

这条分工不能只停留在口头上,建议写进单位的 AI 使用规范,至少包括以下几项:

• 哪些输出只能内部参考,不能直接对外发出;
• 涉及群众答复、对外公文、审批意见的内容,必须经人工确认;
• 复核人是谁,复核结果如何留痕;
• 发现 AI 输出有误时,向谁反馈、如何修正知识库。

如果单位计划面向公众提供生成式服务,还需另行对照《生成式人工智能服务管理暂行办法》评估,这与内部辅助办公是两类情形。

可以怎么问

• 系统能否记录每条输出是否经过人工确认、由谁确认?
• 风险标记能否注明依据来自哪份材料,方便复核人核对?

听到什么要追问

• “AI 可以自动回复群众咨询。”需要追问:回复前是否有人审核,出错时由谁负责、怎么撤回。
• “准确率很高,不需要人看。”需要追问:准确率在什么材料、什么问题上测出来的,是否可以复现。

运维与更换:上线后谁管,模型能不能换

系统上线只是开始。后续至少有三条线要有人管:

• 模型:版本、可用性、调用情况;
• 知识:文件更新、旧版下架;
• 权限:人员调岗、离职后的账号处理。

这三条线分别归信息中心、业务部门还是服务方,要在合同和交接文件里写明。具体交接项目可参考企业AI上线后运维谁来管?模型、知识、权限三条线与交接清单。

模型更换是另一个常被忽视的问题。大模型更新快,今天选定的模型,一两年后未必合适。如果应用和某个模型绑得太死,换模型就意味着重做一遍。比较稳妥的做法是,在应用和模型之间加一层统一管理:应用只对接这一层,背后用哪个模型可以按场景路由、按需替换,每次调用都有审计记录。这样换模型时,知识库、权限和使用规范都不必推翻。

可以怎么问

• 更换或新增模型时,知识库和应用是否需要重新开发?
• 能否按部门或场景指定使用不同模型,并查看各自的调用记录?

听到什么要追问

• “这个系统只能用我们指定的模型。”需要追问:后续模型停更或不适用时,迁移成本有多大。
• “运维我们远程处理就行。”需要追问:远程接入的方式、审批流程和操作留痕。

润迅的一种交付方式

上面四件事,单位可以分别找不同供应商来做,也可以交给一方整体交付。润迅的 MaxDeploy 属于后一种做法,按层拆开来看:

• 硬件:R30 AI 一体机放在客户现场,R500 AI 服务器放在机房,对应前文“放现场还是放机房”的选择。
• 系统与模型管理:XunOS 作为 AI 操作系统;MaxModel 负责模型统一管理,提供多模型路由与调用审计,对应“模型能不能换、记录在哪”的问题。
• 应用:其上运行 MaxKnow(企业知识库)与 MaxControl(统一管理)。知识库的可见范围如何按本单位的部门和岗位划分,建议在方案沟通时结合实际逐项确认,并写进交付文件。

在责任边界上,润迅的做法是 AI 承担资料整理、初步审核、风险标记与提示,关键判断与最终确认由专业人员完成;放到政务场景里,就是由对应岗位的工作人员确认。这是一种交付选择,是否适合,仍要看单位自身的场地、网络条件和管理要求。

行动建议:立项前先做这几步

1. 盘点材料。按“全单位、限部门、不入库”三档列出拟接入的资料,并请保密和业务负责人确认。
2. 定位置与网络。根据使用人数和场景,决定放现场还是放机房;明确是否完全内网运行,以及日志存放位置。
3. 起草使用规范。写明 AI 的工作范围、必须人工确认的环节、复核留痕方式和纠错流程。
4. 写清运维分工。把模型、知识、权限三条线的责任人,以及模型更换的方式写进合同和交接文件。
5. 带着清单问供应商。用本文每节的“可以怎么问”逐条确认,对“需要追问”的回答要求书面说明。

如果希望了解硬件、系统、模型和知识应用由一方交付的具体做法,可以查看 MaxDeploy 交付方案,或拨打润迅业务热线 400-854-5566,带上材料盘点表和使用场景沟通。

→ 联系润迅,聊聊你的场景,获取适合的方案