私有化大模型部署要多少钱?五块费用怎么拆开问

私有化大模型部署很难一口报价,差异主要来自模型规模、并发人数和是否接入业务系统。把费用拆成算力、软件、实施、运维、升级五块分别询价,报价才能对照。

要点速览

• 报价差异主要来自模型规模、并发人数、是否接入业务系统三个变量
• 费用拆成算力、软件授权、实施接入、日常运维、扩容升级五块分别询价
• 每块都要写清一次性费用、年度费用、另算范围和不含项
• 比较报价先对齐假设和范围,再按使用年限算总账
• 签约前问清扩容方式和到期后数据能否导出

私有化大模型部署要多少钱,很难一口报出一个数。同样叫私有化部署,不同服务商、不同方案之间的报价可能差得很开。差异主要来自三个变量:用多大规模的模型、同时有多少人在用、要不要接入现有业务系统。比较稳妥的做法是把费用拆成五块来问:算力硬件、模型与平台软件授权、实施与业务系统接入、日常运维、后续扩容与升级。每一块都请对方写清楚四件事:哪些是一次性费用,哪些是年度费用,哪些范围要另算,哪些不含在报价内。拆开问之后,几份报价才能放在同一张纸上比较。

为什么同样叫私有化部署,报价能差这么多

不少企业第一次询价时只说一句“我们想私有化部署一个大模型”,拿回来的报价从几页到几十页不等,口径也各不相同。原因不在于谁报高了、谁报低了,而在于双方对“要做什么”的理解根本不一样。

• 模型规模决定了需要多少算力。模型越大,对硬件的要求越高,硬件在总费用里的比重也越大。
• 并发人数决定了同一时间要撑住多少请求。十几个人偶尔用,和几百人在上班时间集中提问,对算力、软件授权和运维的要求完全不同。
• 是否接入业务系统决定了实施工作量。只做一个独立的问答入口,和要对接内部办公系统、业务数据库、权限体系,是两种量级的项目。

这三个变量没定下来,任何报价都只是对方按自己的假设算出来的数。所以询价之前,建议先在内部把这三件事大致说清楚。算力规模具体怎么估,可以参考私有化部署大模型算力怎么估?先问清三个变量;如果团队内部对“私有化”本身的理解还不一致,也可以先看私有化部署是什么意思?和私有云有什么区别,把概念对齐再谈钱。

算力硬件:一体机还是服务器,先问清边界

算力硬件通常是报价里分量较重的一块。常见形态有两种:一种是放在客户现场、开箱即用的 AI 一体机,适合规模不大、希望设备留在自己办公环境里的场景;另一种是放进机房的 AI 服务器,适合并发高、模型规模大、需要长期稳定运行的场景。

选服务器放机房时,要留意一个容易漏掉的部分:机柜、电力、网络带宽这些托管费用,往往不在硬件报价里。这部分可以单独按托管的口径去问,具体构成可参考服务器托管多少钱一年?五类费用构成与询价十问。

这一块应让对方写清的三个问题:

• 硬件是买断、租用,还是含在整体服务费里?是一次性付清,还是分期或按年计?
• 这套配置是按什么假设估出来的?对应多大的模型、多少并发、什么使用场景?
• 哪些不含在内?例如机柜与电力、网络、运输与上架安装、质保期外的维修更换。

模型与平台软件授权:按什么计,到期怎么办

硬件之上,还要有一层软件让模型真正能用起来:模型本身、负责调度和管理模型的平台、知识库、权限与使用管理等。有的服务商把这些打包成一个价格,有的按模块分别收费,有的按用户数或设备数计,也有的按年订阅。

模型本身的使用条款也需要核对清楚,尤其是商业使用是否有限制、后续更换模型是否涉及额外费用。软件授权这块的坑,常常不在当下的价格,而在一两年之后:到期续费怎么算,不续费还能不能继续用,数据能不能完整导出。

这一块应让对方写清的三个问题:

• 授权按什么计费?按设备、按用户数、按年订阅还是永久授权?用户数增加后怎么调整?
• 报价包含哪些功能模块?哪些模块需要另购,比如知识库、权限管理、调用审计?
• 授权到期不续费会怎样?已有的数据、配置和知识库内容能否导出,以什么格式?

实施与业务系统接入:范围写不清,费用就会长

实施是报价里弹性较大的一块。它通常包括环境部署、模型上线调试、知识库资料的整理与导入、权限配置、人员培训和上线验收。如果还要接入企业现有的业务系统,工作量会明显增加,而且涉及第三方系统的接口改造,责任和费用都容易扯不清。

实施费用之所以容易超出预期,多半是因为前期没有一份双方都认可的范围清单。上线后发现“这个也要接”“那个也要改”,每一项都变成新增需求。

这一块应让对方写清的三个问题:

• 实施范围以哪份清单为准?超出清单的工作按什么方式计费,人天还是按项?
• 业务系统接口改造由谁负责?如果需要原系统厂商配合,那部分费用算在谁那里?
• 验收标准是什么?验收之后的调整、资料补充、流程修改,是否另行收费?

日常运维:年度费用里到底包含哪些动作

系统上线不是终点。模型要监控,知识库要随制度和业务更新,权限要随人员变动调整,调用记录要留存备查。法律、财税这类专业场景里,AI 只负责资料整理、初步审核、风险标记与提示,关键判断和确认仍要由专业人员完成,这些人工复核的流程也需要有人维护。

运维通常按年收费,但“年度运维”四个字背后的内容差别很大:有的只包含远程故障响应,有的包含定期巡检、知识库更新协助和版本维护。运维还牵涉到数据安全和日志留存,涉及个人信息的场景,还要考虑《中华人民共和国个人信息保护法》等合规要求下的管理责任由谁来承担。

这一块应让对方写清的三个问题:

• 年度运维具体包含哪些动作?故障响应、巡检、知识库更新、权限调整,哪些在内,哪些另算?
• 响应方式和时限怎么约定?远程处理和现场处理分别怎么计费?
• 企业自己需要投入哪些人?管理员、知识库维护人、复核人员各承担什么职责?

后续扩容与升级:提前问,比事后谈更好谈

私有化部署很少一次定型。用的人多了要扩并发,新的业务场景要上线,更合适的模型出来了想换,硬件到了一定年限要更新。这些变化迟早会发生,扩容和升级的计费方式在签约前问清楚,谈判空间会大得多。

一个常被忽略的点是:扩容是“加设备”还是“换设备”。如果原有硬件和软件能平滑叠加,前期投入就不会浪费;如果扩容意味着推倒重来,那前期报价再低也要打个问号。

这一块应让对方写清的三个问题:

• 扩容按什么方式计费?增加并发或用户数时,现有硬件和授权能否继续使用?
• 模型版本升级、更换模型,是否包含在运维内?需要重新实施吗?
• 平台软件的大版本升级是否收费?升级过程中业务会不会中断,如何回退?

比较两份报价时,先对齐口径再看数字

拿到几份报价后,不要急着比总价。建议按下面的顺序做一次对齐:

1. 对齐假设:几份报价是否基于同样的模型规模、同样的并发人数、同样的接入范围?假设不同,数字没有可比性。
2. 拆开一次性和年度费用:硬件和实施多为一次性,授权和运维多为年度。把它们分开列,再按企业计划使用的年限算一个总账。
3. 逐项核对“不含”:托管、网络、接口改造、额外模块、超范围实施,这些常常决定了实际花费与报价之间的差距。
4. 看退出条件:授权到期、合作终止时,数据和配置能否带走,这关系到长期的主动权。

做完这一步,通常会发现有些报价低是因为范围小,有些报价高是因为把后续几年的东西都含进去了。口径对齐之后,哪份更合理就比较清楚了。

带去询价的五块对照清单,以及下一步怎么做

下面这份清单可以直接发给服务商,请对方按五块逐项说明:

1. 算力硬件:形态(现场一体机或机房服务器)、配置依据、计费方式、不含项(机柜、电力、网络、安装、质保外维修)。
2. 模型与平台软件:包含模块、计费单位、订阅或永久、到期处理与数据导出方式。
3. 实施与接入:范围清单、接口改造责任、超范围计费方式、验收标准。
4. 日常运维:包含动作、响应方式、远程与现场的区分、企业需投入的人员。
5. 扩容与升级:扩容计费方式、现有投入能否保留、模型与软件升级是否收费。

如果在看润迅的方案,MaxDeploy 一体化交付在结构上也是分层的,可以拿这份清单逐层对照着问。基座分三层:算力层可以是放在客户现场的 R30 AI 一体机,也可以是放在机房、面向高性能需求的 R500 AI 服务器;系统层是 XunOS(AI 操作系统);模型层是 MaxModel,用一个 Key 统一接入和管理大模型,提供多模型路由和调用审计。在这之上运行企业产品:MaxKnow 负责企业知识库,MaxControl 负责统一管理。分层清楚的好处是,沟通时能把每一层对应到上面五块里去问:算力层对应硬件,系统层、模型层和上层应用对应软件授权,实施、运维、升级再分别谈。具体的计费方式和范围,以双方沟通需求后形成的正式方案为准。需要把服务器放进机房的,润迅自建并运营的前海云与田心两个数据中心也可以提供托管与带宽。

建议的顺序是先沟通需求,再出方案:把模型规模、并发人数、要接入的业务系统这三件事大致说清楚,再请对方结合实际情况给出方案,询价时把上面这份清单一并带上。想先了解完整的落地步骤,可以看企业私有化部署 AI 怎么落地?从算力到应用的五个环节;需要直接沟通,可致电润迅业务热线 400-854-5566。

→ 联系润迅,聊聊你的场景,获取适合的方案