本地部署只说明推理在你的机器上运行,不等于数据不出门。是否外泄要查四处:联网与遥测、日志存放与读取、插件和外部接口、账号与资料范围。
要点速览
- 「本地」只说明推理在本机运行,不等于数据全程不出门
- 断网运行一次并对比网络连接,可看出软件哪些环节在联网
- 对话与调用日志要查存放位置、保留期限和读取权限
- 插件、外部接口和混配的云端模型是常见的数据外流路径
- 多模型并用时,统一入口加调用审计比逐台检查更可持续
本地大模型不一定会泄露数据,也不一定不会。「本地」只说明模型推理在你自己的电脑或服务器上计算,并不说明对话内容、上传文件和调用记录全程都留在本机。数据会不会出门,主要取决于四处:软件是否默认联网、日志存在哪里且谁能读、插件和外部接口会不会把内容带出去、哪些人能用并能看到哪些资料。这四处逐一验证过,才能对「我的本地模型安不安全」下一个有依据的判断。
先分清:「本地」管住的只是推理那一段
很多人把「模型下载到本机」理解为「数据不出本机」。两者之间其实隔着好几层。模型文件在本地、推理在本地显卡或处理器上进行,这一层确实不需要把提问发给外部服务;但围绕模型运行的那一圈软件,包括图形界面、启动器、知识库检索组件、各类扩展,并不一定都是离线的。关于「本地」可以拆成哪几层来理解,可以参考本地大模型是什么意思?「本地」要分三层来看,本文不再重复概念,只讲部署之后如何自己查数据流向。
换句话说,本地部署把一部分风险挪走了,同时把检查的责任交回给了使用者。云端服务的数据去向写在服务条款里,本地部署的数据去向写在你自己的配置、目录和账号设置里,需要自己去看。
一、软件会不会自己联网:看连接,再离线跑一次
不少运行本地模型的软件,会在后台做几件联网的事:检查新版本、下载模型目录、上报使用统计或崩溃信息。这些行为本身不一定携带对话内容,但需要你确认,而不是默认它们不存在。
自己验证可以分两步:
- 用系统自带工具看连接。macOS 可以在「活动监视器」的网络页查看各进程的收发量;Windows 可以在「资源监视器」的网络页看到进程正在连接的地址;Linux 可以用常见的网络连接查看命令列出进程与远端地址。在模型对话进行时观察一段时间,记下除本机地址外出现的所有远端地址。
- 断网跑一次做对比。拔掉网线或关闭无线网络,重新启动软件并完成一次完整对话。如果功能完全正常,说明推理本身不依赖网络;如果某些功能报错或卡住,那恰好指出了哪些环节在联网。
查到联网行为后,再去设置里找对应开关:自动更新、使用统计、崩溃报告、在线模型目录。能关的关掉,不能关的记录下来,作为后续评估的依据。企业环境里,还可以在出口防火墙上只放行明确需要的地址,把「软件想连什么」变成「管理员允许它连什么」。
二、对话和调用日志:存在哪,留多久,谁能读
本地模型不把数据发出去,不代表数据没有被留下。大多数工具会保存对话历史,有的还会记录完整的请求与返回,方便调试。这些文件常常可以直接打开阅读,放在用户目录或程序目录下。
建议逐项确认:
- 位置:在软件设置或说明里找到对话历史和运行日志的存放目录,实际打开看一眼,确认里面是否包含提问原文、上传文件的片段或检索到的资料内容。
- 期限:确认有没有自动清理机制,默认保留多久。没有清理机制的,日志会一直累积。
- 读取权限:查看这些目录的文件权限。如果是共用电脑或多人登录的服务器,其他账号是否也能读到;如果目录被同步盘、备份软件覆盖,日志是否会被一起同步到别处。
这一步常被忽略的地方是备份。日志本身在本机,但整机备份、云同步、远程桌面的剪贴板同步,都可能把日志带到另一台设备上。查日志时顺手把这几条路径也过一遍。
对企业来说,日志还有另一面:它既是风险点,也是追溯依据。处理涉及个人信息的资料时,《中华人民共和国个人信息保护法》对处理活动有相应要求,保留什么、保留多久、谁能看,应当事先定下规则,而不是让工具默认值替你决定。
三、插件、工具和外部接口:列清单,逐个看去向
本地模型本身不联网,但它调用的东西可能联网。联网搜索、网页抓取、文档解析服务、翻译接口、向量检索服务、代码执行环境,只要其中一个指向外部地址,用户输入的内容或检索到的资料就可能随请求一起发出去。还有一种情况更隐蔽:软件里同时配置了本地模型和某个云端接口,对话时自动或手动切换,用户未必留意当前到底走的是哪一个。
可以这样核对:
- 在软件里列出所有已启用的插件、扩展和工具,不常用的先停用。
- 对每个保留的扩展,找到它调用的地址或服务,区分本机、内网和外部三类。
- 检查模型配置列表,确认除本地模型外是否还填了外部接口的地址和密钥;如果有,确认默认使用的是哪一个,切换由谁控制。
- 结合前面「看连接」的记录,对照一遍:观察到的远端地址,是否都能对应到清单里的某一项。对不上的,就是需要追问的地方。
这一步做下来,往往会发现比预想多的外部调用。不必一概禁止,关键是让每一条外部调用都是知情的、有理由的。
四、谁能用、能看到什么:账号、角色与资料范围对一遍
数据泄露不只发生在「出门」这一刻,也发生在「被不该看的人看到」。个人在自己电脑上用,问题不大;一旦把本地模型部署成部门共用的服务,接上了知识库,权限就成了主要风险。
核对时可以把三张表放在一起:
- 账号表:有哪些人能登录,是否存在共用账号、离职未删除的账号。
- 角色表:不同角色能做什么,谁能改配置、谁能导出记录、谁能接入新的模型或插件。
- 资料范围表:知识库里有哪些资料,分别应该对哪些角色可见。
三张表对上之后,用不同角色的账号各问几个涉及敏感资料的问题,看回答里会不会出现超出其范围的内容。检索类应用容易出现这种情况:资料按部门分了目录,但检索时没有按用户身份过滤。私有化部署场景下模型、数据、记录、人员该怎么划分,可以参考私有化部署大模型是什么意思?模型数据记录人员四处看。
多个模型同时在用时,逐台检查难以持续
上面四处自查,一个人对一台机器做一次,并不算难。难的是之后:团队里有人用本地模型,有人用云端接口,有人试了新插件,密钥散落在各自的配置文件里,每次变化都需要重新查一遍。靠个人逐个检查,时间一长就会出现盲区。
比较可持续的做法,是把模型调用收拢到一个统一入口,让「谁、在什么时候、调用了哪个模型」都留有记录。润迅的 MaxModel 做的就是这件事:用一个 Key 接入团队需要的各类大模型,由平台按规则做多模型路由,并保留调用审计记录。这样前面第三处「到底走的是哪个模型」可以由平台规则决定,模型密钥不必散落在每个人的配置文件里,调用记录也能集中查看。
审计记录的作用是让事情有据可查。记录本身不替人下结论,哪些调用符合内部规定、要不要追问、规则怎么调整,仍需要由负责人判断和确认。
如果企业是从零开始搭建私有化 AI,MaxModel 位于润迅 MaxDeploy 一体化交付方案的模型管理层:下面是 R30 AI 一体机或 R500 AI 服务器提供算力,中间是 XunOS 系统,上面再运行企业知识库等应用。模型统一管理放在这一层,意味着上线之初就把调用入口和审计考虑进去,而不是等用的人多了再补。
行动建议:先做一次自查,再定长期做法
- 尽快做一次四处自查。按联网、日志、插件、权限的顺序,把发现记录成一页清单:观察到的外部地址、日志目录与保留期限、启用的扩展及其去向、账号与资料范围的对应关系。
- 把能关的默认联网项关掉。自动更新、使用统计等改为人工控制,企业环境在出口处只放行必要地址。
- 为日志定规则。明确保存位置、保留期限和可读人员,排除被备份或同步带走的路径。
- 评估是否需要统一入口。如果团队已经同时使用多个模型,或计划把本地模型开放给更多人,可以先了解大模型统一管理平台是什么?一个Key、路由、审计三件事分清,再结合自身情况判断是否引入 MaxModel 这类平台。
需要结合具体部署环境讨论模型管理与审计方案,可以拨打润迅业务热线 400-854-5566。
常见问题
本地部署的大模型会把对话内容上传吗?
模型推理本身在本机完成,不需要上传对话。但配套软件可能有自动更新、使用统计,插件和外部接口也可能把内容带出去。是否上传要通过查看网络连接、离线对比运行等方式实际验证。
怎么确认本地大模型软件有没有偷偷联网?
在对话时用系统自带工具查看该进程的网络连接,记下所有远端地址;再断网运行一次完整对话做对比。功能正常说明推理不依赖网络,报错的环节就是在联网的部分。
本地大模型的聊天记录存在哪里,安全吗?
多数工具把对话历史和运行日志存在用户目录或程序目录下,常常可以直接打开阅读。需要确认具体位置、是否自动清理、其他账号能否读取,以及是否被整机备份或云同步带到其他设备。
团队共用本地大模型,怎么防止看到不该看的资料?
把账号、角色和知识库资料范围三张表对齐,清理共用和失效账号,再用不同角色账号测试提问,检查回答是否出现超出权限的内容,尤其关注检索时是否按用户身份过滤。
同时用多个大模型,怎么知道谁调用了什么?
可以把调用收拢到统一入口,由平台留下调用记录。润迅 MaxModel 提供一个 Key 接入多个模型、多模型路由与调用审计,记录让调用有据可查,是否符合内部规定由负责人判断。