AI数字人可以离线使用吗?企业本地部署需要注意哪些问题?

展厅的网络时好时坏,工厂的内部资料又不方便交给外部平台。准备部署数字人时,企业往往会问:没有外网,它还能听懂问题、查询资料并开口回答吗?

AI数字人可以在不连接互联网的环境中运行,前提是所需模型、素材和服务都支持本地运行,并且运行时依赖已准备齐全。 判断一个方案是否离线可用,要看它在目标网络环境中能完成哪些具体任务。

播放一段预先制作好的数字人视频,与让数字人现场听懂陌生问题、查询企业资料,是两类需求。前者只需保证播放器和视频文件本地可用;后者则要逐项确认语音、问答、知识检索、人物驱动和业务接口的部署位置。

一、先说明白:你说的“离线”是哪一种?

断外网,保留企业内网。 员工电脑、展厅终端和内部服务器仍能互相访问,只是不连接互联网。这种环境可以让多台终端共用内网的数字人服务,也可以查询内网订单或设备系统。

单台设备独立运行。 一台展厅一体机既不接外网,也不连接其他服务器,所需模型、数字人素材、知识资料和应用都要放在这台设备上。它能回答的范围、运行速度和可用功能,需要按该设备的实际能力评估。

平时联网,断网时保留部分功能。 比如联网时提供实时问答,断网后继续播放讲解视频、展示本地常见问题。这是一种降级方案,需要在界面上说明当前可用范围,不能把它当作完整离线问答。

向供应商提需求时,可以直接说明:“展厅不能访问互联网,但终端可以连接机房服务器;断网后仍要支持中文语音提问和本地产品资料查询。”这样的描述更容易对应到实际交付内容。

二、本地部署、私有化和离线运行,有什么区别?

本地部署强调服务运行在什么位置;私有化强调企业专属的部署和管理范围;离线运行强调指定功能是否依赖互联网。这几个条件需要分别确认:一个装在企业服务器上的系统,仍可能调用云端大模型、在线音色或联网授权服务。

选择部署方式时,重点看业务依赖,而不是只看方案名称。
方案服务放在哪里断开互联网后
云端部署核心问答、语音或人物服务由云端提供。依赖云端的功能通常不可用;本地缓存内容另行确认。
混合部署部分服务在企业内网,部分仍调用云端。只保留依赖全部在本地的功能,需明确降级范围。
全本地部署目标功能所需的模型、素材和运行服务在本地或内网。依赖、授权及初始化也满足离线条件,才能持续运行。

如果企业只做公开产品咨询,而且允许联网,可以评估云端或混合方案;如果明确要求资料、录音和回答内容都留在内部,就需要进一步检查整条处理链的数据去向。

三、要实现实时离线问答,需要检查哪些模块?

以“访客说话,数字人查资料后回答”为例,可以把过程理解为:先听懂声音,再查找资料和组织答案,最后生成声音并驱动人物画面。任何一个必要环节依赖外网,都可能让对话中断。

实时语音数字人的本地化检查表
模块需要向供应商确认的内容
语音识别(ASR)录音在哪里转成文字?中文、产品型号和现场噪声环境是否测试过?
大模型回答是否由本地模型生成?是否仍会调用云端模型或联网搜索?
知识检索文档解析、文字向量化和结果排序是否在本地完成?这些环节分别调用哪个服务?
语音合成(TTS)目标语言、音色及相应模型能否本地使用?所需素材和使用授权是否齐全?
数字人画面与驱动形象素材、口型驱动、渲染或视频服务在哪里运行?断网后能否重新加载?
应用与通信页面、登录、音视频连接和业务接口是否可在目标内网中独立使用?

本地语音和模型推理已有可用的技术路径。例如,sherpa-onnx 项目提供无需互联网的语音识别和语音合成能力;Ollama 官方文档也说明了本地运行及关闭云端功能的方法。具体到一个商业数字人产品,还要确认它交付的版本、组件授权和集成范围,不能仅凭某个开源组件支持离线就判断整套系统支持。

四、这三处最容易被忽略

知识库在本地,回答过程仍可能把资料发出去

假设维修手册保存在企业服务器,系统检索到一段内部故障说明后,又把这段说明交给云端大模型组织答案。此时文件虽然没有整体上传,相关内容已经参与了外部请求。云端语音合成也会接收需要朗读的文字。

Dify 的知识检索文档展示了“检索资料,再把结果作为上下文交给大模型”的处理方式。据此评估部署方案时,应检查问题、检索片段、回答文字、录音和日志各自流向哪里。数据库的位置,不能单独证明整个处理过程都在内网。

页面能打开,麦克风和音视频未必能用

浏览器语音采集需要安全上下文和用户授权。正式内网网页通常也应使用浏览器信任的 HTTPS 证书;开发机上的 localhost 例外,不能直接套用到普通内网地址。具体要求可查阅MDN 的麦克风采集说明。

如果采用 WebRTC,还要核对会话建立服务和音视频的实际路径;跨网段或受限网络可能需要中继。WebRTC 官方文档介绍了 TURN 中继的作用。是否需要以及部署在哪里,应按现场网络测试确认,不能保留外部依赖后就宣称完全离线。

已经启动能用,断网后重启却失败

模型可能在第一次使用时才下载,页面可能依赖外部脚本,软件也可能需要定期联网验证授权。因此,需要把安装包、模型、字体、脚本、人物素材和授权方式一并确认,并分别测试断网启动、服务重启和首次打开新会话。

后续维护也要提前约定:新知识如何导入、软件怎样离线升级、升级失败怎样恢复,以及授权到期或设备更换时如何处理。能完成一次演示,只能证明当时那条流程可用。

五、服务器怎么配?先把使用条件写具体

同样是一台数字人终端,播放固定视频和实时生成问答的资源需求差别很大。实时方案还受到模型规模、回答长度、同时处理的会话数和人物画面质量影响,不能只凭“需要一个数字人”就确定显卡型号。

先区分在线人数与同时对话人数。 例如,20人打开页面、3人正在语音咨询,与20人持续同时提问,是不同的测试条件;即使暂时没人说话,保持连接和人物画面也可能占用资源。这里的数字仅用于说明测试口径。

建议先给出终端数量、峰值同时对话人数、目标语言、平均回答长度、画面分辨率,以及期望的等待时间。再用候选模型与服务器做完整流程测试,分别记录“说完问题到听到第一句回答”的时间、长回答是否卡顿、资源占用和失败情况。

还要测试多轮交流和高峰时段。多路请求可能排队,长对话也会占用更多内存或显存。服务器预算需要覆盖实际运行的各个模块,并为系统、日志、资料存储和维护留出空间。关于准备工作,可继续阅读本站的AI数字人私有化部署与服务器配置说明。

六、怎样验收“真的可以离线使用”?

建议在交付前约定一轮完整的断外网测试,并保留结果记录。如果项目采用内网服务器,测试时应保留必要的内网连接;单机独立方案则按完全不连接其他设备的条件验收。

  1. 断外网后重新启动。 重启应用或服务,在新的浏览器会话中重新打开页面,检查登录、人物素材和语音功能,排除缓存造成的误判。
  2. 用现场问题完成多轮对话。 使用实际产品名称、型号和追问,检查识别、知识引用、语音回答及口型表现;对资料中没有答案的问题,检查系统能否说明限制。
  3. 更新一次本地知识。 导入一份新资料并完成索引,再询问其中的信息,确认资料更新过程也能在离线环境中完成。
  4. 验证内网业务和用户权限。 使用不同权限的测试账号查询订单或设备记录,核对结果与源系统是否一致、是否只显示各自有权访问的数据。
  5. 按约定并发持续运行。 记录响应时间、排队、音视频卡顿和失败情况,并测试短暂断开内网后重新连接。通过标准应在验收前共同确定。
  6. 核查外联与维护流程。 由运维人员结合出口策略、访问日志或抓包检查外部连接尝试;同时验证备份恢复和约定的离线更新流程。

如果演示中没有测试某一项,就把它列为待验证项;不能把“可以播放视频”或“本地模型能输出文字”,直接当作整套数字人已经通过离线验收。

七、沟通部署方案和报价时,带上什么信息?

企业可以先整理一页需求:在哪里使用、哪些网络可以访问、需要哪些功能、预计多少人同时对话,以及允许哪些数据传到外部。这些信息会影响模型选择、集成范围和硬件投入。

报价建议分开看四部分: 软件与模型授权,服务器和终端设备,知识库及业务系统接入,部署培训与后续维护。还应注明包含的语言、音色、并发能力、更新服务和扩容方式,避免不同报价的范围并不相同。

云端、混合和全本地方案的总成本,需要结合使用量、硬件复用、授权方式和长期维护比较。离线部署通常增加本地资源和运维工作,但不能据此给所有项目套用同一个价格排序。

企业评估金福来数字人时,可以从一个实际场景开始沟通,例如“展厅断外网后的产品语音问答”或“员工查询内部维修手册”。把网络条件、资料样本、终端配置和验收要求一起提供,再确认当前版本可交付的本地化范围、需要额外集成的模块以及试运行安排。

一份可靠的离线方案,应能说明:断网后保留哪些功能、数据经过哪里、现场设备能承载多少使用量,以及如何验证和维护。 先用真实场景完成小范围测试,再确定正式部署范围,后续投入会更有依据。

滚动至顶部