AI导入受阻,原因不只是模型选择
起草提案、检索内部规程、摘要合同——企业中想要使用生成式AI的场景不胜枚举。然而,仅仅提供便捷的服务并不足以让业务使用习惯化。每当员工疑惑"能输入客户名称吗""这份资料是否属于内部机密"时,工作就会停下来。
另一方面,全面禁止使用则会让一线员工得不到所需支持,甚至可能流向公司无法掌握的个人账户。在规划导入时,与AI的回答性能同等重要的,是建立员工能够放心使用的规则和路由机制。
本系列将从构想到运营,逐步解说将云端AI与企业自管AI基础设施相结合的"混合私有AI"。其中也会介绍使用IMMERSIA的配置方案,但所有配置和用途均为参考示例。仅部署特定设备,并不能自动实现本文所述的全部功能。
云端与本地各有其角色
云端AI是以外部服务形式使用AI的方式;本地部署则是在自有设施等自主管理的环境中运行系统。所需设备、使用条件和运营负担因模型和用途而异。
对于整理公开信息或处理已获批准外发的数据,云端AI是候选方案。但企业合同与个人服务不能等同对待,需逐一确认数据存储、用于训练、处理地区、删除及管理功能等条款。
对于不得外发的信息或需要与内部系统紧密集成的处理,本地AI是候选方案。但同时需要设计由谁负责更新、监控、备份和漏洞响应。"云端危险、本地安全"的简单划分会遗漏实际风险。
同一界面,根据信息类型选择处理目标
混合配置的目标是:员工通过同一入口使用AI,系统在后台根据公司政策切换处理目标。例如,整理已公开产品信息的请求与包含未公开价格表的提案起草,允许的处理目标不同。
示例配置中,在统一的AI工作区后方设置一个验证信息分类和使用权限的层级。已批准外发的信息路由至已审批的云端连接,内部处理的信息路由至本地AI,无法判断的内容则暂时搁置,并设置向负责人确认的路径。
重要的是,不能仅凭AI的分类结果作为唯一判断依据,还需结合文档管理分类、用户所属部门、合同约束和收件人白名单等条件。即便看起来是"普通问题",如果附件或对话历史中混有机密信息,也需要整体重新审视。
云端AI
整理公开信息、处理已批准数据。需确认合同条款、处理地区和训练使用情况。
本地AI(本地部署)
不得外发的信息及内部系统集成。需设计更新、监控和漏洞响应机制。
混合配置
从同一入口自动分配处理目标。不依赖AI分类,结合多重条件综合判断。
路由由信息分类和用户权限自动决定。
首先梳理信息类型与业务的对应关系
与其从一开始就覆盖整个公司,不如选择一项具体业务,这样更容易进行设计。以销售部门为例,可将公开资料摘要、内部价格表查询和客户提案起草分别作为独立任务进行梳理。
在此基础上确认:"谁来使用""参考什么内容""回答交给谁""可以外发的范围是什么"。即使是同一份文档,负责人自己阅读与传递给外部服务是不同的判断。"能查看"不等于"可以发送"。
容易被忽视的是回答的使用去向。即便是仅在内部生成的摘要,如果直接发送给客户,信息就会流出。不仅要控制输入,还要将回答的确认和共享方式纳入业务流程。从信息入口到使用后全程把握,才能让AI导入从单纯的工具添加升级为运营设计。
液浸冷却是部署本地AI的设备侧选项
在本地运行AI时,除计算设备外,还需确认电源、散热、安装空间、噪音和维护动线。IMMERSIA的液浸冷却是将电子设备浸入适配冷却液以散热的方式,是规划此类计算基础设施部署的选项之一。
但液浸冷却本身不具备信息分类或防止外发的功能。信息保护需通过网络、认证、软件、权限管理和运营的组合来实现。此外,设备散热处理和安装条件因机型、配置和现场情况而异,需逐一确认。
明确这一区别,也有助于厘清应咨询的对象:业务侧梳理所需信息和任务,信息系统侧设计访问和路由,设备侧确认电源、冷却和维护。三方共享同一构想推进,才能实现无压力的导入。
混合信息:将任务分开处理
假设销售人员需要结合公开目录和内部折扣条件起草提案。两份资料能否一起发送给外部AI,取决于最敏感信息的处理方式。不能因为大部分是公开信息,就将剩余的机密信息也通过同一路径发送。
一种方法是将仅使用公开信息撰写说明文字的任务与反映个别条件的任务分开。但分开后生成的文字中仍可能残留机密内容。不要认为经过处理就可以自由使用,需确认最终输出将交给谁。
即便使用本地AI,也不一定完全没有外部连接。某些配置需要用于更新、监控或许可证验证的通信。区分业务数据的传输路径和管理通信路径,可以明确"在内部处理"这一说法的范围。
在规划初期,将信息类型、使用部门、参考系统、是否可外发和确认负责人整理成一张表格非常有效。模糊的栏目不要强行填写,保留为待确认事项。这样可以看清实施前需要先行判断的内容,也能缩小PoC验证的范围。
另外,将处理保留在本地与复制所有数据是两回事。可以直接参考原有业务系统,也可以只整备必要范围用于检索。如需复制,需确定更新和删除何时生效,避免过时文档持续作为回答依据。
导入的起点:"什么留在本地"
混合AI并非为每家企业套用相同配置的方案,而是先确定需要保护的信息和业务目标,再寻找满足条件的组合方式。既不需要将所有内容迁移到本地,也不需要将所有内容发送到云端。
在下次会议中,可以选取三份实际处理的文档,梳理可外发的范围和确认责任人。这个小小的整理,将成为评估配置和成本的具体素材。下一篇将解说如何将这一方针落实到实际的发送控制和访问管理中。