导入构想

保护机密信息,释放AI价值。

HYBRID PRIVATE AI

本页面为导入构想。硬件规格、软件及提供范围将通过PoC与需求整理确认。

运作原理

根据信息类型,自动选择AI处理目标。

员工的业务请求通过判定·统制层,根据机密性分配至社内AI或已批准的云端AI。

企业员工业务

员工业务

判定·统制

IMMERSIA EDGE产品

机密·仅限内部

社内AI

已批准·通用业务

已批准云端AI

访问管理
发送控制
审计日志
员工业务

员工业务

判定·统制

访问管理发送控制审计日志
社内AI

机密·仅限内部

社内AI

已批准·通用业务

已批准云端AI

机密信息仅由社内AI处理,阻断外部传输。对已批准云端AI的访问受统制策略管理,并自动记录审计日志。

构成示意图。需要对判定、发送控制及日志进行实施与验证。

小规模验证,稳步扩展。

8GPU配置与三步导入流程。

IMMERSIA EDGE产品外观

GPU分配示意图(8基配置)

GPU 01

GPU 02

GPU 03

GPU 04

GPU 05

GPU 06

GPU 07

GPU 08

8基配置为参考示例。实际角色分配与数量将在PoC与需求整理中确认。

三步导入流程

1

需求整理

整理目标业务与使用范围。

2

PoC·评估

在接近实际环境的条件下验证,确认适配性。

3

导入·运营

基于验证结果导入,开始业务运营。

导入咨询

共同打造适合您业务的AI基础。

配置与提供范围将在PoC中确认。

联系我们

页面结构

01
概述・战略
EXECUTIVE SUMMARY

不只是硬件——企业AI活用基础。

请咨询

价格

8GPU・768GB

预计配置

3个领域

适用领域

混合AI工作区

自动分流机密与一般查询。员工通过同一界面使用GPT、Claude和本地LLM。

内部审计・合规

横向分析合同、凭证、分录、邮件,提取异常候选及依据。

医疗机构闭域AI

员工FAQ及院内业务支持。目的是提升运营效率,而非诊断。

设计方针

以8GPU配置为基础,设计用于长文机密处理及高负载余量。具体配置通过PoC确认。

HYBRID AI RATIONALE

仅靠闭域网络难以实现的三个原因

仅用闭域LLM的挑战

顶级OSS模型较重,单台设备限制并发用户数

仅靠本地处理全员生成需求,成本效率低下

高性能化后,与审计及后台处理难以兼顾

通过最优路径安全高效地处理

员工请求

判断AI(Kev)

分析内容并路由至最优目标

外部AI

GPT、Claude等

闭域AI

本地环境

混合AI的优势

一般生成任务使用GPT、Claude等外部AI

机密、个人及专有数据仅在本地处理

仅将机密内容路由至闭域,是大型企业的最优设计

无需将所有内容保留在本地,仅保护机密部分的设计是大型企业的最优方案。

STRATEGIC SHIFT

从分发最新LLM,到企业控制信息的外发范围。

EXIN统一代理所有AI访问,集中管理机密判定、传输控制与审计日志。

GPT

Claude

Gemini

内部专用AI

AI Gateway (Kev + DLP + IAM)

沿用熟悉的AI

员工继续使用现有AI工具,无需改变工作流程。

机密数据留在内部

个人信息、专有数据及未发布信息不离开网络。

不让员工自行判断

AI网关自动分类,员工可放心使用。

CUSTOMER PAIN

各部门机密数据泄露风险各不相同

销售・企划部门

客户信息、下年度销售计划、报价

产品开发部门

未发布产品、研究计划、成本数据

人事・法务部门

个人信息、合同、机密文件

不使用AI

生产力下降

执行规定的AI网关

同时解决两个问题的第三选择

未经确认使用

数据泄露风险

02
产品・设计
PRODUCT CONCEPT

机密留在内部。一般业务使用世界顶级云端AI。

EXIN自动化路由,实现利用率与数据管控的两全。

全体员工

统一AI工作区

本地规定判断(Kev + DLP + IAM)

含机密・个人信息

由Qwen / GLM等闭域LLM处理。输入、RAG及回答不离开网络。

已获批准的一般信息

通过已批准网关发送至GPT / Claude API,持续使用最新模型。

同一界面、同一操作。用户无需自行决定信息是否可发送。

SYSTEM DESIGN

以内部网络为边界,严格控制数据传输。

员工AI工作区

内部应用

SSO / RBAC

正文、附件、历史记录

数据分类

EXIN判断・管控层

零信任判断

规定DB + 机密台账

DLP + Kev判断

审计日志・保留

已批准路径

强制路由

内部网段

受控API出口

失败时停止外部发送

处理引擎

推理・生成

C:本地Qwen / GLM

A/B:GPT / Claude API

D:拦截・审批

直接外部发送及个人浏览器使用通过MDM / 代理 / SASE等单独管控。注:液浸冷却本身不具备防数据泄露功能。

8 GPU FULL ARCHITECTURE

本方案的预设配置:8块GPU全部分配给实际业务。

模型名称、版本、许可证及GPU分配将在PoC中确认

GPU 01

Kev + DLP

判断・发送管控

GPU 02

Qwen3.8-27B

高速机密处理

GPU 03

GLM-Flash

高精度机密推理

GPU 04

GLM-Flash

TP2(与GPU03配对)

GPU 05

GLM-Flash

推理副本2

GPU 06

GLM-Flash

TP2(与GPU05配对)

GPU 07

Audit / RAG

长文・审计批处理

GPU 08

Audit / RAG

并发处理・隔离槽

本构想假设8GPU。并非全时100%运行,而是设计了峰值余量和隔离。

REFERENCE PERFORMANCE

参考性能值(来自文档)

测量环境、指标和工作负载不同,不可直接比较。这些不是IMMERSIA硬件的实测或保证值。

1,246 次查询/秒

Laya(PRO 6000)短判断查询

51.4 req/s

Kev-4B(L40S / 64客户端)短文本

软件设计

一级DLP → Kev → 不确定情况:严格规则 / LLM / 人工三级判断

验证性能

验证日语机密遗漏率、长文、p95及误报。指标不同,不可直接比较。

CAPACITY PLANNING

能够覆盖大规模用户,是因为云端与闭域分担负载。

设计模型:每人每天10次,8小时,机密路由10%,峰值到达10倍

注册员工每日AI判断总量每日闭域推理量闭域峰值(次/秒)
5005,0005000.17
1,00010,0001,0000.35
2,00020,0002,0000.69
5,00050,0005,0001.74

重要:这是到达量的需求估算,不保证生成模型能无等待地处理。

USER EXPERIENCE

同一界面,员工无需关心使用哪个模型。

EXIN AI WORKSPACE

员工账户机密规定适用中

请根据与A公司的交易条件和下年度销售计划,起草一份提案。

此请求包含「内部机密」数据

处理目标:内部Qwen / GLM

外部API发送:无

审计日志:已记录

界面示例,非实际日志

使用熟悉的高性能AI

在不降低生产力的同时,提供安全的AI使用环境。

机密数据留在内部

重要信息在本地处理,确保数据安全。

不让员工自行判断

通过适当的治理,让员工能够放心使用AI。

03
用途・经济性
PRODUCTIZATION

一台硬件,三种产品,按用途差异化。

通过PoC确认每位客户的业务需求,在应用层面进行差异化

大型企业

Kev AI分类机密级别。个人及专有数据路由至内部Qwen/GLM,其他数据安全发送至GPT/Claude API。

金融・会计

横向分析合同、凭证、分录、邮件,提取异常候选及依据。最终由专家确认。

医疗机构

员工FAQ及院内业务支持。目的是提升运营效率,而非诊断。补贴资格需个别确认。

购买 / 租赁・分期 / 安装设置+维护合同

条件需个别协商

BUSINESS PILLAR 02

用闭域AI监控金融・会计。

收款方变更・重复付款・发票不符

自动提取异常收款方变更和重复付款的候选项。

发票・分录自动核对

横向分析发票和分录数据,提示不一致候选项。

内部邮件・审批分析

从内部邮件和审批文件中检测异常审批流程。

合同・凭证读解

闭域LLM读解合同和凭证,提取风险候选项。

核对・比对

异常候选及依据

专家最终确认

FINANCE POC

金融・会计联合PoC构想

这是与辻・本郷税理士法人联合PoC的构想计划,并非确定的合同或业绩。

合同・凭证读解

闭域LLM读解合同和凭证,提取风险候选项。

会计数据核对

横向分析分录和发票数据,提示不一致候选项。

付款审计・异常检测

提取重复付款、收款方变更、审批不一致的候选项及依据。

实证角色(构想)

  • WOODMAN:硬件・液浸・维护

  • iore:企业销售・分销・商业化

  • SNAFTY:AI UX・DLP・数据集成

  • 辻・本郷:会计实务评估・专家确认

MEDICAL POC

面向医疗机构:员工电话咨询由院内AI回答。

这是与Yukaria・豊和会医院联合PoC的构想计划。目的是员工FAQ和业务支持,而非诊断。在IMMERSIA上部署需要单独验证。

员工手机认证

通过电话号码和PIN认证安全访问。

语音识别・规程RAG・LLM

SIP/SBC → 语音识别 → 规程RAG → LLM → 语音合成流程。

转接总务・效果测量

必要时转接总务。通过日志持续测量效果。

导入支持

补贴资格需个别确认,不列出补贴率和金额。

费用

请咨询。

计划在Mac Studio上进行先期验证。在IMMERSIA上部署需要单独验证。

WHY 8 GPUS

保护、生成、审计共存

安全管理

Kev + DLP高速判断,防止机密数据外发。

AI生成

Qwen / GLM闭域LLM处理,在内部使用最新模型。

持续监控

Audit / RAG进行长文和审计批处理。

满配置并非全时100%运行,而是设计了峰值余量和隔离槽。

ECONOMICS

不只是硬件,而是作为企业整体AI活用基础来评估

硬件・初始构建

请咨询。

运营维护

请咨询。

TCO估算范围

请咨询。

TCO估算范围

API费用请联系我们
电力・冷却费用请联系我们
硬件维护费请联系我们
金融费用(租赁等)请联系我们

价格、月费及人均费用不予列出,请个别咨询。

04
体制・成功条件
EXECUTION PLAN

执行计划

负责方责任范围初期活动
WOODMAN硬件・液浸・维护硬件借出・配置验证
iore企业销售・分销・商业化PoC支持・商流构建
SNAFTYAI UX・DLP・集成PoC应用开发
业务PoC合作伙伴会计・医疗实务评估实务验证・反馈
1

0〜3个月:PoC

2

4〜6个月:首台

3

7〜12个月:金融・医疗推广

为预计时间表,不保证交付日期或可用时间。

以上为角色方案和预计时间表,并非确定的合同或组织架构。

THE PROPOSAL

联合商品化构想

WOODMAN

硬件・液浸冷却・维护。提供并维护IMMERSIA硬件。

iore

企业销售・分销・商业化。客户开发和商流构建。

SNAFTY

AI UX・DLP・数据集成。应用开发和系统集成。

通过联合PoC探索标准化套餐。并非确定的合同或业绩。

ACCEPTANCE CRITERIA

成功标准不是GPU利用率,而是客户能够放心使用。

通过8GPU实机,验证可投入业务的精度与响应速度。

01

01 机密遗漏率

个人信息、合同、未发布产品的发送遗漏

02

02 路由精度

Cloud / Local / Redact / Deny的准确性

03

03 响应性能

Kev p95目标500ms,Local LLM按模型制定SLA

04

04 实际负载

相当于1,000〜2,000名员工,长文8K/32K(PoC目标)

05

05 审计业务效果

异常候选提取・误报・人员节省时间

06

06 运营・安全

出口管控・审计日志・故障时安全侧动作

这些是PoC的目标指标,不保证性能或准确性。

全5篇解说专栏

混合私有AI解说系列

  1. 第1篇云端还是本地?企业AI走向"按需分配"
  2. 第2篇防止机密信息外泄的AI架构设计
  3. 第3篇8块GPU如何使用?解读企业AI基础架构
  4. 第4篇内部业务、财务与医疗的私有AI应用构想
  5. 第5篇PoC与运营:让AI导入成功的推进方法

本页内容为导入构想。设备规格、软件、提供范围及参考数值将在PoC与需求整理中确认。本页不含任何价格、费用或补贴信息。

液浸冷却在适当的安装和运行条件下发挥作用,不保证防止液体泄漏。