導入構想

守護機密資訊，發揮AI價值。

HYBRID PRIVATE AI

本頁面為導入構想。硬體規格、軟體及提供範圍將透過PoC與需求整理確認。

諮詢導入方案了解運作原理

運作原理

根據資訊類型，自動選擇AI處理目標。

員工的業務請求通過判定·統制層，根據機密性分配至社內AI或已批准的雲端AI。

員工業務

判定·統制

機密·僅限內部

社內AI

已批准·通用業務

已批准雲端AI

存取管理

傳送控制

稽核日誌

員工業務

判定·統制

存取管理傳送控制稽核日誌

機密·僅限內部

社內AI

已批准·通用業務

已批准雲端AI

機密資訊僅由社內AI處理，阻斷外部傳輸。對已批准雲端AI的存取受統制策略管理，並自動記錄稽核日誌。

構成示意圖。需要對判定、傳送控制及日誌進行實施與驗證。

主要應用領域

從現場課題出發，思考AI應用。

企業·通用業務

內部文件檢索與知識管理

利用安全AI高效處理內部文件建立與資訊整理。

金融·會計

閉域AI審計與風險分析

在合規管控下，智能分析內部數據並生成報告。

醫療機構

院內閉域LLM與醫療文件處理

在院內合規框架下，高效整理醫療文件並支援業務流程。

小規模驗證，穩步擴展。

8GPU配置與三步導入流程。

GPU分配示意圖（8基配置）

GPU 01

GPU 02

GPU 03

GPU 04

GPU 05

GPU 06

GPU 07

GPU 08

8基配置為參考示例。實際角色分配與數量將在PoC與需求整理中確認。

三步導入流程

需求整理

整理目標業務與使用範圍。

PoC·評估

在接近實際環境的條件下驗證，確認適配性。

導入·運營

基於驗證結果導入，開始業務運營。

導入諮詢

共同打造適合您業務的AI基礎。

配置與提供範圍將在PoC中確認。

聯絡我們

頁面結構

概述・戰略

EXECUTIVE SUMMARY

不只是硬體——企業AI活用基礎。

請諮詢

價格

8GPU・768GB

預計配置

3個領域

適用領域

混合AI工作區

自動分流機密與一般查詢。員工透過同一介面使用GPT、Claude和本地LLM。

內部稽核・合規

橫向分析合約、憑證、分錄、郵件，提取異常候選及依據。

醫療機構閉域AI

員工FAQ及院內業務支援。目的是提升營運效率，而非診斷。

設計方針

以8GPU配置為基礎，設計用於長文機密處理及高負載餘量。具體配置透過PoC確認。

HYBRID AI RATIONALE

僅靠閉域網路難以實現的三個原因

僅用閉域LLM的挑戰

頂級OSS模型較重，單台設備限制並發使用者數

僅靠本地處理全員生成需求，成本效率低下

高性能化後，與稽核及後台處理難以兼顧

透過最優路徑安全高效地處理

員工請求

判斷AI（Kev）

分析內容並路由至最優目標

外部AI

GPT、Claude等

閉域AI

本地環境

混合AI的優勢

一般生成任務使用GPT、Claude等外部AI

機密、個人及專有資料僅在本地處理

僅將機密內容路由至閉域，是大型企業的最優設計

無需將所有內容保留在本地，僅保護機密部分的設計是大型企業的最優方案。

STRATEGIC SHIFT

從分發最新LLM，到企業控制資訊的外發範圍。

EXIN統一代理所有AI存取，集中管理機密判定、傳輸控制與稽核日誌。

GPT

Claude

Gemini

內部專用AI

AI Gateway (Kev + DLP + IAM)

沿用熟悉的AI

員工繼續使用現有AI工具，無需改變工作流程。

機密資料留在內部

個人資訊、專有資料及未發布資訊不離開網路。

不讓員工自行判斷

AI閘道自動分類，員工可放心使用。

CUSTOMER PAIN

各部門機密資料洩露風險各不相同

業務・企劃部門

客戶資訊、下年度銷售計劃、報價

產品開發部門

未發布產品、研究計劃、成本資料

人事・法務部門

個人資訊、合約、機密文件

不使用AI

生產力下降

執行規定的AI閘道

同時解決兩個問題的第三選擇

未經確認使用

資料洩露風險

產品・設計

PRODUCT CONCEPT

機密留在內部。一般業務使用世界頂級雲端AI。

EXIN自動化路由，實現利用率與數據管控的兩全。

全體員工

統一AI工作區

本地規定判斷（Kev + DLP + IAM）

含機密・個人資訊

由Qwen / GLM等閉域LLM處理。輸入、RAG及回答不離開網路。

已獲批准的一般資訊

透過已批准閘道發送至GPT / Claude API，持續使用最新模型。

同一介面、同一操作。使用者無需自行決定資訊是否可發送。

SYSTEM DESIGN

以內部網路為邊界，嚴格控制資料傳輸。

員工AI工作區

內部應用

SSO / RBAC

正文、附件、歷史記錄

資料分類

EXIN判斷・管控層

零信任判斷

規定DB + 機密台帳

DLP + Kev判斷

稽核日誌・保留

已批准路徑

強制路由

內部網段

受控API出口

失敗時停止外部發送

處理引擎

推理・生成

C：本地Qwen / GLM

A/B：GPT / Claude API

D：攔截・審批

直接外部發送及個人瀏覽器使用透過MDM / 代理 / SASE等單獨管控。注：液浸冷卻本身不具備防資料洩露功能。

8 GPU FULL ARCHITECTURE

本方案的預設配置：8塊GPU全部分配給實際業務。

模型名稱、版本、授權及GPU分配將在PoC中確認

GPU 01

Kev + DLP

判斷・發送管控

GPU 02

Qwen3.8-27B

高速機密處理

GPU 03

GLM-Flash

高精度機密推理

GPU 04

GLM-Flash

TP2（與GPU03配對）

GPU 05

GLM-Flash

推理副本2

GPU 06

GLM-Flash

TP2（與GPU05配對）

GPU 07

Audit / RAG

長文・稽核批次處理

GPU 08

Audit / RAG

並發處理・隔離槽

本構想假設8GPU。並非全時100%運行，而是設計了峰值餘量和隔離。

REFERENCE PERFORMANCE

參考性能值（來自文件）

測量環境、指標和工作負載不同，不可直接比較。這些不是IMMERSIA硬體的實測或保證值。

1,246 次查詢/秒

Laya（PRO 6000）短判斷查詢

51.4 req/s

Kev-4B（L40S / 64客戶端）短文字

軟體設計

一級DLP → Kev → 不確定情況：嚴格規則 / LLM / 人工三級判斷

驗證性能

驗證日語機密遺漏率、長文、p95及誤報。指標不同，不可直接比較。

CAPACITY PLANNING

能夠覆蓋大規模使用者，是因為雲端與閉域分擔負載。

設計模型：每人每天10次，8小時，機密路由10%，峰值到達10倍

註冊員工	每日AI判斷總量	每日閉域推理量	閉域峰值（次/秒）
500	5,000	500	0.17
1,000	10,000	1,000	0.35
2,000	20,000	2,000	0.69
5,000	50,000	5,000	1.74

重要：這是到達量的需求估算，不保證生成模型能無等待地處理。

USER EXPERIENCE

同一介面，員工無需關心使用哪個模型。

EXIN AI WORKSPACE

員工帳戶機密規定適用中

請根據與A公司的交易條件和下年度銷售計劃，起草一份提案。

此請求包含「內部機密」資料

處理目標：內部Qwen / GLM

外部API發送：無

稽核日誌：已記錄

介面示例，非實際日誌

使用熟悉的高性能AI

在不降低生產力的同時，提供安全的AI使用環境。

機密資料留在內部

重要資訊在本地處理，確保資料安全。

不讓員工自行判斷

透過適當的治理，讓員工能夠放心使用AI。

用途・經濟性

PRODUCTIZATION

一台硬體，三種產品，按用途差異化。

透過PoC確認每位客戶的業務需求，在應用層面進行差異化

大型企業

Kev AI分類機密級別。個人及專有資料路由至內部Qwen/GLM，其他資料安全發送至GPT/Claude API。

金融・會計

橫向分析合約、憑證、分錄、郵件，提取異常候選及依據。最終由專家確認。

醫療機構

員工FAQ及院內業務支援。目的是提升營運效率，而非診斷。補貼資格需個別確認。

購買 / 租賃・分期 / 安裝設置+維護合約

條件需個別協商

BUSINESS PILLAR 02

用閉域AI監控金融・會計。

收款方變更・重複付款・發票不符

自動提取異常收款方變更和重複付款的候選項。

發票・分錄自動核對

橫向分析發票和分錄資料，提示不一致候選項。

內部郵件・審批分析

從內部郵件和審批文件中偵測異常審批流程。

合約・憑證讀解

閉域LLM讀解合約和憑證，提取風險候選項。

核對・比對

異常候選及依據

專家最終確認

FINANCE POC

金融・會計聯合PoC構想

這是與辻・本郷稅理士法人聯合PoC的構想計劃，並非確定的合約或業績。

合約・憑證讀解

閉域LLM讀解合約和憑證，提取風險候選項。

會計資料核對

橫向分析分錄和發票資料，提示不一致候選項。

付款稽核・異常偵測

提取重複付款、收款方變更、審批不一致的候選項及依據。

實證角色（構想）

WOODMAN：硬體・液浸・維護
iore：企業銷售・分銷・商業化
SNAFTY：AI UX・DLP・資料整合
辻・本郷：會計實務評估・專家確認

MEDICAL POC

面向醫療機構：員工電話諮詢由院內AI回答。

這是與Yukaria・豊和会醫院聯合PoC的構想計劃。目的是員工FAQ和業務支援，而非診斷。在IMMERSIA上部署需要單獨驗證。

員工手機認證

透過電話號碼和PIN認證安全存取。

語音識別・規程RAG・LLM

SIP/SBC → 語音識別 → 規程RAG → LLM → 語音合成流程。

轉接總務・效果測量

必要時轉接總務。透過日誌持續測量效果。

導入支援

補貼資格需個別確認，不列出補貼率和金額。

費用

請諮詢。

計劃在Mac Studio上進行先期驗證。在IMMERSIA上部署需要單獨驗證。

WHY 8 GPUS

保護、生成、稽核共存

安全管理

Kev + DLP高速判斷，防止機密資料外發。

AI生成

Qwen / GLM閉域LLM處理，在內部使用最新模型。

持續監控

Audit / RAG進行長文和稽核批次處理。

滿配置並非全時100%運行，而是設計了峰值餘量和隔離槽。

ECONOMICS

不只是硬體，而是作為企業整體AI活用基礎來評估

硬體・初始構建

請諮詢。

營運維護

請諮詢。

TCO估算範圍

請諮詢。

TCO估算範圍

API費用	請聯絡我們
電力・冷卻費用	請聯絡我們
硬體維護費	請聯絡我們
金融費用（租賃等）	請聯絡我們

價格、月費及人均費用不予列出，請個別諮詢。

體制・成功條件

EXECUTION PLAN

執行計劃

負責方	責任範圍	初期活動
WOODMAN	硬體・液浸・維護	硬體借出・配置驗證
iore	企業銷售・分銷・商業化	PoC支援・商流構建
SNAFTY	AI UX・DLP・整合	PoC應用開發
業務PoC合作夥伴	會計・醫療實務評估	實務驗證・回饋

0〜3個月：PoC

4〜6個月：首台

7〜12個月：金融・醫療推廣

為預計時間表，不保證交付日期或可用時間。

以上為角色方案和預計時間表，並非確定的合約或組織架構。

THE PROPOSAL

聯合商品化構想

WOODMAN

硬體・液浸冷卻・維護。提供並維護IMMERSIA硬體。

iore

企業銷售・分銷・商業化。客戶開發和商流構建。

SNAFTY

AI UX・DLP・資料整合。應用開發和系統整合。

透過聯合PoC探索標準化套件。並非確定的合約或業績。

ACCEPTANCE CRITERIA

成功標準不是GPU利用率，而是客戶能夠放心使用。

透過8GPU實機，驗證可投入業務的精度與回應速度。

01 機密遺漏率

個人資訊、合約、未發布產品的發送遺漏

02 路由精度

Cloud / Local / Redact / Deny的準確性

03 回應性能

Kev p95目標500ms，Local LLM按模型制定SLA

04 實際負載

相當於1,000〜2,000名員工，長文8K/32K（PoC目標）

05 稽核業務效果

異常候選提取・誤報・人員節省時間

06 營運・安全

出口管控・稽核日誌・故障時安全側動作

這些是PoC的目標指標，不保證性能或準確性。

全5篇解說專欄

混合私有AI解說系列

查看全部專欄

本頁內容為導入構想。設備規格、軟體、提供範圍及參考數值將在PoC與需求整理中確認。本頁不含任何價格、費用或補貼資訊。

液浸冷卻在適當的安裝和運行條件下發揮作用，不保證防止液體洩漏。