内网全部数据
3 类部署形态
可换模型不锁定厂商
CONSTRAINT / 合规前提下的三条路
不是所有场景
都必须私有化
先判断数据敏感度与服务对象,再决定部署形态。全私有化的成本是公有云的数倍,不该无脑选。
我们把部署分成三类:完全内网(数据不出域)、混合(敏感数据本地、推理调用外部)、边缘(单机或小集群,断网可用)。
选型的判断标准只有一个:出问题时能不能审计到证据。
CAPABILITY / 我们做什么
私有化不是装个模型,
是一整套工程
从选型、压测到运维与权限,缺一块都跑不稳。
SCENARIOS / 典型场景
三类客户,
三种典型约束
约束不同,方案差别很大。先说清楚约束,再谈架构。
03 / 预约诊断
先确认约束,
再谈架构选型
诊断阶段我们会先问清楚:数据能不能出内网、谁来审计、多久要过测评。这些决定架构,而不是反过来。