私有AI的兴起：企业对数据安全的新诉求

企业因担忧敏感数据外泄与核心知识产权流失，正逐步减少对闭源大模型如ChatGPT、Claude等工具的依赖。以Palantir为代表的公司推动AI主权部署，倡导在客户自控环境中运行开源模型。尽管性能仍略逊于前沿闭源模型，但通过专家微调的开源模型已在特定任务中实现更高准确率与更低推理成本，成为替代方案的重要选择。

隐私保护机制的技术演进

当前隐私AI基础设施正在快速完善，主要围绕“协议级”与“结构级”两种路径展开。协议级隐私依赖合同承诺，如零数据留存（ZDR），但缺乏可验证性；而结构级隐私则利用可信执行环境（TEE）、端到端加密（E2EE）和全同态加密（FHE）等技术，从硬件或密码学层面消除信任依赖。其中，TEE将推理过程置于芯片级密封舱内，支持远程证明以验证代码运行的真实性；E2EE确保用户设备加密数据，中间节点无法读取内容；FHE则允许在密文上直接计算，但代价高昂，推理成本可达明文的万倍以上。

本地推理与云托管的成本权衡

本地推理虽能彻底切断外部连接，实现最高隐私，但受限于硬件资源与模型规模，难以普及。相比之下，基于TEE的云托管服务正迅速降低成本。例如，Phala提供的机密H100租用价格已低于普通云卡，且吞吐损失控制在8%以内。NEAR AI等平台也已推出带attestation的API端点，定价与明文路线持平甚至更具优势，使可验证隐私不再昂贵。

开源模型如何实现超越

尽管通用能力仍有差距，但在特定领域，经专家标注微调的开源模型已展现显著优势。例如，Bridgewater旗下AIA Labs使用Qwen3-235B模型，在投资判断任务中达到84.7%的准确率，优于前沿模型的78.2%，同时推理成本降低13.8倍。该案例表明，专业领域的知识积累可通过微调转化为模型竞争力，尤其在战略决策类任务中，专家经验的注入可形成独特护城河。

后训练与可验证训练的突破

为实现真正私有的训练流程，Silo等新工具应运而生，支持在Tinfoil enclave中运行强化学习循环，钥匙由客户掌控。此类架构虽面临数据搬运带来的性能开销，但已具备可行性。随着NVIDIA Vera Rubin NVL72即将支持跨72卡机架的机密计算，大规模、高复杂度的私有训练将成为现实。

全链路隐私的挑战：Harness层的盲区

即使推理路径实现隐私保护，代理工作流中的工具调用、搜索与数据源访问仍暴露在明文之下。主流解决方案依赖协议层网关进行流量管控，但这些服务本身仍是信任中心。部分企业尝试将工具托管于TEE中，但仍需服务方读取明文查询。目前仅少数结构化查询（如Apple私有号码比对、MongoDB可查询加密）实现无明文访问，开放式搜索仍依赖信任，尚未进入可验证阶段。

未来价值归属：谁将捕获可验证隐私的红利？

当前私有AI虽已具备可行性，但真正的机会在于填补“可验证隐私”的最后一环——从训练、推理到工具调用、搜索索引的全链路闭环。掌握这一能力的创新者将获得不可复制的竞争优势。尽管运营商提供TEE开关，协议网关亦可复现，但唯有打通端到端隐私链条的企业，才能构建真正不可商品化的壁垒。因此，资本应聚焦于解决“缺口”，而非追逐现有基础设施的标准化切换。 最终，对于重执行的任务，信任仍可接受；但对于战略判断与长期竞争优势，验证才是唯一出路。未来的赢家，将是那些能在企业自控边界内，以专有洞见微调开源模型，并构建完整可验证隐私生态的组织。