背景概述
根据 黄金形态通APP 报道,蚂蚁集团(Ant Group)于2024年7月5日发布了基于云的密码学计算平台SecretFlow Cloud,以及一套专为大语言模型(LLMs)设计的密码学计算解决方案。该平台旨在解决LLMs在托管和推理过程中的数据安全与隐私保护问题,通过软硬件集成的密码学计算技术,实现加密数据的安全流通。
蚂蚁集团自2016年起探索隐私保护计算技术,并于2022年开源了隐私保护计算框架SecretFlow,该框架集成了多方安全计算、联邦学习、可信执行环境、同态加密和差分隐私等先进技术。SecretFlow Cloud作为新一代隐私保护计算技术,致力于克服数据流通过程中的安全、成本和可访问性痛点。
关键要点
- 加密托管与推理:提供一键加密托管服务,使提供商能够轻松将LLMs加密部署到云环境,保护宝贵资产免遭泄露和窃取;加密推理服务确保与LLMs交互过程中的数据安全和商业秘密保护。
- 成本效益:允许GPU在可信执行环境内执行计算任务,显著降低加密LLM推理与明文操作之间的成本和性能差距,提供更具成本效益的方法。
- 端到端加密:集成内存和磁盘加密等技术,确保端到端加密和安全跨域模型托管管理。
- 远程证明:用户友好的远程证明系统允许通过Web界面进行顺畅验证,最大限度减少用户摩擦。
- 部署灵活:支持公有云和私有云部署,兼容全球市场常用LLMs。在公有云设置中,用户可在短短10分钟内通过一键操作构建新的专业LLM或迁移现有LLM,并可按需购买密码学计算资源。
影响解读
蚂蚁集团副总裁兼首席技术安全官韦韬博士(Dr. Lenx Wei)指出:“数据是LLMs应用中最关键的要素,密码学计算技术显著增强了数据在跨域场景中的效用。随着LLMs向专业领域发展并成为 essential 生产力工具,密码学计算将发挥至关重要的作用,特别是在充分释放高质量、领域特定数据集的价值方面。”
韦韬博士表示,虽然企业通常将LLMs部署在私有环境中以应对数据安全挑战,但这种方法可能导致更高的运营成本,并损害服务效率和质量,最终限制LLMs的潜力。SecretFlow Cloud提供的密码学计算解决方案可以有效解决这些问题。
SecretFlow Cloud的技术已被保险、农村金融、医疗、公共服务和营销等行业采用,展示了其广泛的应用前景。
关键对比
| 特性 | 传统私有部署 | SecretFlow Cloud |
|---|---|---|
| 数据安全 | 较高,但依赖内部管控 | 端到端加密,可信执行环境 |
| 运营成本 | 较高 | 按需购买,成本效益更优 |
| 部署效率 | 较慢,需手动配置 | 一键部署,最快10分钟 |
| 性能 | 可能受安全措施影响 | 降低加密推理与明文操作差距 |
| 兼容性 | 有限 | 兼容主流LLMs,支持公有/私有云 |
未来展望
展望未来,SecretFlow Cloud计划进一步开发其密码学计算解决方案,以确保专业LLMs全生命周期(包括创建、部署和服务交付)的数据安全。蚂蚁集团将继续推动隐私保护计算技术的发展,助力数据价值的安全释放。
编辑总结
蚂蚁集团推出的SecretFlow Cloud为LLMs时代的数据安全与隐私保护提供了创新解决方案。通过软硬件结合的密码学计算技术,该平台在确保安全性的同时,兼顾了成本与效率,有望推动LLMs在更多专业领域的应用。其开源背景和行业实践也为隐私保护计算技术的普及奠定了基础。
常见问题解答
问题:SecretFlow Cloud是什么?
回答:SecretFlow Cloud是蚂蚁集团推出的基于云的密码学计算平台,专为大语言模型(LLMs)设计,提供加密托管和推理服务,确保数据安全与隐私保护。
问题:SecretFlow Cloud的主要特点有哪些?
回答:主要特点包括一键加密部署LLMs、加密推理、GPU在可信执行环境内计算、内存和磁盘加密、远程证明系统,以及支持公有云和私有云部署。
问题:SecretFlow Cloud如何降低成本?
回答:通过允许GPU在可信执行环境内执行计算任务,显著降低加密LLM推理与明文操作之间的成本和性能差距,提供更具成本效益的方法。
问题:SecretFlow Cloud支持哪些部署方式?
回答:支持公有云和私有云部署,并兼容全球市场常用的LLMs。
问题:蚂蚁集团在隐私保护计算方面有哪些历史?
回答:蚂蚁集团自2016年起探索隐私保护计算技术,并于2022年开源了SecretFlow框架,集成了多方安全计算、联邦学习、可信执行环境、同态加密和差分隐私等技术。




