科技日报记者 杨雪
6月28日,大模型服务平台“火山方舟”在“V-Tech体验创新科技峰会”上发布。该平台集成了复旦大学MOSS、IDEA研究院等多家AI科技公司及科研院所的大模型,面向企业提供模型精调、评测、推理等服务。
中国科学技术信息研究所等机构发布的《中国人工智能大模型地图研究报告》显示,截至今年5月,国内已公开披露的大模型数量达到79个。与小模型“自产自用”不同的是,大模型的生产门槛很高,数据安全成为大模型时代的新命题。火山引擎总裁谭待表示,大模型服务平台的首要任务就是做好大模型使用者、提供者和云平台可以互相信任的安全保障。
火山引擎智能算法负责人吴迪介绍,平台已上线基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的使用者。他们还在探索基于NVIDIA新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案,更全面地满足大模型在不同业务场景的数据安全要求。
据了解,目前“火山方舟”还在起步阶段,工具链和下游应用插件需要持续完善。平台还将接入更多大模型,并逐步扩大邀测范围,共建开放合作的多模型生态,加速大模型在各行各业的应用落地。