当前位置:
字节跳动大模型“火山方舟”

字节跳动旗下的火山引擎召开发布会,首次正式公布在大模型领域的研发布局和合作进展,并发布大模型服务平台“火山方舟”,提供模型训练、推理、评测、精调等全方位功能与服务。

“火山方舟”由字节跳动旗下火山引擎搭建,提供了一个大模型服务平台,供开发者和企业使用。其运营模式是,在一个平台内提供多个模型,企业可同步试用多个大模型,选用更适合自身业务需要的模型组合。


对模型提供方,通过 “火山方舟”能够以更低的成本触达海量客户,更小的代价在ToB市场实现规模化;严谨的安全互信机制,兼顾灵活性与安全性;源源不断的算力,形成最具竞争力的性价比。对模型使用者来说,通过 “火山方舟”可以便捷地接触到众多高质量的基座模型,一站式对接多家模型提供商,为不同场景选择最合适的模型。


具体来看,“火山方舟”基于大模型应用的工作习惯,打造了多个核心部分。“模型广场”会有不同的模型供应商提供不同版本和尺寸的模型,用户可以直接与模型交互,调用推理API,接入生产环境;“模型评估”是“火山方舟”重点打造的环节入口,用户可以基于业务需求设计一套可量化的评估指标,在模型评估后挑选最合适的模型;“模型精调”可以帮助客户利用自有数据进行持续训练,建设和积累自己的精调数据集,降低推理成本。


目前,抖音集团内部已有十多个业务团队试用“火山方舟”,在代码纠错等研发提效场景,文本分类、总结摘要等知识管理场景,以及数据标注、归因分析等方面探索,利用大模型能力促进降本增效。这些内部实践在快速打磨“火山方舟”,推动平台能力的进一步完善。


此外,为促进模型提供方和模型使用方的互信,“火山方舟”上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的客户。


上一页:数字师