百度云智大会发布：千帆大模型平台2.0助力企业大模型开发
|
9月5日消息，今日在2023年百度云智大会上，百度智能云宣布推出千帆大模型平台2.0，为企业提供更加高效、低成本的大模型开发解决方案。 在新的千帆大模型平台2.0中，工具链得到了重要改进。从大模型开发、训练、部署到应用开发，各个环节被无缝地连接在一起，从而大大提高了业务流程的效率。以往需要花费一个月才能看到大模型效果的技术团队，现在在千帆的一站式工具链平台上，仅需一天即可实现。
在算力效能方面，千帆大模型平台2.0采用了一套集成的异构算力集群、高速互联网络以及高性能存储系统。这些技术支持能够承载万卡规模训练的AI算力基础设施，将大模型训练和推理的成本降低到最低。 此次千帆大模型平台2.0升级还加强了数据方面的能力。除了管控大模型外，它还能够增强这些大模型的中文理解和生成能力。例如，Llama2的国外大模型在中文对话方面也能表现出色。同时，训练和推理性能也得到了全面提升，训练Llama2的吞吐量提高了1/4，而推理速度甚至提升了3倍。
在企业级安全方面，千帆的安全机制使得企业能够构建四层安全防线，保障大模型的内容安全、数据安全和系统安全。对于有高合规要求的客户，千帆支持国内外主流芯片和操作系统，还提供了私有化部署选项，确保企业拥有自主可控的大模型。 值得注意的是，百度智能云在本次百度云智大会上宣布，百度网盘“云一朵”智能助理已经吸引了超过600万的用户使用。 据本站了解，在今年8月初，千帆大模型平台完成了第一轮升级，成功地集成了LLaMA2全系列、ChatGLM2等33个大模型，使其成为国内拥有大模型最多的平台之一。同时，千帆平台还上线了103个预置的prompt模板，涵盖了对话、编程、电商等多个场景。如今，千帆大模型平台纳管的国内外主流大模型已经达到42个，而预置的有行业特色的数据集也达到了41个。这个平台已经吸引了近万家企业，覆盖了金融、制造、能源、政务、交通等400多个业务场景。 |
