百度内测企业级大模型生产平台“文心千帆”

最新信息

百度内测企业级大模型生产平台“文心千帆”
2023-05-11 19:28:00


K图 BIDU_0


K图 09888_0
  大模型引发的AI再造产业已成为趋势,但对企业来说最大的难题是,如何高效、低成本地获取大模型能力,如何挑选到最适合的大模型服务。

  5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发、生态建设等领域的最新进展。并且百度智能云方面表示,正在内测的“文心千帆大模型平台”,是全球首个一站式的企业级大模型生产平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链。
  《中国经营报》记者了解到,文心千帆将提供两种服务:第一,文心一言是目前中国市场领先的大模型,未来,文心千帆将以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,作为一个大模型生产平台,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。
  文心千帆支持微调大模型
  如今市场上已经发布了不少AI大模型产品,如何把大模型在垂直行业做好,把大模型的能力和企业业务有效结合起来,是现在众多企业都在考虑的问题。但企业应用大模型目前仍面临诸多难点,例如模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐等。
  百度智能云方面认为,大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。
  百度集团副总裁侯震宇表示:“文心千帆大模型平台是一站式的企业级大模型平台。之所以称为一站式平台,是因为它不但提供包括文心一言在内的大模型服务,还提供大模型开发和应用的整套工具链。此外,该平台还支持各类第三方大模型,未来将成为大模型生产和分发的集散地。”
  目前,文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。
  在公有云服务方面,文心千帆大模型平台将提供推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,可以大幅降低企业部署大模型的门槛。
  在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施)、租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部署能够满足对数据监管有严格要求的企业客户需求。
  百度智能云AI与大数据平台总经理忻舟总结,文心千帆大模型平台有六大特点:更易用,开箱即用,节约客户机会成本;更全面,提供覆盖全生命周期的工具链;更高效,可以端到端的全流程优化;更安全;更开放;更集成,更多插件拓展模型能力边界。
  “快且收敛,是大模型应用训练中一个非常重要的指标。”忻舟说,“只快不收敛,大模型的训练是没有用的。文心千帆在多机多卡训练性能方面,可以更快达到收敛的状态,在全球权威AI基准评测MLPerf榜单中排名世界第一。”
  企业该如何选择大模型?
  基于百度新一代大语言模型的生成AI产品文心一言于今年3月上线并开放内测,截至目前已经有300余家生态伙伴参与文心一言内测。据了解,百度内部产品正在基于文心一言升级,同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,也将基于文心千帆大模型全面升级,未来将在安全评估完成后上线。
  作为面向企业客户的文心千帆大模型平台,首批企业客户内测以来,正在与智能办公、旅行服务、电商直播、政务服务、金融服务五大领域的客户进行联合研发。例如,文心千帆与金山办公在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成场景上的联合开发已经取得了进展。“金山办公和文心千帆的合作,会进一步推动大模型在办公领域的应用和快速落地。”金山办公助理总裁田然表示,文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势。
  百度还帮助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品,赋能长安汽车的一款量产车型,打造创新性的用户体验和持续的研发动能。
  目前国内也有很多大模型产品,但对于企业来说,如何挑选一个适合的大模型成为新难题。
  侯震宇指出,企业选择大模型可以从三个标准评判:大模型本身的能力、大模型企业服务的能力、全栈技术积累程度。
  另外,企业开发和使用大模型的成本,也是挑选大模型的重要考量因素。
  侯震宇表示,百度是全球唯一在芯片、框架、模型和应用这四层进行全栈布局的人工智能公司。正因为可以实现全栈端到端的优化,文心一言自3月启动内测不到2个月,已完成4次技术版本升级,大模型推理成本降为原来的十分之一。
  此外,大模型的大计算、大参数、高成本,也对大模型时代的AI基础设施提出新的要求。尤其是在框架层和模型层之间,AI大底座有很强的协同作用,可以帮助企业构建更高效的模型,持续调优性能,并显著降低成本。
(文章来源:中国经营网)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

百度内测企业级大模型生产平台“文心千帆”

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml