您当前的位置:光雾山之窗 > 国内 > 正文

企业需大模型量身定制 “多模型”核心功能受青睐

www.guangwushan.net 时间:2023-07-03 来源:巴中热线

如何选择一款适合自身发展的大模型摆在了所有企业面前。

  针对此,近日,火山方舟集成多家AI科技公司及科研院所的大模型,并已启动邀测。火山引擎总裁谭待表示:“火山方舟未来方向是多模型,所以需要平台把多模型服务好,让企业可以更方便使用对应的模型。”

  值得注意的是,火山方舟自己不做模型,其侧重点是提供一个平台,提供一个安全可信、低成本的应用服务平台。

  火山引擎智能算法负责人吴迪表示,火山方舟可加快大模型在各行业落地,发挥商业价值,其致力于帮助千行百业,更容易地获取模型,更放心地使用模型,更高效地打造应用。

  大模型层出,企业需要“多模型”

  据中信所网站发布的《中国人工智能大模型地图研究报告》数据显示,国内涌现出盘古、悟道、文心一言、通义千问、星火认知等一批具有行业影响力的预训练大模型。据不完全统计,截至5月,国内已发布79个大模型。

  但是与判别式AI不同的是,生成式AI的能力和效果目前并没有行业公认的评价标准。企业也很难直接找到适合自己业务需求的模型。

  有分析人士指出,很多企业想转型,使用大模型提高效率,但国内大模型还在初级阶段,很多企业对特定场景和数据有特殊需求,企业应按业务场景需求,择优选用不同的模型,而非把业务绑定在一家大模型上。

  另外,值得注意的是,在消费、制造、金融、零售等许多行业并不需要非常通用的、巨大的基座模型。所以大模型也需要化繁为简,比如说营销、客服等这些领域在特定工作上的表现,可能优于一个通用的大基座模型,帮助模型更好地拟合到特定场景和数据上。

  火山引擎总裁谭待对此表示,正是因为有很多这样的需求,所以我们推出火山方舟平台,其实就是解决企业应用,在模型推理的时候怎么做好多模型的应用,怎么做好安全,怎么做好成本优化。

  企业怎么选?火山方舟安全可信兼顾性价比

  作为行业首位“吃螃蟹”者,面对企业不知如何选择大模型的困惑,火山方舟提供了统一的工作流对接多家大模型提供商,一站式对接多家模型提供商,为不同场景选择最合适的模型。

  吴迪表示:“火山方舟与火山机器学习平台是一个有机的整体,你的数据集管理,模型训练,迭代与大基座模型的应用被紧密地融为一体。企业还可以同步试用多个大模型,选用更适合自身业务需要的模型组合,这个优势是其他单一大模型平台所没有的。”

  其表现为,火山方舟首创大模型安全互信计算架构,让企业用户无需担心自己的数据。随着行业分发展,大模型的安全性已引起行业和企业的重视,据网络安全公司Cyberhaven的调查,至少有4%的员工将企业敏感数据输入 ChatGPT,敏感数据占输入内容的比例高达11%。

  吴迪介绍,火山方舟已上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证。

  火山方舟另一个优势体现在聚合方面,平台汇集了百川智能、出门问问、复旦大学MOSS、IDEA、澜舟科技、MiniMax、智谱AI等七家企业及科研院所的优秀大模型,简单来理解,类似于大模型领域的“京东”或“天猫”模式。

  这种模式可面向企业开发者提供大模型精调、评测、推理等全方位的大模型服务,企业还可以类似“搭积木”一样选择适用自己的一个或多个大模型,简洁高效,开箱即用。

  另外,高性价比也是企业选择火山方舟的一个原因。众所周知,训练大模型很昂贵,但是有观点认为,从长期来看,模型的推理开销会超过训练开销,降低推理成本会是大模型应用落地的重要因素。

  “火山方舟能够帮助大家以更低的成本触达海量客户,用更小的代价在ToB市场规模化。为大家带来最有竞争力的性价比。”吴迪称,“一个经过良好精调的中小规格模型,在特定工作上的表现可能不亚于通用的、巨大的基座模型,而推理成本可以降低到原来的十分之一。”

  总之,火山方舟的理念就是,通过模型精调、流量错峰、训推一体等方式,把大模型的推理成本降下来,让企业真正用得起大模型。据了解,目前抖音集团内部十余个业务团队已开始试用火山方舟,在研发提效、知识管理、数据标注、评测、归因分析等方面探索,利用火山方舟上的大模型能力降本增效。

    声明光雾山之窗登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,文章内容仅供参考。
编辑:admin ]

相关阅读

    无相关信息