火山方舟来了!字节首次公布大模型进展,要做淘金路上的卖水者财富号

但火山仍然迈出了谨慎的一步。6月28日,字节跳动旗下火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等服务。目前,“火山方舟”集成了智谱AI、MiniMax、百川智能等多家AI科技公司及科研院所的大模型。这也是字节跳动首次对外正式公布大模型业务相关的进展。

这意味着,在百度、阿里、腾讯等一众互联网大厂押宝自研大模型的时候,字节选择了一条成本更低、切入更快的路:搭建一个聚合第三方生产商的大模型“商店”。

某种程度上,这也更符合字节跳动的习惯,连接供应商和使用方,最终凭借优化到极致的服务效率,成为产业生态中至关重要的一环。

做性价比最高的“卖水者”

每一次技术的大变革,往往都会带来体验创新的巨大机会。

“十年前,中文互联网开始从PC时代转向移动时代,这其中最大的技术创新就是个性化推荐算法。五年前,4G技术开始普及,带宽不再成为瓶颈,以抖音为代表的短视频,也正是在这次技术变革期间涌现出来的新体验和新交互。时间来到现在,大模型已经当仁不让拿起了技术革新和体验创新的接力棒。”火山引擎总裁谭待在发布会中表示。

根据第三方报告显示,中国已发布的10亿参数以上的大模型有79个之多,在全国14个省市/地区均有团队在开展大模型研发。谭待指出,做好大模型,不仅需要算法、数据和算力这三大要素,还需要解决安全与信任、性价比和生态系统这三大难题。

火山方舟正是为解决这些问题而生。据谭待介绍,在模型生产端,火山引擎已经通过优秀的算力系统和机器学习平台证明了自己,成为众多大模型企业的首选;在模型应用端,面对多模型生态和企业1+N应用模式,同样需要提供更好的产品和方案,解决计算、安全、成本等通用问题。

“让交易成本足够低,让替代成本足够低,这样才能不断降低大模型的使用门槛,让众多企业可以更加高效地应用大模型技术。”

不过,谭待在接受时代财经采访时表示,价格低不是一个商务手段,而是要通过技术,持续把成本做低,因为短期降价最后用规模换收入不可行。“我们虽然说性价比,但是我们强调通过技术来实现性价比。”

火山引擎智能算法负责人吴迪则对时代财经透露了具体的定价模式:即将算力资源提供给大模型供应方,供应方在刨除IaaS层面的成本后,叠加他们认为合理的利润,最终在火山方舟上报价。下游客户目前仅需支付模型服务费,平台服务费会在较长时间内设置为零。

时代财经注意到,这场发布会上登台的合作伙伴,包括智谱 AI、百川智能、IDEA等,都是当下国内第一梯队的大模型开发商。

至于怎么把成本做低,吴迪也列举了一些技术手段,“我们花了很多年的时间深耕技术内功。第一是基础模型优化,包括算子优化等。第二是基于云的规模化效应,利用错峰、训推一体,把整体利用率打上去,就能把单位价格打下去。”

字节没有放弃“淘金”

今年4月,在火山引擎原动力大会后的采访中,谭待就曾明确表示,“火山引擎自己是不做大模型的”,而是将接入多家大模型深度合作,为大模型厂商提供服务。

往前追溯,从百度的文心一言,到阿里云的通义千问,再到腾讯推出MaaS大模型服务,喊出为每个企业“量身定制”大模型的口号,各大厂商逐一登台,各家的打法也在探索中日益清晰。

目前来看,对于火山引擎来说,其客户为上的思路和AWS有相似之处。此前,亚马逊AWS宣布推出生成式 AI(AIGC)工具“全家桶”,包括用于生成文本、分类、开放式问答和信息提取等任务的生成式大语言模型以及文本嵌入大语言模型等,瞄准的也是企业客户。

吴迪指出,和其他很多云厂商单纯提供算力不一样,火山方舟一方面会在资源和优化上与模型提供商进行深度合作,把推理成本往下打。另外一方面,火山算法团队会和客户做重点的应用共建和应用落地。“我们想催化整个大模型大算力在千行百业的落地速度,这应该是两者最大的不同了。”

火山方舟的推出,并不意味着字节在集团层面放弃了淘金者的角色。“火山方舟是个开放的平台。字节内部其他团队,如果做好了模型,大概也会上到方舟平台上对外提供,它在方舟上就是众多模型的一个。”谭待表示。

至于未来如何平衡自研模型和外部供应商,谭待认为,这是客户自己的选择,不需要火山来平衡。“一个企业未来一定会在多个场景应用多个模型,因为每个模型在不同场景性价比是不一样的,这是一个开放的市场,自然而然取得平衡。”

不过,无论是卖水者,还是淘金者,有一点是毋庸置疑的,在大模型这条曙光乍现的大道上,可能会迟到,但没有人敢缺席,因为缺席的代价太大。

THE END
0.字节旗下火山引擎发布“火山方舟”大模型应用加速落地|每经网每经AI快讯,6月28日,在火山引擎主办、英伟达合作举办的“V-Tech体验创新科技峰会”上,火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务。据悉,抖音集团内部已有十多个业务团队试用“火山方舟”,利用大模型能力促进降本增效。(证券时报·e公司)jvzquC41yy}/pki0eqs/ew4ctvodnnx14284/9;/4:53:B59494ivvq
1.火山方舟AI应用实验室(AIAppLab)全面解析:构建AI大模型应用的一站式在人工智能快速发展的今天,将大模型技术真正落地到实际业务场景中是一个既复杂又极具挑战性的任务。开发者不仅需要深入理解行业业务背景,还需要解决模型接口调用、多种插件协同适配、多模态深度融合交互、各类工具调用等一系列技术难题。 为了解决这些痛点,字节跳动火山方舟团队推出了AI App Lab——一个包含高代码SDKArkijvzquC41dnuh0lxfp0tfv8]kcqSva9531cxuklqg1fkucrqu13;29=>42;
2.火山方舟大模型体验中心登录立即注册 jvzquC41yy}/xxqegpmjpn3eqo5fzyjtkgtdg8ftmArbwwhj?ukff{jco
3.赵何娟对话火山引擎谭待:大模型的下一个战场在哪?新浪财经火山做了很多插件平台,做了方舟2.0,以及扣子这个低代码的平台,就是让更多的人能够更便捷地使用大模型。 所以通过这个平台,通过好的模型,通过低的价格,把整个做创新的门槛一降再降,就能看到行业的繁荣。 赵何娟:你觉得做大模型的平台,有必要什么应用都自己去开发吗?既做大模型的底层基座,又在上面去做各种各样的专jvzquC41hktbplj0uktb0lto0et0txqn14636658/3?0fxh/kpg{jy|:6914A;0ujznn
4.火山方舟大模型体验中心4 小星星高兴地向天空飞去,还不忘回头挥挥小手:谢谢兔子妈妈,我会想念你的!兔子一家也在山下开心地挥手告别。 5 小星星终于回到了妈妈的怀抱!两颗星星紧紧抱在一起,发出暖暖的光。地上的小动物们都抬起头,笑着看这幸福的一幕。 重新阅读 6 创建故事书 试用体验内容均由人工智能模型生成,不代表平台立场jvzquC41yy}/xxqegpmjpn3eqo5fzyjtkgtdg8ftm1yic{j1kiy.49772;763993/]xk\mIyeY;pNTo5i\^XmP{_
5.语音模型火山方舟大模型服务平台火山引擎官方文档中心,产品文档、快速入门、用户指南等内容,你关心的都在这里,包含火山引擎主要产品的使用手册、API或SDK手册、常见问题等必备资料,我们会不断优化,为用户带来更好的使用体验jvzquC41yy}/xxqegpmjpn3eqo5eqlx1:498;86569>1;
6.当我面完国内20家公司大模型岗位面试后,没想会这样面试体验很好。HR也没有那么咄咄逼人。阿里味不是特别明显。最终权衡也选择来了淘天。 字节AML【offer】: 部门:AML火山方舟大模型 介绍: 淘天集团的大模型研究将主要围绕两个场景展开:一是搜广推,二是逛逛的内容化。团队组建工作由淘天集团CEO戴珊、淘天集团CTO若海、阿里妈妈CTO郑波等人共同牵头。介绍链接。 预备面经: 猎头也 jvzquC41dnuh0lxfp0tfv8u{vjuo3;7a1cxuklqg1fkucrqu13:15B;233
7.大模型如何降低数据使用门槛?听听字节和火山引擎高管怎么说即使是不会写代码的普通员工,通过和大模型对话也能做好运营业务的取数、看表和分析了。 9月19日下午,火山引擎在“V-Tech数据驱动科技峰会”上宣布,火山引擎数智平台VeDI(Volcengine Data Intelligence,一款企业级数据产品)将推出“AI助手”,以接入人工智能大模型的方式,帮助企业提升数据处理、查询和分析的效率。目前jvzquC41hktbplj0gcyuoxsg{0ipo8f142842B734:;56<795:4ivvq
8.阿里百炼VS火山方舟:大模型平台终极对决阿里百炼平台豆包大模型在响应速度方面处于行业第一梯队,实测表现优异。 火山方舟的模型支持流式输出,能够实现边生成边输出,提高用户体验。 火山引擎提供了专门的模型单元(如 doubao-lite-4k 和 doubao-pro-32k),针对不同性能需求进行了优化。 在响应速度方面,火山方舟平台的豆包系列模型由于其架构设计和优化,在相同硬件条件下通常jvzquC41dnuh0lxfp0tfv8~jf87:1jwvkerf1mjvckrt1:9;56;84?