豆包大模型日均处理超亿tokens,火山引擎服务升级加速企业转型

松果财经讯,7月25日,2024火山引擎 AI 创新巡展·成都站正式举办。截至7月,豆包大模型日均 tokens 使用量已突破5,000亿。平均每家企业客户日均 tokens 使用量较5月15日模型发布时期增长了22倍。会上带来豆包大模型最新能力升级,火山方舟、扣子专业版、HiAgent 和云基础设施也迎来了全面更新。

火山引擎副总裁 张鑫

火山引擎副总裁张鑫表示,火山引擎在高速自我迭代,走向更加智能化、行业化和区域化。他说:“通过针对性的行业方案、产品和优化服务,相信在未来,会有更多西南区域的企业借助豆包大模型和火山引擎的力量,实现业务创新,从而为经济发展注入新的活力。”

豆包大模型日均tokens,使用量破5,000亿,并带来系列更新

只有大的使用量,才能打磨出好模型。截至今年7月,豆包大模型日均 tokens 使用量超过5,000亿。自今年5月15日豆包大模型发布的2个月内,平均每家企业客户日均 tokens 使用量增长了22倍。

火山引擎大模型服务算法架构师 孙帆

火山引擎大模型服务算法架构师孙帆指出,爆发式增长背后,是豆包大模型强大的模型能力和优秀的应用效果。火山引擎在今年5月发布豆包大模型,提供包含大语言模型、语音模型、视觉模型的豆包模型家族,以满足不同场景的关键需求。其中,主力模型豆包通用模型pro 在多个公开评测集以及专业的第三方评测中表现出众,是得分最高的国产大模型。

在视觉图像、语音方面,火山引擎全新发布了豆包·图生图模型,并对豆包·文生图模型、豆包·语音合成模型、豆包·声音复刻模型进行升级,以服务企业在丰富业务场景中获得更高性价比。

豆包·图生图模型:不仅能高度保留原图的人物轮廓、表情、空间结构等多维特征,还支持50余种不同风格,支持图片扩展、局部重绘和涂抹玩法,让图片进行创意延展。现已应用于抖音、剪映、豆包、星绘等应用,并已服务于三星、努比亚等企业,涵盖了手机相册、工具助手、电商营销、广告投放等多个领域。

豆包·文生图模型:深度理解多数量主体、主客体关系、人物构造、空间构造等信息,图文匹配更精准;更善于从光影明暗、氛围色彩和人物美感三个方向提升画面质感;优化中国特色内容,能够对中国人物、物品、朝代、地理、美食、节日等进行细分理解。

豆包·语音合成模型:能深度理解故事情节和人物角色,正确表达情绪;保留吞音、口音等发音习惯,媲美真人音色,让发声更自然;26个精品超自然音色,满足多种场景需要。

豆包·声音复刻模型:仅需5秒即可复制一个高保真音色,高度还原说话人声音特征和口音,支持跨6大语种迁移,发音更接近于当地人表达。

火山方舟,保障大模型场景落地

模型服务落地的核心是保证企业大使用量推动下,模型效果更好、系统承载力更强、模型性价比更高。为帮助企业更便捷落地大模型,火山方舟提供核心插件和智能体能力,以及全周期数据安全可信方案,为企业 AI 应用保驾护航。

其中,头条抖音同款三大插件——联网插件、内容插件和 RAG 知识库插件能力再次升级,还新增了网页解析插件和计算器插件,进一步扩宽模型能力的边界,支持企业多样的应用需求。

智能体是大模型落地有效路径。为帮助企业“低门槛”开发智能体,火山引擎提供扣子专业版,支持低代码构建契合企业业务场景的专家型“AI Bot”,并通过专业级 SLA 和多种高级特性保障 AI 应用在企业中高效落地。

HiAgent帮助企业AI技术迈向成熟

大模型落地还需要具备足够成熟的路径。火山引擎打造 HiAgent 企业专属 AI 应用创新平台,帮助企业打通拥抱大模型的最后一公里。

火山引擎 HiAgent 产品负责人 于鸿磊

火山引擎 HiAgent 产品负责人于鸿磊从速度、密度、厚度三个维度介绍了 HiAgent 如何全方位赋能企业 AI 应用的快速落地与持续优化:

速度:HiAgent 将模型应用开发方式从代码进化到自然语言,业务人员可以利用提示词、知识库、插件等工具,像搭积木一样低代码搭建智能体,提升应用创新的“速度”。

密度:增强的企业级知识库 RAG,让知识沉淀萃取成智慧,在企业流程中体现知识的“密度”。

厚度:HiAgent 丰富的专属企业级特性,允许企业自定义新 AI 中台,并支持混合部署,积累 AI 资产,让 AI 能力有“厚度”。

HiAgent 在消费、教育、医疗等多行业取得丰富落地实践,为海尔集团旗下汽车产业互联网平台卡泰驰、南开大学、协和医院等客户打造智能助手等工具,提升业务效率。

AI全栈云,为大模型落地提供算力保障

AI 应用的爆发式增长,也驱动着算力需求不断升级,云基础设施在集群建设和管理、性能、稳定性等方面都面临着严峻挑战。

火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,支持万卡集群组网、万亿参数 MoE 大模型;提供超高性能网络,支持3.2Tbps RDMA 网络,全球网络 POP 覆盖广,时延优化最高达75%;提供优质的存储性能,文件存储 vePFS 支持 2TB/s 吞吐并行存储、3,000万 IOPS;提供毫秒级性能监控,智能 GPU 自愈能力,保障计算资源的稳定运行;提供灵活的资源使用和计费方式,自研 mGPU 容器共享方案,GPU 利用率提升100%+,为生成式 AI 工作负载提供更高性价比的算力资源;强大的弹性调度能力,支持分钟级创建千台实例;提供一站式资源服务和全链路数据管理能力,助力企业高效、弹性构建 AI 训练或推理业务,加速企业实现 AI 应用落地,释放 AI 创新潜力。

火山引擎云基础解决方案负责人 王佳毅

火山引擎云基础解决方案负责人王佳毅表示,火山引擎不断追求极致性价比,为客户提供开放、普惠、值得信赖的 AI 全栈云服务,助力 AI 应用敏捷迭代实现“更省、更快、更稳”。

大模型走深向实,在多行业扎根结果

大模型的兴起正引领着各个行业发生深刻的变革,为了帮助企业寻找适合自己的 AI 应用场景并实现落地。本次巡展特邀来自鱼泡科技、封面传媒、晓多科技、西南交通大学的行业专家们就大模型在不同领域的落地应用进行了分享。

鱼泡科技 CDO 徐飏

鱼泡科技是西南区域的明星企业。作为全国领先的蓝领招聘平台,鱼泡科技现在的豆包大模型日均调用量已超1亿 tokens,覆盖了岗位要求识别、工种识别、求职意向识别等完整的大模型应用场景。鱼泡科技 CDO 徐飏指出,与豆包大模型合作后,相关业务场景精度和效率均获得提升。

四川封面传媒科技有限公司副总经理兼首席数据官 徐桢虎

四川封面传媒科技有限公司副总经理兼首席数据官徐桢虎,介绍了大模型如何重构新闻生产模式,他表示传媒一直处于技术驱动的潮头浪尖,封面传媒与火山引擎携手,共同构建传媒领域的大模型,致力于推动技术革新和行业进步。通过深度合作,双方将传媒行业的专业知识与先进的大模型技术相结合,引领用户进入一个充满创新与互动的传媒新纪元。

晓多科技首席技术官 向海

晓多科技是以智能对话为核心的认知智能 SaaS 产品和行业数智化解决方案服务商。晓多科技首席技术官向海表示,公司通过使用豆包大模型,成功打造了“AI 训练场”,将客服培训周期缩短了50%以上。此外,晓多科技还推出了“多策”全渠道智能知识库,该知识库基于大模型技术,实现了一键部署和全面覆盖,以智能化、自动化手段显著提升客服效率,使消费者满意度提升5%、消费者转化率提升5%。

西南交通大学信网处数据与信息系统办公室主任 张翔

西南交通大学信网处数据与信息系统办公室主任张翔表示,在教育行业,大模型的应用场景路线探索显得尤为重要。西南交通大学将响应教育部号召,联手包括火山引擎在内的国内一流厂商,在人工智能的多个关键领域展开大模型应用合作:在大模型+管理服务方面,结合大模型技术,探索为学生和教职工提供一站式服务的百事通场景;在大模型+教学方面,探索学生智能助教场景,为教师提供试题生成、教案生成和错题解析服务;在大模型+科研方面,探索大模型学术知识挖掘系统场景,助力科研人员高效、精准地进行学术探索和决策。

圆桌对话

圆桌环节,来自书声科技、百词斩、135编辑器的嘉宾,共同围绕大模型应用于企业级场景和消费级场景的前景等话题进行了深入探讨。

《生成式 AI 商业落地白皮书》发布

除了行业嘉宾的大模型落地经验分享外,火山引擎还联合 Rolling AI 和 infoQ 研究中心发布了《生成式 AI 商业落地白皮书》。该白皮书涵盖从场景选择到落地方法论,企业可以从中获取 AI 转型的思路和策略,明晰如何在自身业务中巧妙引入生成式 AI 技术,从而实现创新与突破。

从技术创新走向商业落地,豆包大模型将持续以更强模型、更低价格、更易落地的优势助力企业 AI 转型。火山引擎也将坚持把技术创新转化为实际生产力,与广大企业携手推进 AI 转型落地,激发业务增长潜能。

7月25日起至9月,“2024火山引擎 AI 创新巡展”将陆续在成都、厦门、上海、天津、深圳五大城市落地。下一站,厦门见。

THE END
0.一文读懂火山引擎云数据库产品及选型数据库nosql关系型数据库火山引擎数据库传输服务 DTS(Database Transmission Service)提供了数据迁移、数据同步、数据订阅于一体的数据库数据传输管理服务,支持关系型数据库、非关系型数据库数据源间的数据传输,降低数据库之间数据流通复杂性,可在业务不停服的前提下轻松完成数据库迁移上云。相较于第三方迁移工具,数据库传输服务 DTS 可以更方便jvzquC41pg}t0|npc0ipo7hp1u~04974/38.2>4fgvgjn6nossynty=86:71:7xjvor
1.火山引擎产品介绍思维导图模板火山引擎是字节跳动旗下的企业级技术服务平台,提供各种云计算、大数据和人工智能技术服务。产品涵盖内容管理、数据智能、人工智能和云基础架构等多个领域,包括不限于智能推荐、机器翻译、智能客服、语音识别、视觉识别等技术。火山引擎旨在帮助客户降低技术开发和业务运营的成本,提高工作效率和创新能力。火山引擎的产品和jvzquC41yy}/r{teguypp7hqo1|jg€488e:9::i8c6ie5@;ddf;76?:
2.对话火山引擎谭待:大模型的下一个战场在哪?亿邦数字化频道赵何娟:现在国内的做大模型的企业和团队非常多,包括像月暗、智谱、百川,在国内来说相对来说有一些知名度的大模型,基本上还是在火山引擎上跑。作为一个行业底层服务的提供商来说,你会觉得国内现在的“百模大战”“千模大战”优势在哪里?或者有一些什么问题? jvzquC41yy}/gkwwp0ipo8724667494p/3=79>3jvor
3.火山引擎代理火山云代理商抖音云火山引擎是字节跳动旗下的云服务平台,将字节跳动快速发展过程中积累的增长方法、技术能力和应用工具开放给外部企业,提供云基础、视频与内容分发、数智平台VeDI、人工智能、开发与运维等服务,帮助企业在数字化升级中实现持续增长。jvzquC41yy}/w{q;0et0
4.字节收购蓝色光标??重视火山方舟、豆包、扣子智能体核心合作伙伴!!蓝色光标宣布与火山引擎达成深度合作,双方将基于火山方舟、豆包·视频生成模型、扣子专业版智能体开发平台,在视频生成、视频服务解决方案以及营销行业智能体应用等领域展开深入合作,共同推动AI与营销体系的深度整合、加速营销行业AI化进程。 豆包·视频生成模型具备精准的语义理解、强大的动态表现与多样化运镜、一致性多镜头jvzquC41yy}/lrz{cpmpppxjg0ipo8f1f4jxmzx3o6Elg‚|qtfC&GA*;5'?E'N=':;+C4.J7':;&:B*G8'G1'A<
5.火山引擎火山引擎是字节跳动旗下的云与AI服务平台。在AI时代,聚焦豆包大模型和AI云原生技术,为企业提供从 Agent 开发到部署的一站式服务,助力企业AI转型与创新发展。jvzquC41yy}/xxqegpmjpn3eqo5
6.发布两个“王炸”模型!火山引擎出大招,翻译和设计师要慌了想知道火山引擎要折腾些什么新东西吗?跟着我走就对了。 大约一个月前,我到上海参加了 "2025 火山引擎春季 FORCE 原动力大会 "。 作为半年一次的大会,火山引擎那次确实带来了很多值得关注的更新,除了豆包大模型 1.6 的正式发布、豆包大模型家族的全面焕新,还有颇受关注的扣子和 TRAE 的新消息,颇有种想把其他同类jvzq<84yyy4{ctjt0et0pn|u1cxuklqgapkx0ymrArq>8A=c3:6::n>h2;;1fl9hhhj4
7.携手火山引擎,海创汇加速“专精特新”企业数智化转型山东站而且,火山引擎在人工智能领域有着丰富的产品布局,例如豆包大模型(自研大模型)、火山方舟(一站式大模型服务平台)、AI应用开发平台(扣子专业版|Hi Agent),在与行业外部企业深度共创中,适配多种业务场景,激发企业增长潜能。 海创汇是海尔集团面向全球创业者打造的创业加速服务平台,也是工信部认定的首批支持国家级专精特新“小巨 jvzquC41uf4djrsc0eun1uzsk181295;5:532;:234704>>6:9>40qyon
8.通过搭建质量体验体系火山引擎视频云打造面向体验的产品矩阵2月25日,火山引擎视频云科技原力峰会顺利召开。 火山引擎视频云是如何发展起来的?火山引擎要做什么样的视频云?未来视频云又会是什么样的?火山引擎视频云技术负责人浩铭在以《面向体验,助推超视频时代新增长》为主题的演讲中,分享了对视频体验、交互、增长的观察与思考,并介绍了火山引擎视频云的从前、现在,以及未来的jvzquC41pg}t0v~ftk|ft|3eqo521A6:1:798990jvs
9.谢皓:AIAgent在边缘云的探索与实践边缘计算4.智能体在火山引擎边缘云的实践 接下来讲讲智能体在边缘云的实践。 4.1 协同扣子实现工厂自动巡检 第一个案例是跟扣子协作,实现了工厂的自动巡检。扣子是开发新一代 AI 智能体的应用开发平台,有一系列灵活好用的组件和工具,我们联动扣子通过定制插件和工作量让智能体具备了感知,操作设备的能力,实现了工厂的自动巡jvzquC41zkk/kwkqs0io1jwvkerf1@97fe73g
10.音视频费用扣子火山引擎官方文档中心,产品文档、快速入门、用户指南等内容,你关心的都在这里,包含火山引擎主要产品的使用手册、API或SDK手册、常见问题等必备资料,我们会不断优化,为用户带来更好的使用体验jvzquC41yy}/xxqegpmjpn3eqo5eqlx1:6:6:867:7718Hwgfkxfe}B3
11.抖音是由什么引擎提供数据|帆软数字化转型知识库火山引擎的强大之处在于其人工智能和推荐算法。字节跳动通过深度学习、机器学习等技术,对用户行为数据进行建模和分析,从而实现精准的内容推荐。推荐算法是火山引擎的核心,它通过分析用户的历史行为、兴趣爱好、社交关系等多个维度,生成个性化的推荐结果。推荐算法还会不断进行自我优化,通过A/B测试和在线学习,不断提升推荐效jvzquC41yy}/hjstwct/exr1dnuh1jwvkerf1?833690
12.【信达计算机|豆包大模型行业深度】AI投入持续加大,C端、B端两手齐抓字节跳动推出的新一代AI agent开发平台扣子,允许用户快速搭建基于大模型的各种智能体bot,并发布到各个社交平台、通讯软件或部署到网站等其他渠道。目前,扣子专业版集成了1万+插件,可以调用国内流行的大语言模型如豆包、通义千问等。2024年12月18日,在火山引擎FORCE原动力大会上,正式发布了扣子1.5版本。扣子1.5集成了jvzq<84hkpgoen3ukpg/exr0ep5squq14286/98/275eql2kpgtrcw}435<2993ujvsm
13.扣子不甘于人后,搭建自己的企业机器人火山引擎扣子扣子(coze.cn)是新一代 AI 应用开发平台。无论你是否有编程基础,都可以在扣子上快速搭建基于大模型的各类 Bot,并将 Bot 发布到各个社交平台、通讯软件或部署到网站等其他渠道。 火山引擎面向企业和个人用户推出企业级的 AI 应用开发平台,即扣子专业版。扣子专业版在扣子基础版可视化灵活编排 Bot 的能力基础上,承诺jvzquC41dnuh0lxfp0tfv8}w{{687>4ctvodnn4fgvgjn|4362<699;4
14.豆包大模型定价开启“厘时代”火山引擎助推金融行业加速升级5月15日,在火山引擎原动力发布会上,字节跳动豆包大模型家族、火山方舟2.0、AI应用及AI云基础设施等一系列最新产品正式发布。 火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,字节跳动自研的豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿TokejvzquC41ycv/gjxvoqtf{7hqo1g04976278159=38;?:4>3jvor