豆包大模型日均tokens使用量超亿,火山引擎全栈服务升级助企业加速转型

7月25日,2024火山引擎 AI 创新巡展·成都站正式举办。截至7月,豆包大模型日均 tokens 使用量已突破5,000亿。平均每家企业客户日均 tokens 使用量较5月15日模型发布时期增长了22倍。会上带来豆包大模型最新能力升级,火山方舟、扣子专业版、HiAgent 和云基础设施也迎来了全面更新。

火山引擎副总裁张鑫

火山引擎副总裁张鑫表示,火山引擎在高速自我迭代,走向更加智能化、行业化和区域化。他说:“通过针对性的行业方案、产品和优化服务,相信在未来,会有更多西南区域的企业借助豆包大模型和火山引擎的力量,实现业务创新,从而为经济发展注入新的活力。”

01.

豆包大模型日均tokens

使用量破5,000亿,并带来系列更新

只有大的使用量,才能打磨出好模型。截至今年7月,豆包大模型日均 tokens 使用量超过5,000亿。自今年5月15日豆包大模型发布的2个月内,平均每家企业客户日均 tokens 使用量增长了22倍。

火山引擎大模型服务算法架构师 孙帆

火山引擎大模型服务算法架构师孙帆指出,爆发式增长背后,是豆包大模型强大的模型能力和优秀的应用效果。火山引擎在今年5月发布豆包大模型,提供包含大语言模型、语音模型、视觉模型的豆包模型家族,以满足不同场景的关键需求。其中,主力模型豆包通用模型pro 在多个公开评测集以及专业的第三方评测中表现出众,是得分最高的国产大模型。

在视觉图像、语音方面,火山引擎全新发布了豆包·图生图模型,并对豆包·文生图模型、豆包·语音合成模型、豆包·声音复刻模型进行升级,以服务企业在丰富业务场景中获得更高性价比。

豆包·图生图模型:不仅能高度保留原图的人物轮廓、表情、空间结构等多维特征,还支持50余种不同风格,支持图片扩展、局部重绘和涂抹玩法,让图片进行创意延展。现已应用于抖音、剪映、豆包、星绘等应用,并已服务于三星、努比亚等企业,涵盖了手机相册、工具助手、电商营销、广告投放等多个领域。

豆包·文生图模型:深度理解多数量主体、主客体关系、人物构造、空间构造等信息,图文匹配更精准;更善于从光影明暗、氛围色彩和人物美感三个方向提升画面质感;优化中国特色内容,能够对中国人物、物品、朝代、地理、美食、节日等进行细分理解。

豆包·语音合成模型:能深度理解故事情节和人物角色,正确表达情绪;保留吞音、口音等发音习惯,媲美真人音色,让发声更自然;26个精品超自然音色,满足多种场景需要。

豆包·声音复刻模型:仅需5秒即可复制一个高保真音色,高度还原说话人声音特征和口音,支持跨6大语种迁移,发音更接近于当地人表达。

02.

火山方舟

保障大模型场景落地

模型服务落地的核心是保证企业大使用量推动下,模型效果更好、系统承载力更强、模型性价比更高。为帮助企业更便捷落地大模型,火山方舟提供核心插件和智能体能力,以及全周期数据安全可信方案,为企业 AI 应用保驾护航。

其中,头条抖音同款三大插件——联网插件、内容插件和 RAG 知识库插件能力再次升级,还新增了网页解析插件和计算器插件,进一步扩宽模型能力的边界,支持企业多样的应用需求。

智能体是大模型落地有效路径。为帮助企业“低门槛”开发智能体,火山引擎提供扣子专业版,支持低代码构建契合企业业务场景的专家型“AI Bot”,并通过专业级 SLA 和多种高级特性保障 AI 应用在企业中高效落地。

03.

HiAgent帮助企业AI技术迈向成熟

大模型落地还需要具备足够成熟的路径。火山引擎打造 HiAgent 企业专属 AI 应用创新平台,帮助企业打通拥抱大模型的最后一公里。

火山引擎 HiAgent 产品负责人 于鸿磊

火山引擎 HiAgent 产品负责人于鸿磊从速度、密度、厚度三个维度介绍了 HiAgent 如何全方位赋能企业 AI 应用的快速落地与持续优化:

速度:HiAgent 将模型应用开发方式从代码进化到自然语言,业务人员可以利用提示词、知识库、插件等工具,像搭积木一样低代码搭建智能体,提升应用创新的“速度”。

密度:增强的企业级知识库 RAG,让知识沉淀萃取成智慧,在企业流程中体现知识的“密度”。

厚度:HiAgent 丰富的专属企业级特性,允许企业自定义新 AI 中台,并支持混合部署,积累 AI 资产,让 AI 能力有“厚度”。

HiAgent 在消费、教育、医疗等多行业取得丰富落地实践,为海尔集团旗下汽车产业互联网平台卡泰驰、南开大学、协和医院等客户打造智能助手等工具,提升业务效率。

04.

AI全栈云

为大模型落地提供算力保障

AI 应用的爆发式增长,也驱动着算力需求不断升级,云基础设施在集群建设和管理、性能、稳定性等方面都面临着严峻挑战。

火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,支持万卡集群组网、万亿参数 MoE 大模型;提供超高性能网络,支持3.2Tbps RDMA 网络,全球网络 POP 覆盖广,时延优化最高达75%;提供优质的存储性能,文件存储 vePFS 支持 2TB/s 吞吐并行存储、3,000万 IOPS;提供毫秒级性能监控,智能 GPU 自愈能力,保障计算资源的稳定运行;提供灵活的资源使用和计费方式,自研 mGPU 容器共享方案,GPU 利用率提升100%+,为生成式 AI 工作负载提供更高性价比的算力资源;强大的弹性调度能力,支持分钟级创建千台实例;提供一站式资源服务和全链路数据管理能力,助力企业高效、弹性构建 AI 训练或推理业务,加速企业实现 AI 应用落地,释放 AI 创新潜力。

火山引擎云基础解决方案负责人 王佳毅

火山引擎云基础解决方案负责人王佳毅表示,火山引擎不断追求极致性价比,为客户提供开放、普惠、值得信赖的 AI 全栈云服务,助力 AI 应用敏捷迭代实现“更省、更快、更稳”。

05.

大模型走深向实

在多行业扎根结果

大模型的兴起正引领着各个行业发生深刻的变革,为了帮助企业寻找适合自己的 AI 应用场景并实现落地。本次巡展特邀来自鱼泡科技、封面传媒、晓多科技、西南交通大学的行业专家们就大模型在不同领域的落地应用进行了分享。

鱼泡科技 CDO 徐飏

鱼泡科技是西南区域的明星企业。作为全国领先的蓝领招聘平台,鱼泡科技现在的豆包大模型日均调用量已超1亿 tokens,覆盖了岗位要求识别、工种识别、求职意向识别等完整的大模型应用场景。鱼泡科技 CDO 徐飏指出,与豆包大模型合作后,相关业务场景精度和效率均获得提升。

四川封面传媒科技有限公司副总经理兼首席数据官 徐桢虎

四川封面传媒科技有限公司副总经理兼首席数据官徐桢虎,介绍了大模型如何重构新闻生产模式,他表示传媒一直处于技术驱动的潮头浪尖,封面传媒与火山引擎携手,共同构建传媒领域的大模型,致力于推动技术革新和行业进步。通过深度合作,双方将传媒行业的专业知识与先进的大模型技术相结合,引领用户进入一个充满创新与互动的传媒新纪元。

晓多科技首席技术官 向海

晓多科技是以智能对话为核心的认知智能 SaaS 产品和行业数智化解决方案服务商。晓多科技首席技术官向海表示,公司通过使用豆包大模型,成功打造了“AI 训练场”,将客服培训周期缩短了50%以上。此外,晓多科技还推出了“多策”全渠道智能知识库,该知识库基于大模型技术,实现了一键部署和全面覆盖,以智能化、自动化手段显著提升客服效率,使消费者满意度提升5%、消费者转化率提升5%。

西南交通大学信网处数据与信息系统办公室主任 张翔

西南交通大学信网处数据与信息系统办公室主任张翔表示,在教育行业,大模型的应用场景路线探索显得尤为重要。西南交通大学将响应教育部号召,联手包括火山引擎在内的国内一流厂商,在人工智能的多个关键领域展开大模型应用合作:在大模型+管理服务方面,结合大模型技术,探索为学生和教职工提供一站式服务的百事通场景;在大模型+教学方面,探索学生智能助教场景,为教师提供试题生成、教案生成和错题解析服务;在大模型+科研方面,探索大模型学术知识挖掘系统场景,助力科研人员高效、精准地进行学术探索和决策。

圆桌对话

圆桌环节,来自书声科技、百词斩、135编辑器的嘉宾,共同围绕大模型应用于企业级场景和消费级场景的前景等话题进行了深入探讨。

《生成式 AI 商业落地白皮书》发布

除了行业嘉宾的大模型落地经验分享外,火山引擎还联合 Rolling AI 和 infoQ 研究中心发布了《生成式 AI 商业落地白皮书》。该白皮书涵盖从场景选择到落地方法论,企业可以从中获取 AI 转型的思路和策略,明晰如何在自身业务中巧妙引入生成式 AI 技术,从而实现创新与突破。

从技术创新走向商业落地,豆包大模型将持续以更强模型、更低价格、更易落地的优势助力企业 AI 转型。火山引擎也将坚持把技术创新转化为实际生产力,与广大企业携手推进 AI 转型落地,激发业务增长潜能。

7月25日起至9月,“2024火山引擎 AI 创新巡展”将陆续在成都、厦门、上海、天津、深圳五大城市落地。下一站,厦门见。

THE END
0.捷成股份——与“豆包”“火山引擎”“剪映”深度合作版权合作:捷成股份作为影视版权运营和服务的公司,是字节跳动旗下产品包括火山引擎相关业务的影视版权核心供应商之一。火山引擎所服务的企业客户在进行视频内容创作、分发等业务时,需要大量正版影视版权内容,捷成股份的丰富版权资源为其提供了有力支持,满足了企业客户对优质内容的需求6.虚拟人合作:捷成股份旗下的虚拟人公司jvzquC41iwhb0|npc0ipo7hp1Ay>vqwgcf,ckmB438?'vri?3:;26=
1.火山引擎2025原动力大会点评:豆包家族产品革新AGENT落地进入加速期字节跳动在北京召开火山引擎大会,意在展示AI 技术与产业链融合的新机遇,我们看好豆包模型产品革新下,成本革命驱动普惠化,AI Agent 落地进入加速器。 投资要点: 我们认为本次 大会标志着火山引擎正式进入“全产品升级+成本下探+Agent 落地”新阶段,通过技术、定价和生态三重驱动,正在推进 AI 从实验室走向生产;同时,也为整个jvzquC41uvudm7mgzwt/exr14286/9;/4253498974?60qyon
2.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型火山引擎一直致力于构建开放共享的生态理念,自2021年发布万有计划以来,已经帮助100+家 SaaS 企业实现了业务增长,实现近万单客户签约。豆包企服联盟,是万有计划针对大模型落地的专项计划。万有计划·豆包企服联盟将提供一揽子支持规划,帮助 SaaS 企业实现 AI 升级,为行业客户提供更多开箱即用的 AI 应用。 jvzquC41yy}/frfpmgpj0lto1pku1?:5294ivvq
3.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型豆包APP 是字节跳动重点投入的大模型应用,据朱骏透露,豆包平台月度活跃用户达到2,600万,已有超过800万个智能体被创建。 豆包大模型在服务字节内部的同时,也在与火山引擎的众多企业客户合作共创。谭待认为,企业在不同业务场景中,需要不同特点的模型,从而实现最佳效果和性价比。为此,豆包大模型提供的是一个多模态模型家jvzquC41pg}t0|npc0ipo7hp1unbpp}wph{tjns14285/9:/395eg}fkn/oocuesw733:>680yivvq
4.火山引擎发布大模型训练视频预处理方案已应用于豆包视频生成模型10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。 火山引擎总裁谭待在活动致辞时表示,在AIGC、多模态等技术的共同推动下,用户体验在多个维度上经历着深刻转变。“基于抖音业务实践和与行业客户共创,火山引擎视频 jvzq<84dl0vfqyqg0eun0ls1p4532;9132771l66766.6:52;8820qyon
5.火山引擎总裁回应大模型“价格战”:现在回归合理水平,原来太贵  8月21日,字节跳动旗下火山引擎总裁谭待在接受澎湃新闻记者采访时,谈到了此前轰动行业的大模型“价格战”。   当天,火山引擎AI创新巡展在上海举办。会上,火山引擎发布了豆包大模型产品升级,并携手多点 DMALL成立零售大模型生态联盟,基于豆包大模型打造零售AI解决方案。谭待透露,字节跳动旗下最新版豆包大语jvzq<84yyy4ykwmwcpku0lto1fohk}fn146369=451
6.火山引擎发布豆包最新深度思考模型每经北京4月17日电(记者杨昕怡)在今日火山引擎AI创新巡展杭州站现场,火山引擎总裁谭待发布了最新的豆包1.5 深度思考模型。据介绍,该模型在数学、编程、科学推理等专业领域及创意写作等通用任务中表现突出。同时,模型采用MoE架构,总参数200B,激活参数为20B,低于业界同类模型参数规模的50%,具备显著的推理成本优势。同时,jvzq<84zkpybpkfp036kstf0eqs/ew4424;16:<1e8<87<8:;74tj}rn
7.豆包概念股涨超11%本周机构密集调研相关上市公司|火山引擎南凌科技(23.530,0.13,0.56%)周五发布机构调研纪要,在回答公司和字节跳动火山引擎豆包AI的合作细节时表示,南凌科技与火山引擎在多个领域开展合作,是火山引擎全线产品的代理商。同时,南凌科技融合火山引擎生态资源,优化网络架构,在新一代的零信任网络安全架构开展紧密合作,进行优势互补,在双赢的基础上进行更多业务方面的深度jvzq<84hkpgoen3ukpg/exr0ep5kl|14285/:7/375eql2kpe€rcƒu565;:3@3ujvsm
8.火山引擎回应“字节跳动被曝将打造‘豆包汽车’”:纯属谣言,没有据网友爆料,字节跳动将打造“豆包汽车”,该计划将协同字节跳动旗下火山引擎的汽车云业务,围绕智能汽车的“座舱 + 智驾”两大板块,提供汽车智能智驾终端解决方案,可视为对标华为鸿蒙智行中软件解决方案的布局。 对此,火山引擎相关负责人对界面新闻回应称,纯属谣言。火山引擎为众多汽车客户提供高效的算法训练平台,自身并没jvzq<84o0etiwkjk0eun1ltpvgtu1;547/681;>1eqtugwya3;988:<30jznn
9.火山引擎总裁谭待:建议企业家先个人使用豆包APP火山引擎总裁谭待:建议企业家先个人使用豆包APP发现更多热门视频 王楚钦暴扣全场欢呼 北京时间3.6万次播放 美国博主震撼发言:要救美国,必须搞社会主义混合制! 闻新洞察1.5万次播放 40岁男子坚持面部刮痧一年,脸部红润紧致效果显著 于晓攀6916次播放 台湾一军官表示别整那些没用的花活,真遇上解放军无人机,直接投降保住战车 慢吞吞得熊爪子2.8万次jvzquC41xkjfq7xkpc4dp8kkpctdg8724731667;1fkucrq/kpkvxw}u648:;=90f0nuou
10.蓝色光标:与火山引擎合作基于豆包模型等推动AI营销深度整合蓝色光标在互动平台表示,11月,蓝色光标已与火山引擎达成深度合作,双方将基于火山方舟、豆包·视频生成模型、扣子专业版智能体开发平台,在视频生成、视频服务解决方案以及营销行业智能体应用等领域展开深入合作,共同推动AI与营销体系的深度整合、加速营销行业AI化进程。jvzquC41o0jejn0eqs0d{ngh1714=57697/j}rn
11.OPPO、vivo、荣耀、小米、三星、华硕、字节跳动成立智能终端大据IT之家此前报道,字节跳动在 2024 春季火山引擎 Force 原动力大会上正式宣布自家豆包大模型正式开启对外服务。 据介绍,豆包大模型包含豆包通用模型 Pro、豆包通用模型 liti、豆包・角色扮演模型、豆包・语音合成模型、豆包・声音复刻模型、豆包・语音识别模型、豆包・文生图模型、豆包・Function Call 模型。 jvzquC41yy}/k}mqog4dqv4219<919:50jzn
12.国产大模型到了“后发先至”时刻?火山引擎新浪财经另外,还有许多人不太清楚“火山引擎”“火山方舟”“豆包大模型”“扣子”之间的关系。 火山引擎是字节跳动旗下云服务平台,大模型只是其中一个业务板块。 火山方舟是大模型服务平台,可以调用、训练和评测大模型,理论上应该可以使用各家的产品,不过事实上,除了豆包大模型,只提供了GLM3、Mistral和Moonshot三款开源模型,jvzq<84hkpgoen3ukpg/exr0ep5xo872463246781fud/rsgcw{zv<9:4:630|mvon
13.火山引擎携手蜜度共启豆包大模型合作新篇章产2024年7月5日,在2024世界人工智能大会暨人工智能全球治理高级别会议上,北京火山引擎科技有限公司(以下简称:火山引擎)与蜜度科技股份有限公司(以下简称:蜜度)举行豆包大模型合作备忘录签约仪式。双方将聚焦内容洞察,深入探索细分垂直行业的需求,通过“AI+”的深度链接,推进人工智能技术的全时、全域应用,为各行各业的数智jvzquC41yy}/eny0eqs/ew4y|u0e‚z13619>7320yivvq
14.智能体浪潮里,豆包的崛起之路对专业开发者来说,豆包背靠火山引擎的联动如同一个智能体开发加速器,提供强大的算力支撑和模块化组件,省去了模型训练、算力调试等复杂环节,还打通了从创作到变现的闭环。开发者在火山引擎上开发的智能体,可通过豆包生态快速触达海量用户,借助抖音、今日头条等流量入口实现精准分发。 jvzquC41yy}/rltpnktf0lto0et0cr4ctvodnn4355;96=3jvor
15.字节跳动发布豆包大模型主力模型比行业价格低99.3%中国青年网讯(记者 张亚云)今日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。 jvzq<84hkpgoen3{qwzi0ls1hktbpljaif~x1;5462;0v;5462;27h6747:46A3jvo
16.火山引擎回应筹备“豆包汽车”:纯属谣言火山引擎回应筹备“豆包汽车”:纯属谣言发现更多热门视频 孙颖莎成功复仇陈熠,展现强大实力! 耳中的影视2.9万次播放 梅德韦杰夫:美方对俄“最后通牒”加剧战争威胁 滚动播报3.3万次播放 女子发声反对女性胸部被性化,呼吁拒绝物化价值观 道哥日记1.2万次播放 平野美宇在厦门增重一公斤,全因蒯曼和覃予萱频繁投喂,张成教练jvzquC41xkjfq7xkpc4dp8kkpctdg8724731967;1fkucrq/kplje€yy99997=<0f0nuou
17.比行业价格低99%,豆包家族开“卷”?火山引擎谭待:人人用得起才是好这是一只搭载AI应用平台“扣子”所生成的bot(机器人程序)的机器狗。在5月15日的火山引擎原动力大会上,火山引擎总裁谭待现场宣布扣子以及扣子所属的字节跳动豆包大模型家族正式出道,豆包大模型将通过火山引擎对外提供服务,推出新一代全栈AI服务,帮助企业用更低的成本和更易落地的方案进行AI转型。 jvzquC41zwkrk~3eqo5:8<:476:2887;24?:39:
18.火山引擎发布行业首个大模型IT赋能平台,接入豆包大模型10月16日,火山引擎在上海推出行业首个大模型IT赋能平台“飞连”。该平台接入豆包大模型,通过All in One产品架构统管身份、网络、终端、数据等IT的核心要素,在多场景落地AI应用。飞连从2021年开始通过火山引擎对外开放服务。从字节跳动内部大规模使用,到多行业场景实践,飞连目前服务20多个行业,超过1500家客户,覆盖30jvzquC41o0zigyfrgt4dp8sgyuJfvjnnahusyjwfa4?15::47