更强模型更低价格更易落地,豆包大模型日均tokens使用量超亿,落地实践再进阶

8月15日,2024火山引擎 AI 创新巡展·厦门站成功举办,会上围绕豆包大模型的模型能力和落地应用进行全面展示。来自果集、美图之家、众联世纪等客户企业的嘉宾,于巡展现场讲述了如何借助豆包大模型、火山方舟、扣子专业版、HiAgent、AI 全栈云等产品及解决方案,更好地将 AI 结合到业务之中。

火山引擎副总裁 张鑫

火山引擎副总裁张鑫在会上介绍当前大模型行业应用落地的误区与破局之路。当前大模型的落地场景呈“百花齐放”之势,火山引擎联合 Rolling AI 和 InfoQ 研究中心发布的《生成式 AI 商业落地白皮书》显示,53%大企业已经开始了生成式 AI 创新的落地尝试。张鑫指出,大模型和生成式 AI 将带来交互方式、开发方式以及研发范式、效率体验等多方面的变革,然而,AI 场景落地过程中也存在多种陷阱与误区。为了更好地帮助企业把握大模型和生成式 AI 带来的机遇,火山引擎一直和企业伙伴在大模型应用方面紧密合作,在电商、教育、科研、先进制造等多个行业场景里取得了一定的破局成果。

01.

豆包大模型、火山方舟

为企业AI创新与落地提供有力支持

截至7月,豆包大模型日均 tokens 使用量已突破5,000亿。从今年5月15日模型发布到7月份的2个月时间内,豆包大模型的平均每家企业客户日均 tokens 使用量增长了22倍。通过高使用量的持续打磨,豆包大模型获得了更强的模型能力。其中,豆包通用模型pro 在多个公开评测集以及专业的第三方评测中表现出众,是得分最高的国产大模型。

火山引擎智能算法负责人、火山方舟负责人 吴迪

火山引擎智能算法负责人、火山方舟负责人吴迪介绍,通过对模型基础能力的持续升级,豆包大模型拓展了应用场景和功能边界,能满足用户多样化、复杂化的需求。此外,豆包大模型还给出了最高可达同梯队模型数倍的初始每分钟处理 tokens 限额,让模型服务具备更强的承载力,能够应对高并发场景。

除模型效果外,落地难度也是企业应用大模型的重要考量之一。为满足垂直领域需要,企业通常需要将大模型能力与业务场景需求进行适配。一站式大模型服务平台火山方舟提供模型精调、推理、评测等全方位功能与服务,并以丰富的插件生态和 AI 原生应用开发服务,帮助企业定制化落地大模型。为帮助企业更便捷落地大模型,火山方舟对联网插件、内容插件、RAG 知识库插件等优质插件升级,拓宽模型能力边界,满足企业多样化需求。同时,扣子专业版能够用低代码方式灵活构建智能体,结合插件、工作流、图像流、知识库、数据库等一系列工具的支持,帮助企业轻松落地 AI 应用。

福州果集 CTO 姜豪

社交媒体营销是大模型的重点应用领域之一。福州果集是社交媒体平台数据、产品与全链路服务提供商,借助豆包大模型打造社媒数据 AI 分析平台,完成社媒营销数据分析的数据处理,为客户生成行业、产品分析报告,形成数字化洞察、帮助制定传播策略,实现30秒实时生成社媒营销分析报告与溯源。福州果集 CTO 姜豪指出,豆包大模型的高 TPM、高 RPM 支持,保证了果集业务的稳定性。

02.

HiAgent

助力统一、标准、安全大模型调用

当前,企业应用生成式 AI 的方案复杂度不断增加。企业专属 AI 应用创新平台 HiAgent 通过低代码的 AI 应用构建能力,满足业务人员自主构建 AI 应用的需求,摆脱专业知识限制,实现生产力提升。

火山引擎 HiAgent 产品负责人 于鸿磊

火山引擎 HiAgent 产品负责人于鸿磊表示,HiAgent 将模型应用开发方式从代码进化到自然语言,帮助企业业务人员快速搭建智能体;通过增强的企业级知识库 RAG,让知识沉淀萃取成智慧;丰富的专属企业级特性,允许企业自定义新 AI 中台,并支持混合部署。HiAgent 在教育、消费、公共服务、泛企业等多个行业与领域拥有丰富的落地实践,帮助企业实现大模型能力的落地应用,加速智能化发展。

03.

AI全栈云

为企业打造AI应用提供坚实底座

火山引擎云基础产品负责人 罗浩

生成式 AI 的突破式发展,对算力提出了前所未有的高需求。火山引擎云基础产品负责人罗浩介绍到,火山引擎 AI 全栈云依托与字节跳动的海量资源共池,从诞生起,所有的 IaaS、PaaS 层资源,以及推荐算法、数智平台等中台体系产品,都生长于同一朵云上。数据中心、软硬件基础架构的统一,避免了“算力孤岛”和“数据孤岛”问题,结合火山引擎自研服务器、自研  DPU 卡、调度算法等技术能力,火山引擎 AI 全栈云在性能、稳定性和成本上具备了更大的优势。

在大模型训练、推理场景中,火山引擎 AI 全栈云提供大规模算力支持、超高性能网络和存储以及持续高可用性,同时兼顾极致成本,为企业的 AI 创新带来可靠保障。

更大规模:依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,支持万卡集群组网规模下的线性加速能力。

更强性能:提供超高性能网络,支持 3.2Tbps RDMA 网络,全球网络 POP 覆盖广,时延优化最高达75%;提供优质的存储性能,文件存储 vePFS 支持 2TB/s 吞吐并行存储、3,000万 IOPS。

更高稳定性:提供毫秒级性能监控,智能 GPU 自愈能力,保障计算资源的稳定运行。

更优成本:提供灵活的资源使用和计费方式,自研 mGPU 容器共享方案,GPU 利用率提升100%+。

此外,火山引擎 AI 全栈云还提供强大的弹性调度能力、一站式资源服务和全链路数据管理能力,助力企业高效、弹性构建 AI 训练或推理业务,加速企业实现 AI 应用落地,释放 AI 创新潜力。此外,火山引擎 AI 全栈云还提供强大的弹性调度能力、一站式资源服务和全链路数据管理能力,助力企业高效、弹性构建 AI 训练或推理业务,加速企业实现 AI 应用落地,释放 AI 创新潜力。

美图公司高级技术总监 郭晨晖

美图公司高级技术总监郭晨晖在会上分享了 AI 驱动美图用户与收入双增长的实践经验。美图公司基于奇想大模型,已经将 AI 图像、AI 视频、AI 设计等全系产品服务与 AIGC 高度融合,并从 AI 的单点功能串联成 AI 工作流提供场景化的服务能力。同时在火山引擎千卡 GPU 资源供应支持下,借助豆包大模型实现 AI 内容生成、Prompt 优化以及火山引擎语音合成、语音识别、文本翻译等通用 AI 技术为用户提供更好的生成能力,帮助用户提效增收。

04.

大模型文旅解决方案发布

助文旅产业转型创新、游客体验升级

会上,火山引擎正式发布了大模型文旅解决方案。张鑫认为,福建地区旅游资源集中,在视频新媒介出现之前,旅客消费行为的游前、游中、游后等步骤是分散在不同媒介形态中实现的,导致旅游的消费行为路径割裂、低效。火山引擎将这些步骤在同一个媒介中实现,通过与大模型的结合,极大改变了游客的消费行为方式,使得从出行决策到旅程完成的行为链路极速缩短。

火山引擎大消费解决方案总经理 刘振宇

火山引擎大消费解决方案总经理刘振宇介绍,豆包大模型文旅解决方案囊括了智能推荐、智能体问答、AR 体验和文字、图片、视频内容生成等模型能力,以游客为中心,对游客的游览动线进行整体规划,涵盖了从目的地种草到完成游览和游览结束后二次消费的全周期。

众联世纪董事长 林欣扬

厦门众联世纪是全国领先的移动互联网高新技术企业,为通信、金融、零售、文旅等行业企业提供一站式数字化转型解决方案。众联世纪董事长林欣扬介绍到,众联世纪与火山引擎合作,结合豆包大模型、扣子专业版与自研核心能力,通过 AIGC 方式帮助各领域客户提升营销效果与效率。

生成式 AI 的行业应用浪潮如火如荼,火山引擎将持续发挥豆包大模型“更强模型、更低价格、更易落地”的优势,结合全栈 AI 服务能力,加速企业落地 AI 能力,实现业务创新。

继成都站、厦门站之后,2024火山引擎 AI 创新巡展的下一站将于8月21日落地上海,带来更多 AI 创新升级,携手企业客户推进 AI 转型落地。

THE END
0.捷成股份——与“豆包”“火山引擎”“剪映”深度合作版权合作:捷成股份作为影视版权运营和服务的公司,是字节跳动旗下产品包括火山引擎相关业务的影视版权核心供应商之一。火山引擎所服务的企业客户在进行视频内容创作、分发等业务时,需要大量正版影视版权内容,捷成股份的丰富版权资源为其提供了有力支持,满足了企业客户对优质内容的需求6.虚拟人合作:捷成股份旗下的虚拟人公司jvzquC41iwhb0|npc0ipo7hp1Ay>vqwgcf,ckmB438?'vri?3:;26=
1.火山引擎2025原动力大会点评:豆包家族产品革新AGENT落地进入加速期字节跳动在北京召开火山引擎大会,意在展示AI 技术与产业链融合的新机遇,我们看好豆包模型产品革新下,成本革命驱动普惠化,AI Agent 落地进入加速器。 投资要点: 我们认为本次 大会标志着火山引擎正式进入“全产品升级+成本下探+Agent 落地”新阶段,通过技术、定价和生态三重驱动,正在推进 AI 从实验室走向生产;同时,也为整个jvzquC41uvudm7mgzwt/exr14286/9;/4253498974?60qyon
2.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型火山引擎一直致力于构建开放共享的生态理念,自2021年发布万有计划以来,已经帮助100+家 SaaS 企业实现了业务增长,实现近万单客户签约。豆包企服联盟,是万有计划针对大模型落地的专项计划。万有计划·豆包企服联盟将提供一揽子支持规划,帮助 SaaS 企业实现 AI 升级,为行业客户提供更多开箱即用的 AI 应用。 jvzquC41yy}/frfpmgpj0lto1pku1?:5294ivvq
3.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型豆包APP 是字节跳动重点投入的大模型应用,据朱骏透露,豆包平台月度活跃用户达到2,600万,已有超过800万个智能体被创建。 豆包大模型在服务字节内部的同时,也在与火山引擎的众多企业客户合作共创。谭待认为,企业在不同业务场景中,需要不同特点的模型,从而实现最佳效果和性价比。为此,豆包大模型提供的是一个多模态模型家jvzquC41pg}t0|npc0ipo7hp1unbpp}wph{tjns14285/9:/395eg}fkn/oocuesw733:>680yivvq
4.火山引擎发布大模型训练视频预处理方案已应用于豆包视频生成模型10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。 火山引擎总裁谭待在活动致辞时表示,在AIGC、多模态等技术的共同推动下,用户体验在多个维度上经历着深刻转变。“基于抖音业务实践和与行业客户共创,火山引擎视频 jvzq<84dl0vfqyqg0eun0ls1p4532;9132771l66766.6:52;8820qyon
5.火山引擎总裁回应大模型“价格战”:现在回归合理水平,原来太贵  8月21日,字节跳动旗下火山引擎总裁谭待在接受澎湃新闻记者采访时,谈到了此前轰动行业的大模型“价格战”。   当天,火山引擎AI创新巡展在上海举办。会上,火山引擎发布了豆包大模型产品升级,并携手多点 DMALL成立零售大模型生态联盟,基于豆包大模型打造零售AI解决方案。谭待透露,字节跳动旗下最新版豆包大语jvzq<84yyy4ykwmwcpku0lto1fohk}fn146369=451
6.火山引擎发布豆包最新深度思考模型每经北京4月17日电(记者杨昕怡)在今日火山引擎AI创新巡展杭州站现场,火山引擎总裁谭待发布了最新的豆包1.5 深度思考模型。据介绍,该模型在数学、编程、科学推理等专业领域及创意写作等通用任务中表现突出。同时,模型采用MoE架构,总参数200B,激活参数为20B,低于业界同类模型参数规模的50%,具备显著的推理成本优势。同时,jvzq<84zkpybpkfp036kstf0eqs/ew4424;16:<1e8<87<8:;74tj}rn
7.豆包概念股涨超11%本周机构密集调研相关上市公司|火山引擎南凌科技(23.530,0.13,0.56%)周五发布机构调研纪要,在回答公司和字节跳动火山引擎豆包AI的合作细节时表示,南凌科技与火山引擎在多个领域开展合作,是火山引擎全线产品的代理商。同时,南凌科技融合火山引擎生态资源,优化网络架构,在新一代的零信任网络安全架构开展紧密合作,进行优势互补,在双赢的基础上进行更多业务方面的深度jvzq<84hkpgoen3ukpg/exr0ep5kl|14285/:7/375eql2kpe€rcƒu565;:3@3ujvsm
8.火山引擎回应“字节跳动被曝将打造‘豆包汽车’”:纯属谣言,没有据网友爆料,字节跳动将打造“豆包汽车”,该计划将协同字节跳动旗下火山引擎的汽车云业务,围绕智能汽车的“座舱 + 智驾”两大板块,提供汽车智能智驾终端解决方案,可视为对标华为鸿蒙智行中软件解决方案的布局。 对此,火山引擎相关负责人对界面新闻回应称,纯属谣言。火山引擎为众多汽车客户提供高效的算法训练平台,自身并没jvzq<84o0etiwkjk0eun1ltpvgtu1;547/681;>1eqtugwya3;988:<30jznn
9.火山引擎总裁谭待:建议企业家先个人使用豆包APP火山引擎总裁谭待:建议企业家先个人使用豆包APP发现更多热门视频 王楚钦暴扣全场欢呼 北京时间3.6万次播放 美国博主震撼发言:要救美国,必须搞社会主义混合制! 闻新洞察1.5万次播放 40岁男子坚持面部刮痧一年,脸部红润紧致效果显著 于晓攀6916次播放 台湾一军官表示别整那些没用的花活,真遇上解放军无人机,直接投降保住战车 慢吞吞得熊爪子2.8万次jvzquC41xkjfq7xkpc4dp8kkpctdg8724731667;1fkucrq/kpkvxw}u648:;=90f0nuou
10.蓝色光标:与火山引擎合作基于豆包模型等推动AI营销深度整合蓝色光标在互动平台表示,11月,蓝色光标已与火山引擎达成深度合作,双方将基于火山方舟、豆包·视频生成模型、扣子专业版智能体开发平台,在视频生成、视频服务解决方案以及营销行业智能体应用等领域展开深入合作,共同推动AI与营销体系的深度整合、加速营销行业AI化进程。jvzquC41o0jejn0eqs0d{ngh1714=57697/j}rn
11.OPPO、vivo、荣耀、小米、三星、华硕、字节跳动成立智能终端大据IT之家此前报道,字节跳动在 2024 春季火山引擎 Force 原动力大会上正式宣布自家豆包大模型正式开启对外服务。 据介绍,豆包大模型包含豆包通用模型 Pro、豆包通用模型 liti、豆包・角色扮演模型、豆包・语音合成模型、豆包・声音复刻模型、豆包・语音识别模型、豆包・文生图模型、豆包・Function Call 模型。 jvzquC41yy}/k}mqog4dqv4219<919:50jzn
12.国产大模型到了“后发先至”时刻?火山引擎新浪财经另外,还有许多人不太清楚“火山引擎”“火山方舟”“豆包大模型”“扣子”之间的关系。 火山引擎是字节跳动旗下云服务平台,大模型只是其中一个业务板块。 火山方舟是大模型服务平台,可以调用、训练和评测大模型,理论上应该可以使用各家的产品,不过事实上,除了豆包大模型,只提供了GLM3、Mistral和Moonshot三款开源模型,jvzq<84hkpgoen3ukpg/exr0ep5xo872463246781fud/rsgcw{zv<9:4:630|mvon
13.火山引擎携手蜜度共启豆包大模型合作新篇章产2024年7月5日,在2024世界人工智能大会暨人工智能全球治理高级别会议上,北京火山引擎科技有限公司(以下简称:火山引擎)与蜜度科技股份有限公司(以下简称:蜜度)举行豆包大模型合作备忘录签约仪式。双方将聚焦内容洞察,深入探索细分垂直行业的需求,通过“AI+”的深度链接,推进人工智能技术的全时、全域应用,为各行各业的数智jvzquC41yy}/eny0eqs/ew4y|u0e‚z13619>7320yivvq
14.智能体浪潮里,豆包的崛起之路对专业开发者来说,豆包背靠火山引擎的联动如同一个智能体开发加速器,提供强大的算力支撑和模块化组件,省去了模型训练、算力调试等复杂环节,还打通了从创作到变现的闭环。开发者在火山引擎上开发的智能体,可通过豆包生态快速触达海量用户,借助抖音、今日头条等流量入口实现精准分发。 jvzquC41yy}/rltpnktf0lto0et0cr4ctvodnn4355;96=3jvor
15.字节跳动发布豆包大模型主力模型比行业价格低99.3%中国青年网讯(记者 张亚云)今日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。 jvzq<84hkpgoen3{qwzi0ls1hktbpljaif~x1;5462;0v;5462;27h6747:46A3jvo
16.火山引擎回应筹备“豆包汽车”:纯属谣言火山引擎回应筹备“豆包汽车”:纯属谣言发现更多热门视频 孙颖莎成功复仇陈熠,展现强大实力! 耳中的影视2.9万次播放 梅德韦杰夫:美方对俄“最后通牒”加剧战争威胁 滚动播报3.3万次播放 女子发声反对女性胸部被性化,呼吁拒绝物化价值观 道哥日记1.2万次播放 平野美宇在厦门增重一公斤,全因蒯曼和覃予萱频繁投喂,张成教练jvzquC41xkjfq7xkpc4dp8kkpctdg8724731967;1fkucrq/kplje€yy99997=<0f0nuou
17.比行业价格低99%,豆包家族开“卷”?火山引擎谭待:人人用得起才是好这是一只搭载AI应用平台“扣子”所生成的bot(机器人程序)的机器狗。在5月15日的火山引擎原动力大会上,火山引擎总裁谭待现场宣布扣子以及扣子所属的字节跳动豆包大模型家族正式出道,豆包大模型将通过火山引擎对外提供服务,推出新一代全栈AI服务,帮助企业用更低的成本和更易落地的方案进行AI转型。 jvzquC41zwkrk~3eqo5:8<:476:2887;24?:39:
18.火山引擎发布行业首个大模型IT赋能平台,接入豆包大模型10月16日,火山引擎在上海推出行业首个大模型IT赋能平台“飞连”。该平台接入豆包大模型,通过All in One产品架构统管身份、网络、终端、数据等IT的核心要素,在多场景落地AI应用。飞连从2021年开始通过火山引擎对外开放服务。从字节跳动内部大规模使用,到多行业场景实践,飞连目前服务20多个行业,超过1500家客户,覆盖30jvzquC41o0zigyfrgt4dp8sgyuJfvjnnahusyjwfa4?15::47