豆包大模型家族发布火山方舟升级,火山引擎如何打造全栈技术服务财经头条

在当今的数字化浪潮中,大模型以其卓越的语言理解和生成能力,正成为推动业务创新的重要引擎。随着“模型即服务”在云服务领域的崛起,企业对于高效、经济的 AI 模型应用的需求日益迫切。然而,现实中大模型的应用并非一帆风顺,企业在尝试将其融入业务流程时,往往面临着效果不尽人意、成本高昂以及落地难度大等诸多挑战。

在这样的背景下,大模型的实践应用不应仅仅是市场的“噱头”,企业客户迫切需要真正“好用、能用、有用”的产品和服务。更重要的是“性价比”,产品能力固然重要,但在市场竞争如此激烈的今天,价格已经成为了企业客户决策的第一要素。

5 月 15 日,2024 火山引擎 FORCE 原动力大会上,火山引擎重磅发布了豆包大模型家族和火山方舟 2.0 等一系列创新产品,并且宣布豆包主力模型在企业市场的定价为 0.0008 元 / 千 tokens,0.8 厘就能处理 1,500 多个汉字,比行业便宜 99.3%,是当之无愧的“超低价”。

“大模型的超低定价,来源于我们在技术上有信心优化成本。”  火山引擎总裁谭待在大会上表示,技术上的优势,为火山引擎提供了定价的底气。火山引擎不仅想为企业提供模型服务,更致力于打造一个完备而有效的全栈 AI 技术服务生态,为企业提供模型服务的全链路解决方案。

那么,相对于市面上的其他产品,字节跳动的模型产品和火山引擎的模型服务到底有何优势?火山引擎又将如何打造全栈模型服务能力,为企业的智能化升级提供支持?

模型应用进化,实践是最好的磨刀石

以豆包 App 为例,自 2023 年 8 月上线以来,就攻陷了各大应用市场的下载榜单,据悉,截止目前,豆包 App 下载量已经超过 1 亿,桌面端 +App 的月活用户数量已经达到了 2600 万,有超过 800 万个智能体被创建,是当之无愧的明星 AI 产品;扣子也早已在海内外打出名气,凭借超强的扩展性和性价比攻城略地。能在火热的 AI 应用市场中脱颖而出,并在大众对于 AI 认知趋于理性后,仍旧保持着高访问量、调用量和活跃度,豆包 App 和扣子的“实力”有目共睹。

这直接戳中了当下 AI 应用普遍面临着的痛点:不怕不好用,只怕没人用。基于大模型产品的技术特性,只有最大的使用量,才能打磨出最好的模型,只有最多的实践数据,才能催动“智能涌现”的发生,而在庞大使用量和实际场景的锻炼下,应用才能更好地满足用户的使用需求,实现持续迭代。

遗憾的是,对于很多产品来说,没有 GPT 那样的顶流地位,想实现“应用进化”非常艰难。

而作为行业中的“标杆案例”,豆包大模型就是在“千锤百炼”下长成的。现如今,豆包大模型平均每天处理 1200 亿 tokens(约 1800 亿汉字),生成 3000 万张图片,对于火山引擎和豆包大模型来说,模型服务早已不是“纸上谈兵”,其正在用户、企业的实际应用中不断迭代与进化。

首先是字节跳动内部 50+ 业务的持续打磨。基于字节跳动庞大的业务生态,豆包大模型光是在内部就能接触到足够丰富的业务场景。据悉,豆包大模型不仅参与到办公智能助手、数据智能分析、编程助手等企业内部的办公开发场景,还覆盖了电商导购、售后客服、营销创作等前端对客场景,在字节跳动 50 余个实际业务的打磨之下,豆包大模型被应用在一线使用场景中,在字节系产品的庞大用户量、数据量的催化下,豆包大模型得以快速迭代。

除了内部打磨、C 端实践,企业端场景的应用至关重要,这决定着模型是否能真正成为“生产力工具”。现如今,豆包大模型已经被广泛应用于火山引擎的企业服务中,覆盖了智能终端、汽车、金融、消费等多个重要行业,更多触达了 OPPO、vivo、小米、荣耀、三星、华硕、招行、捷途、吉利、北汽、智己、广汽、东风本田、海底捞、飞鹤...... 等知名企业。

大会上,火山引擎与企业客户宣布共同成立两大模型联盟:智能终端大模型联盟与汽车大模型生态联盟,在智能终端 AI、汽车全场景 AI 等领域进一步展开探索,这也让豆包大模型的未来发展充满了更多可能性。

豆包大模型家族发布:多元场景、安全可控

实践应用是模型能力进化的关键环节,但如何为模型服务开拓更多用户、寻找更多落地机会,则需要更深入的思考。不得不承认,当前企业客户对于模型服务存在一种“为了用而用”的误区,这往往导致模型服务与实际需求之间出现偏差。当需求得不到满足时,对前沿技术的过度依赖也可能变成一种资源浪费,这不利于整个行业的可持续发展。

对于火山引擎等行业内的领军企业来说,谁能真正洞察企业客户的深层需求,谁就能占据有利地位。从当前云计算与智能化融合的趋势来看,AI 及大模型若想助力企业业务创新升级,主要需要实现三大目标:

利用 AI 打造差异化优势,提升业务场景的创新能力,助力用户体验升级。

降低成本、提高效率,通过智能化手段提升业务效率,加快决策和工作流程。

在满足企业多样化需求的同时,确保模型服务的安全性和稳定性。

能满足上述三大目标的模型服务产品,不仅要有模型本身的卓越性能,还需要满足可用性、易用性、成本可控、安全合规等需求。这就要求模型服务产品本身不能有明显的缺陷。

或许正是基于这样的洞察,字节跳动选择推出豆包大模型家族,加持火山引擎的模型服务能力。

首先,模型的性能效果仍然是核心。正如上文所述,豆包大模型在模型效果上实现了显著提升。以字节跳动自研的 LLM 模型专业版“豆包通用模型 pro”为例,其最大窗口尺寸可达 128K,且全系列可精调,具备强大的理解、生成、逻辑和记忆能力,适用于问答、摘要、创作、文本分类、角色扮演等通用场景,功能全面。

针对不同的业务场景和多模态需求,豆包大模型也实现了进一步的进化。除了通用模型,还包括 5 秒即可实现声音 1:1 克隆的声音复刻模型、具有超自然语音合成能力的语音合成模型、准确率极高的语音识别模型、扣子背后的主力模型 Function Call,以及角色扮演模型、文生图模型、向量化模型等。它们共同构成了豆包大模型家族,旨在满足各行业、多元场景的服务需求。

针对企业的个性化需求,豆包的主力模型提供了通用全面的 pro 版本和低延迟、高性价比的 lite 版本,企业可以根据自身需求灵活选择。同时,全系列语言模型均支持继续预训练或 SFT 精调,使企业能够基于自身业务场景,自主开发更适配的 AI 应用。豆包将模型精调和预训练的能力赋予客户,使企业能够实现“一个模型,多元应用”。

更重要的是,这一次豆包大模型真正做到了“人人用得起”,豆包主力模型在企业市场的定价只有 0.0008 元 / 千 tokens,0.8 厘就能处理 1,500 多个汉字,比行业便宜 99.3%。在这样的“卷”的价格之下,企业可以真正做到降本增效,用低成本创造新价值。

大会上,火山引擎总裁谭待表示,有信心通过技术优化降低成本。例如通过对模型结构的优化调整、在工程上从以前的单机推理演进到现在的分布式推理、把不同负载的推理混合调度,这些技术能够把各种各样底层算力用得更好,同时实现大幅的降低成本,让每一家企业都能用得起大模型。

在金融、科技等行业客户极为关注的安全问题上,豆包大模型作为首批通过大模型服务安全备案的产品,满足了合规性需求。在火山方舟平台全周期安全可控方案的支持下,豆包大模型在数据加密传输、信息内容安全、防止恶意攻击和数据泄露等方面提供了有力保障,让企业能够放心使用。

从应用到平台,火山引擎全栈模型服务是如何炼成的?

豆包大模型家族已经为火山引擎的企业客户提供了强大的模型服务解决方案,但这只是一个开始。火山引擎的终极目标是通过其大模型云计算能力,全面赋能企业,助力其在 AI 时代实现数字化与智能化的升级。这一愿景在火山方舟 2.0 的推出中得到了充分体现。

作为一站式大模型服务平台,火山方舟 2.0 在性能和系统承载力方面实现了显著提升。平台拥有海量资源,能够通过资源潮汐调度保障流量高峰时业务的稳定性。同时,其瞬时可用的特性,使得创建模型接入点后 5 秒即可使用,大大提升了业务的响应速度。极致弹性的扩缩容能力,为企业有效支撑突发流量和业务高峰提供了保障,同时降低了成本。

在企业 AI 应用的稳定性和成本控制方面,火山方舟 2.0 为企业级 AI 应用的落地提供了坚实的基础。而三大核心插件则进一步加速了企业 AI 应用的产出与创新。

联网插件提供了与头条、抖音相同的搜索能力,结合多模态交互方式和领先的意图识别技术,大幅提升了模型的信息获取能力。内容插件则依托字节跳动体系的海量内容资源,通过基于意图的垂直内容信息检索,提供了内容时效性更强的解决方案。RAG 知识库插件以其毫秒级的高性能检索和流式知识库索引更新,降低了企业在使用 AI 模型时的“幻觉”,提升了应用的实用性。

扣子专业版的推出,使得企业或创业者可以接入更多高级特性,享有企业级的各项能力。在扣子原有功能基础之上,扣子专业版提供企业级性能的智能体运行时。保障各项服务 SLA,包括但不限于并发量、响应时长等。并开放 SSO、组织权限管理等企业特性。

可以预见,未来将有越来越多的企业利用扣子专业版进行多场景的开发,非编程人员也可以更好地使用上 AI,为工作全流程进行提效。除此之外,火山引擎还推出了智能创作云 2.0,发布了智能数据洞察 AI 助手 ChatBI、销售 AI 助手 Sales Copilot 等 AI 应用,帮助企业快速实现 AI 升级。

全栈 AI 技术服务生态的构建不仅仅在于模型服务本身和 AI 应用开发,基础设施的匹配升级同样重要。在这次升级中,火山引擎还对旗下云底座进行了全面升级。会上,火山引擎全新发布了混合云 veStack 智算版,其拥有着万卡集群组网,3.2T 高性能无损网络的超大规模优势、可以实现 97.78% 训练加速比和分钟级故障发现和自愈的极致性能,还能够适配十余种 GPU 和主流国产化 GPU,应对本地部署需求。

通过这些升级,火山引擎展现了其全栈 AI 技术服务生态的构建能力。从基础设施到模型即服务(MaaS)、模型应用,火山引擎的技术服务生态为企业提供了全方位的支持,帮助企业在 AI 时代实现数字化与智能化的升级,推动业务的持续增长和创新。

火山引擎的这一系列动作,无疑是对 AI 技术应用的一次深刻洞察和前瞻性布局。火山方舟 2.0 的推出,不仅为企业提供了更加强大和灵活的 AI 应用开发平台,更是在推动整个行业向更高效、更智能的方向发展。随着火山引擎全栈 AI 技术服务生态的不断完善,我们有理由相信,它将为企业带来更多的可能性,开启 AI 技术应用的新篇章。

THE END
0.捷成股份——与“豆包”“火山引擎”“剪映”深度合作版权合作:捷成股份作为影视版权运营和服务的公司,是字节跳动旗下产品包括火山引擎相关业务的影视版权核心供应商之一。火山引擎所服务的企业客户在进行视频内容创作、分发等业务时,需要大量正版影视版权内容,捷成股份的丰富版权资源为其提供了有力支持,满足了企业客户对优质内容的需求6.虚拟人合作:捷成股份旗下的虚拟人公司jvzquC41iwhb0|npc0ipo7hp1Ay>vqwgcf,ckmB438?'vri?3:;26=
1.火山引擎2025原动力大会点评:豆包家族产品革新AGENT落地进入加速期字节跳动在北京召开火山引擎大会,意在展示AI 技术与产业链融合的新机遇,我们看好豆包模型产品革新下,成本革命驱动普惠化,AI Agent 落地进入加速器。 投资要点: 我们认为本次 大会标志着火山引擎正式进入“全产品升级+成本下探+Agent 落地”新阶段,通过技术、定价和生态三重驱动,正在推进 AI 从实验室走向生产;同时,也为整个jvzquC41uvudm7mgzwt/exr14286/9;/4253498974?60qyon
2.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型火山引擎一直致力于构建开放共享的生态理念,自2021年发布万有计划以来,已经帮助100+家 SaaS 企业实现了业务增长,实现近万单客户签约。豆包企服联盟,是万有计划针对大模型落地的专项计划。万有计划·豆包企服联盟将提供一揽子支持规划,帮助 SaaS 企业实现 AI 升级,为行业客户提供更多开箱即用的 AI 应用。 jvzquC41yy}/frfpmgpj0lto1pku1?:5294ivvq
3.字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型豆包APP 是字节跳动重点投入的大模型应用,据朱骏透露,豆包平台月度活跃用户达到2,600万,已有超过800万个智能体被创建。 豆包大模型在服务字节内部的同时,也在与火山引擎的众多企业客户合作共创。谭待认为,企业在不同业务场景中,需要不同特点的模型,从而实现最佳效果和性价比。为此,豆包大模型提供的是一个多模态模型家jvzquC41pg}t0|npc0ipo7hp1unbpp}wph{tjns14285/9:/395eg}fkn/oocuesw733:>680yivvq
4.火山引擎发布大模型训练视频预处理方案已应用于豆包视频生成模型10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。 火山引擎总裁谭待在活动致辞时表示,在AIGC、多模态等技术的共同推动下,用户体验在多个维度上经历着深刻转变。“基于抖音业务实践和与行业客户共创,火山引擎视频 jvzq<84dl0vfqyqg0eun0ls1p4532;9132771l66766.6:52;8820qyon
5.火山引擎总裁回应大模型“价格战”:现在回归合理水平,原来太贵  8月21日,字节跳动旗下火山引擎总裁谭待在接受澎湃新闻记者采访时,谈到了此前轰动行业的大模型“价格战”。   当天,火山引擎AI创新巡展在上海举办。会上,火山引擎发布了豆包大模型产品升级,并携手多点 DMALL成立零售大模型生态联盟,基于豆包大模型打造零售AI解决方案。谭待透露,字节跳动旗下最新版豆包大语jvzq<84yyy4ykwmwcpku0lto1fohk}fn146369=451
6.火山引擎发布豆包最新深度思考模型每经北京4月17日电(记者杨昕怡)在今日火山引擎AI创新巡展杭州站现场,火山引擎总裁谭待发布了最新的豆包1.5 深度思考模型。据介绍,该模型在数学、编程、科学推理等专业领域及创意写作等通用任务中表现突出。同时,模型采用MoE架构,总参数200B,激活参数为20B,低于业界同类模型参数规模的50%,具备显著的推理成本优势。同时,jvzq<84zkpybpkfp036kstf0eqs/ew4424;16:<1e8<87<8:;74tj}rn
7.豆包概念股涨超11%本周机构密集调研相关上市公司|火山引擎南凌科技(23.530,0.13,0.56%)周五发布机构调研纪要,在回答公司和字节跳动火山引擎豆包AI的合作细节时表示,南凌科技与火山引擎在多个领域开展合作,是火山引擎全线产品的代理商。同时,南凌科技融合火山引擎生态资源,优化网络架构,在新一代的零信任网络安全架构开展紧密合作,进行优势互补,在双赢的基础上进行更多业务方面的深度jvzq<84hkpgoen3ukpg/exr0ep5kl|14285/:7/375eql2kpe€rcƒu565;:3@3ujvsm
8.火山引擎回应“字节跳动被曝将打造‘豆包汽车’”:纯属谣言,没有据网友爆料,字节跳动将打造“豆包汽车”,该计划将协同字节跳动旗下火山引擎的汽车云业务,围绕智能汽车的“座舱 + 智驾”两大板块,提供汽车智能智驾终端解决方案,可视为对标华为鸿蒙智行中软件解决方案的布局。 对此,火山引擎相关负责人对界面新闻回应称,纯属谣言。火山引擎为众多汽车客户提供高效的算法训练平台,自身并没jvzq<84o0etiwkjk0eun1ltpvgtu1;547/681;>1eqtugwya3;988:<30jznn
9.火山引擎总裁谭待:建议企业家先个人使用豆包APP火山引擎总裁谭待:建议企业家先个人使用豆包APP发现更多热门视频 王楚钦暴扣全场欢呼 北京时间3.6万次播放 美国博主震撼发言:要救美国,必须搞社会主义混合制! 闻新洞察1.5万次播放 40岁男子坚持面部刮痧一年,脸部红润紧致效果显著 于晓攀6916次播放 台湾一军官表示别整那些没用的花活,真遇上解放军无人机,直接投降保住战车 慢吞吞得熊爪子2.8万次jvzquC41xkjfq7xkpc4dp8kkpctdg8724731667;1fkucrq/kpkvxw}u648:;=90f0nuou
10.蓝色光标:与火山引擎合作基于豆包模型等推动AI营销深度整合蓝色光标在互动平台表示,11月,蓝色光标已与火山引擎达成深度合作,双方将基于火山方舟、豆包·视频生成模型、扣子专业版智能体开发平台,在视频生成、视频服务解决方案以及营销行业智能体应用等领域展开深入合作,共同推动AI与营销体系的深度整合、加速营销行业AI化进程。jvzquC41o0jejn0eqs0d{ngh1714=57697/j}rn
11.OPPO、vivo、荣耀、小米、三星、华硕、字节跳动成立智能终端大据IT之家此前报道,字节跳动在 2024 春季火山引擎 Force 原动力大会上正式宣布自家豆包大模型正式开启对外服务。 据介绍,豆包大模型包含豆包通用模型 Pro、豆包通用模型 liti、豆包・角色扮演模型、豆包・语音合成模型、豆包・声音复刻模型、豆包・语音识别模型、豆包・文生图模型、豆包・Function Call 模型。 jvzquC41yy}/k}mqog4dqv4219<919:50jzn
12.国产大模型到了“后发先至”时刻?火山引擎新浪财经另外,还有许多人不太清楚“火山引擎”“火山方舟”“豆包大模型”“扣子”之间的关系。 火山引擎是字节跳动旗下云服务平台,大模型只是其中一个业务板块。 火山方舟是大模型服务平台,可以调用、训练和评测大模型,理论上应该可以使用各家的产品,不过事实上,除了豆包大模型,只提供了GLM3、Mistral和Moonshot三款开源模型,jvzq<84hkpgoen3ukpg/exr0ep5xo872463246781fud/rsgcw{zv<9:4:630|mvon
13.火山引擎携手蜜度共启豆包大模型合作新篇章产2024年7月5日,在2024世界人工智能大会暨人工智能全球治理高级别会议上,北京火山引擎科技有限公司(以下简称:火山引擎)与蜜度科技股份有限公司(以下简称:蜜度)举行豆包大模型合作备忘录签约仪式。双方将聚焦内容洞察,深入探索细分垂直行业的需求,通过“AI+”的深度链接,推进人工智能技术的全时、全域应用,为各行各业的数智jvzquC41yy}/eny0eqs/ew4y|u0e‚z13619>7320yivvq
14.智能体浪潮里,豆包的崛起之路对专业开发者来说,豆包背靠火山引擎的联动如同一个智能体开发加速器,提供强大的算力支撑和模块化组件,省去了模型训练、算力调试等复杂环节,还打通了从创作到变现的闭环。开发者在火山引擎上开发的智能体,可通过豆包生态快速触达海量用户,借助抖音、今日头条等流量入口实现精准分发。 jvzquC41yy}/rltpnktf0lto0et0cr4ctvodnn4355;96=3jvor
15.字节跳动发布豆包大模型主力模型比行业价格低99.3%中国青年网讯(记者 张亚云)今日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。 jvzq<84hkpgoen3{qwzi0ls1hktbpljaif~x1;5462;0v;5462;27h6747:46A3jvo
16.火山引擎回应筹备“豆包汽车”:纯属谣言火山引擎回应筹备“豆包汽车”:纯属谣言发现更多热门视频 孙颖莎成功复仇陈熠,展现强大实力! 耳中的影视2.9万次播放 梅德韦杰夫:美方对俄“最后通牒”加剧战争威胁 滚动播报3.3万次播放 女子发声反对女性胸部被性化,呼吁拒绝物化价值观 道哥日记1.2万次播放 平野美宇在厦门增重一公斤,全因蒯曼和覃予萱频繁投喂,张成教练jvzquC41xkjfq7xkpc4dp8kkpctdg8724731967;1fkucrq/kplje€yy99997=<0f0nuou
17.比行业价格低99%,豆包家族开“卷”?火山引擎谭待:人人用得起才是好这是一只搭载AI应用平台“扣子”所生成的bot(机器人程序)的机器狗。在5月15日的火山引擎原动力大会上,火山引擎总裁谭待现场宣布扣子以及扣子所属的字节跳动豆包大模型家族正式出道,豆包大模型将通过火山引擎对外提供服务,推出新一代全栈AI服务,帮助企业用更低的成本和更易落地的方案进行AI转型。 jvzquC41zwkrk~3eqo5:8<:476:2887;24?:39:
18.火山引擎发布行业首个大模型IT赋能平台,接入豆包大模型10月16日,火山引擎在上海推出行业首个大模型IT赋能平台“飞连”。该平台接入豆包大模型,通过All in One产品架构统管身份、网络、终端、数据等IT的核心要素,在多场景落地AI应用。飞连从2021年开始通过火山引擎对外开放服务。从字节跳动内部大规模使用,到多行业场景实践,飞连目前服务20多个行业,超过1500家客户,覆盖30jvzquC41o0zigyfrgt4dp8sgyuJfvjnnahusyjwfa4?15::47