首批!火山引擎通过中国信通院《边缘大模型网关技术要求》文章开发者社区

近期,中国信息通信研究院牵头制定《边缘大模型网关技术要求》,为人工智能技术在边端侧实践应用提供参考指引。火山引擎边缘云参与标准制定,针对标准框架和标准内容提出编制意见,推动标准发布,为边缘 AI 产业的发展贡献力量。标准发布后,火山引擎边缘大模型网关经中国信息通信研究院严谨的技术测试,成功通过《边缘大模型网关技术要求》评估,成为首批通过评估的企业。

《边缘大模型网关技术要求》是由中国信通院牵头,联合产业内多家企业、专家共同研讨制定的标准,标准规定了边缘大模型网关提供服务时,在边缘接入、模型和智能体调用支持、AI 服务调用配置、密钥管理、运维与监控、技术支持等方面应具备的能力要求,适用于边缘计算服务商在提供边缘大模型网关服务和解决方案时的能力匹配。

火山引擎边缘大模型网关持续关注行业动态,以提供更加优质、高效、安全的服务。前期,火山引擎边缘云参与《边缘大模型网关技术要求》标准制定,重点贡献了关键技术、核心能力等内容,此次通过测评不仅意味着火山引擎边缘大模型网关的产品基准能力获得权威认可,更是对边缘大模型网关在技术架构、产品功能上的能力以及参与行业标准建设等方面的肯定。

标准发布后,火山引擎边缘大模型网关经技术测试,成功通过《边缘大模型网关技术要求》评估,标志着火山引擎边缘大模型网关在边缘接入、模型和智能体支持、调用配置、密钥管理、运维与监控、技术支持等方面全维度符合能力标准。

火山引擎边缘大模型网关支持通过一个 API 接口访问多家大模型提供商的模型与智能体,在端侧基于遍布全球的边缘计算节点就近调用。利用边缘云基础架构优势,提高模型访问速度,为终端用户提供更快速、可靠的 AI 服务体验。

基于标准能力要求,火山引擎边缘大模型网关全维度符合标准要求:

边缘接入: 边缘大模型网关提供标准化接口,网关访问密钥与 OpenAI 的 API 和 SDK 完全兼容,面对多样化的端侧调用场景,方便集成,降低适配成本。同时,边缘大模型网关利用缓存机制对请求就近存储,并在相同请求发出时就近调用,减少模型调用请求的回源次数,降低成本,为终端用户提供更快速、更可靠的 AI 服务体验。

模型和 智能体 支持: 边缘大模型网关支持调用国内主要的模型提供商与多种大模型、智能体。面向多样化的终端调用场景,支持多模态与大语言模型,满足调用多模型和多智能体的智能需求。同时,通过预置多领域 AI 智能体,涵盖语音对话、文字识别、目标检测、工业质检等 AI 能力,支持一键调用,助力快速构建场景化解决方案。

调用配置: 边缘大模型网关具备配置调用顺序、调用次数、超时时长等策略的能力,通过配置调用顺序、自动重试、请求超时等能力,实现模型调用失败自动请求备用模型、单次请求失败自动重试、单次调用响应超时配置。

密钥管理: 边缘大模型网关具备管理访问密钥的能力,可直接使用平台预置模型并对其创建网关访问密钥,也可以将第三方模型平台的密钥纳管至边缘大模型网关,通过边缘大模型网关签发的网关访问密钥,进行对应模型的访问与调用。

运维与监控: 边缘大模型网关具备统一监控和基础运维能力,边缘大模型网关可根据您通过网关向模型发出的请求以及模型的响应来统计您的用量。不同模型提供商对模型用量的计量方式有所不同,根据模型调用计量方式,您的调用详情可以在用量统计中进行查看。同时,通过云监控-大模型网关模块,可以查询以网关访问密钥为维度的总用量(已消耗的 tokens 总量)与用量速率(每秒消耗的 tokens 额度)。

技术支持: 边缘大模型网关具备全局技术支持,提供故障的处理时间、及时响应率、及时解决率;提供异常事件的解决时间、及时响应率、及时解决率以及事件的报告机制;提供变更的受理时间、变更的通知机制以及重大变更的监管报送机制。

火山引擎边缘大模型网关紧跟模型迭代,全面支持豆包 1.5・深度思考模型、接入主流 DeepSeek 模型提供商,同时发布端智能实例以及助力自部署模型公网调用与全链路管控,满足了多模型和多智能体调用的设备智能需求,并在 AI 芯片、智能玩具、具身智能等多个行业场景落地。

目前,火山引擎边缘大模型网关为每个首次创建的网关访问密钥提供 200 万 tokens 的免费调用额度,关联最新豆包大模型 , 还可将免费额度提升至 500 万 tokens !

THE END
0.火山引擎推出大模型安全测评平台,聚焦港股AI的游戏传媒ETF(517770消息面上,11月5日,火山引擎正式发布大模型安全测评平台和智能体安全管理平台,全面保障智能体从开发、备案到上线运行的全生命周期安全。大模型安全测评平台可以通过攻击视角对智能体进行专项“体检”,并结合TC260标准,帮助企业完成大模型合规备案与上线。智能体安全管理平台则提供“资产盘点—漏洞和风险评估—加固与持续防jvzquC41o07757hqo1jz1jwvkerf1TJ4X48499:3;:=W47mvon
1.火山引擎Force原动力大会上,字节跳动自研豆包大模型正式亮相5月15日,在2024春季火山引擎Force原动力大会上,字节跳动自研豆包大模型正式亮相。 (图源:证券时报) 火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,豆包大模型包含豆包通用模型Pro、豆包通用模型liti、豆包・角色扮演模型、豆包・语音合成模型、豆包・声音复刻模型、豆包・语音识别模型、豆包・文生图模jvzquC41zwkrk~3eqo5239<:76>8:87;22>68<>
2.火山引擎支持模型文件风险扫描、MCP风险扫描、工具风险与知识库敏感数据风险扫描 提示词加固 国内独家能力,可针对提示词脆弱面加固,从根源上降低提示词攻击风险。并直接给出加固结果 AI红队针对性测评 火山引擎优势能力,使用红队测评持续提升智能体安全水位,基于智能体配置解析、AI生成针对性测评用例。并通过多轮对话测评方式,高效挖掘潜在风险 入侵检测 jvzquC41yy}/xxqegpmjpn3ep1vsqmzev1ixry
3.火山引擎发布全新高速训练引擎,用抖音同款技术解决智能推荐痛点本次大会上火山引擎发布的产品——“智能推荐-高速训练引擎”则是为了进一步实现大模型落地而诞生的,集成了抖音、头条等业务的最佳技术实践,尝试解决各行各业的企业训练大规模个性化模型存在的痛点和问题。 火山引擎的智能推荐-高速训练引擎使用了以下方式解决这些问题:软硬一体优化、细粒度算子优化,以及分布式训练和推理jvzquC41yy}/frfpmgpj0lto1pkxu8;5439/j}rn
4.火山引擎腾讯们,看透了大模型这场“猫鼠游戏”尽管当前AI大模型引爆了市场,各大厂商相继发布自家的产品,但是作为字节跳动旗下的云服务品牌——火山引擎似乎并不着急,其重心依旧还是放在“数字飞轮”的构建上,大模型只是服务于“数据飞轮”的新技术。 9月在上海举办的“数据飞轮・V-Tech 数据驱动科技峰会”上火山引擎数智平台VeDI推出“AI助手”,通过接入AI大模型jvzquC41yy}/4:okpipj0lto1cxuklqg14635:5391nftjqf1:l6g=fh5288flf5e7l99o
5.豆包大模型综合能力提升20.3%,火山引擎成立零售除零售大模型生态联盟外,汽车大模型生态联盟也迎来了领克汽车、吉利银河、几何汽车、上汽荣威、上汽名爵、雄狮科技、大圣科技等多位新成员。火山引擎汽车行业总经理杨立伟介绍,当前,火山引擎正与联盟成员就新一代 AI 汽车行业定义、行业评测标准发布以及跨终端行业交流和共创等方向进行密切协作。 jvzquC41yy}/eny0eqs/ew4y|u0msz1361;>=:90yivvq
6.2025大模型AI+BI落地案例:从技术探索到业务赋能的全链路洞察(TOP有数ChatBI:大模型驱动下的数据分析技术探索和实践73 腾讯在ABI工程领域的探索与实践99 快手分析领域BI+AI探索与实践126 平安人寿ChatBI:大模型智能化报表的深度实践145 腾讯OlaChat:LLM如何重塑智能数据分析新生态?162 火山引擎基于大模型ChatBI的演进与实践196 腾讯分析型BI+AI产品OlaChat创新探索223 腾讯基于LLM的jvzquC41oc~/dxtm33>/exr1jvsm1;547165394834735;5332723:50ujzn
7.火山引擎火山引擎新模型发布,全面赋能企业,尤其是通过豆包大模型,实现多场景应用的高效解决方案。豆包大模型产业落地加速,日均tokens使用量超4万亿,证明其规模化应用能力。新模型对企业具有实际价值,帮助企业降低成本增效,提升智能水平。 文章 10阅读 叉烧肉包饭 · 5个月前 四维图新与火山引擎达成战略合作,推动深度合作,打造jvzquC41tgsbtt3uqj{/exr1egrm1ufdgn575m>ged;169f898g22:g6:dj
8.火山AI搜索引擎升级:大模型时代重塑用户体验与业务增长商业要闻近日,火山引擎推出的企业级搜推AI助手搭建平台——火山AI搜索引擎再升级,其底层大模型升级到豆包大模型1.6,搜索、推荐、问答全方位能力提升,帮助企业“开箱即用”地构建专属对话式搜索助手。目前,火山AI搜索引擎已经在电商导购、视频新闻、AI搜图、智能硬件等多场景落地,帮助企业优化产品体验,为业务增长注入新动能。 jvzq<84pgyy/ewkqn0ipo8xjcpmzg‚fqygt0497732841<6952>587xjvor
9.平台能力速览火山方舟大模型服务平台火山引擎官方文档中心,产品文档、快速入门、用户指南等内容,你关心的都在这里,包含火山引擎主要产品的使用手册、API或SDK手册、常见问题等必备资料,我们会不断优化,为用户带来更好的使用体验jvzquC41yy}/xxqegpmjpn3eqo5eqlx1:498;8632:828
10.火山引擎推出大模型安全测评平台,聚焦港股AI的游戏传媒ETF(517770)备消息面上,11月5日,火山引擎正式发布大模型安全测评平台和智能体安全管理平台,全面保障智能体从开发、备案到上线运行的全生命周期安全。大模型安全测评平台可以通过攻击视角对智能体进行专项“体检”,并结合TC260标准,帮助企业完成大模型合规备案与上线。智能体安全管理平台则提供“资产盘点—漏洞和风险评估—加固与持续防jvzq<84hkpgoen3ukpg/exr0ep5kl|14286/:6/335eql2kph}zwwn683>7:<3ujvsm
11.【干货分享】火山引擎李伊鑫:AI+驱动企业新增长,AI+开启抖店新另一方面,模型的智能体应用边界也在不断拓展。火山引擎的视觉理解模型持续升级,不仅能识别常见的物体和场景,还能在更复杂的情境中发挥作用。比如在餐饮门店巡检中,它可以检测杯子液体是否灌满、员工是否按规定赠送赠品;在家庭场景中,主人通过大模型询问宠物在家的活动情况,模型能准确告知并提供精彩视频片段。在服饰购物方jvzquC41yy}/ertvkokt0lto1v~ijm44447447mvon
12.字节跳动将发布自研大模型火山引擎服务平台迎重大升级5月14日消息,字节跳动宣布自研大模型将正式发布,火山引擎的大模型服务平台火山方舟将重大升级。5月15日“2024春季火山引擎FORCE原动力大会”将聚焦AI,多行业专家等参与,共探行业转型机遇,字节跳动将展示自研大模型。jvzquC41enuvf7ygpekov7hqo1jfxnqqrgx0pn|u13993<:;
13.火山引擎:上半年占49.2%份额,2028年市场将达482.4亿【2025年上半年中国公有云上大模型调用量达536.7万亿Tokens,火山引擎份额居首】近日,国际数据公司公布报告显示,2025年上半年,中国公有云上大模型调用量达536.7万亿Tokens。火山引擎以49.2%的市场份额位居中国市场第一,阿里云、百度智能云分别占比27%、17%,位列第二、第三位。 据悉,IDC报告统计的是各大云厂商对外jvzquC41o0nfz~s0eqs0w|xvqeq04977/2?.3B4443:5:9;40jznn
14.火山引擎发布大模型应用防火墙无障碍 关怀版 登录 视频加载失败,可以 刷新 试试 00:00/00:00 评论 还没有人评论过,快来抢首评 发布 火山引擎发布大模型应用防火墙 金融界 +订阅 发布于:北京市 2025.03.19 15:24 +1 首赞 收藏 推荐视频 已经到底了 热门视频 已经到底了 jvzquC41pg}t0|tjw0ipo8f1:9923B:62a726B=6