大模型时代,火山引擎技术助力数字校园建设

3 月 25-26 日,由上海市高等教育学会、智慧高校 CIO 信息化专业委员和 WRE Digital 联合主办的「第七届智慧高校 CIO 上海论坛」隆重召开

3 月 25-26 日,由上海市高等教育学会、智慧高校 CIO 信息化专业委员和 WRE Digital 联合主办的「第七届智慧高校 CIO 上海论坛」隆重召开。火山引擎凭借在教育信息化领域的产品深耕和亮眼表现,获得了「智慧高校解决方案综合实力卓越奖」。

本届大会以「协同创新,共赢数字教育新未来」为主题,众多高校的信息化建设决策者,教育行业信息化解决方案服务商齐聚,并围绕「智慧校园、智慧教学、智慧管理、智慧科研」等热门话题,分享先进经验,探讨智慧校园建设未来路径,推动 AI、大数据、云计算等新技术在教育场景的落地应用。

面向学校的 AI 应用开发平台,加速大模型落地

在通用大模型的发展推动下,各个行业都在打造垂直类大模型,教育行业也不例外。教育大模型的应用让很多以前难以实现的任务变得触手可及,比如,师生能轻松使用 AI 工具生成图片、音视频,个人的综合能力得到提升。另外,在个性化推荐、科研、知识问答、论文写作等方面,AI 大模型也发挥了重要作用,甚至改变了招生、就业、教学管理的方式。

但是,教育大模型的建设在能力、数据、算力等方面仍面临诸多现实问题。从场景方面看,大模型幻觉问题频繁出现,对于模型本身来讲,通用模型距离世界顶尖水平仍有差距,教育领域的知识库建设还有不足。

为了解决上述挑战,火山引擎基于对教育行业的深度理解,从基础设施、模型支持、模型服务和场景服务多层面着手,帮助学校降低模型开发门槛,提升应用效率。火山引擎着力构建面向学校的 AI 应用开发平台,具有知识库、工作流、Prompt 编排能力,让学校快速进行各类定制化开发与集成工作,同时可按需接入多个大语言模型。基于此平台的应用开发场景,包括会议助手、智能客服、内容协作生成以及代码辅助开发。

教学评估这一基于大模型的数据分析场景,也是火山引擎重点关注的方向。通过火山引擎管理驾驶舱,实现了数据驱动管理决策和高效服务师生的目标,集成其他平台数据还可形成统一移动端数据门户,校领导能针对指标疑问随时沟通教学管理问题,教师同利用 AI 管理助手精准问数,很好地支撑数字校园建设。

大模型时代,AI 与数据治理相互依存,火山引擎以 DataOps 方法为支撑,帮助学校构建起高效协同机制和标准化数据研发规范,打造全链路融合平台,完成精细化数据运营,从而实现:

· AI+数据资产=找数助手:问答式检索、表、数据集、指标、口径、业务知识都能查询,实现高效准确找数,这是教职员工自助数据消费的第一步;

· AI+数据生产=开发助手:代码生成、一键优化、智能问答,通过自然语言辅助数仓研发,让数据开发简单高效且便捷;

· AI+数据洞察=分析助手:SQL 查询修复、自动生成表达式、仪表盘探索分析、飞书对话式分析,让教职员工从各种报表中解放出来,随时随地进行数据分析。

用好大模型,还离不开向量数据库。以知识库构建为例,可以把向量数据库和大模型结合起来进行知识库检索。火山引擎向量数据库为大模型配置记忆体,支持百亿级向量检索,检索性能在 5ms 以内,采用多种自研算法提升计算查询能力,广泛应用于文本、图像、音频等多模态数据检索。

火山引擎的独立算力池,能够更好解决大模型训练、精调、推理过程中的算力瓶颈,此外还从大模型备案、训练过程、数据合规、用户访问等多角度进行大模型安全的整体建设,充分的保障模型提供商和推理客户的模型安全,使大模型的服务输出合规、合法。

教育大模型建设是一个持续完善优化的过程,火山引擎期待与各大高校共同探索前沿 AI 在教育领域的应用,为智慧校园注入更多发展新动能。

用极客视角,追踪你不可错过的科技圈.

聊科技,谈商业。

公司地址:北京市朝阳区酒仙桥路4号751 D·Park     正东集团院内 C8座105室 极客公园

THE END
0.TiDBCoprocessor学习笔记TiDB底层架构1. 火山模型 一条读请求,使用 Table Scan 算子,需要扫出所有行的需求列,性能不高。3.0 之前使用的是火山模型去让请求只需要扫几行。 SELECT * FROM table WHERE age > 10 limit 1 Limit 每次都从下层算子取一行,至多取 LIMIT 行,返回给上层 Selection jvzquC41zkk/kwkqs0io1jwvkerf1k5g:eh3fB:873g:;o>g5g;bhB
1.向量化引擎对HTAP的价值与技术思考传统火山模型存在的问题 在详细介绍向量化引擎特点前,我们先了解一下火山模型以及火山模型存在的典型问题。在数据库发展早期,由于 IO 速度低下、内存和 CPU 资源非常昂贵,为了避免爆内存的情况出现,每次只计算一行数据的火山模型成为了经典的 SQL 计算引擎。火山模型又叫迭代器模型,正式提出是在 1994 年论文《Volcano—jvzquC41yy}/qljcpdgtg7hqo1tfy|4n{5=wx
2.火山引擎大模型发布:企业如何更经济的参与大模型?究其原因,三星员工直接将企业机密信息以提问的方式输入到ChatGPT中,会导致相关内容进入学习数据库,从而可能泄漏给更多人。在“数据防火墙”构建尚未完善时,贸然在公司业务中使用大模型的风险,不言而喻。 正因如此,火山方舟已经上线了基于安全沙箱的大模型安全互信计算架构。根据吴迪的介绍,该方案采用了计算隔离、存储隔jvzquC41yy}/gkwwp0ipo87245682<4p/3=3;B3jvor
3.火山引擎打造“多云多模型”架构,推动行业智能化升级  4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。火山引擎总裁谭待表示,AI大模型有巨大潜力和创新空间,火山引擎会服务客户做好大模型,共同推动各行业的智能化升级。 jvzquC41yy}/zrsjwctfv7hqo1zfeq4424916:>1c:?:4kfc83l36
4.零售业加速智能升级:火山引擎联合物美等零售巨头成立大模型联盟此前,火山引擎已分别与智能终端和汽车行业的众多客户合作发起大模型联盟,推动大模型在各行业的应用场景创新。汽车大模型生态联盟如今又迎来了第二批成员单位,包括领克汽车、吉利银河、几何汽车、上汽荣威、上汽名爵、雄狮科技、大圣科技等厂商。 吉利汽车集团营销数字中心负责人沈稳杰介绍,在豆包大模型的帮助下,领克汽车实现了智慧邀约坐席、AjvzquC41yy}/ewnk0eun0ls1toed87246691}7246694:d7;785:7mvon
5.AI前哨|做大模型不香么,火山引擎为什么要发布方舟做生态?火山引擎选择做平台,也就是接入多家大模型,为企业提供更丰富的AI应用。 6月28日,火山引擎正式发布了大模型服务平台“火山方舟”,面向企业开发者提供大模型精调、评测、推理、干预等全方位大模型服务的企业级大模型应用平台。 注意,火山方舟不是火山引擎的大模型,它是一个平台。 jvzquC41o0psl7hqo0io1{xu1zobqƒmk146358;152549?:;99>/uqyon
6.首创端云一体多情感模型火山语音发布全新自研语音合成模型Porta火山语音团队正不断将打磨多年的语音技术能力面向市场并通过火山引擎开放给外部企业,已覆盖汽车、金融、有声阅读、视频配音等众多应用场景,技术能力已成功应用到抖音、剪映、番茄小说等多款国民级产品上,并助力多家行业头部企业实现AI语音能力的应用与拓展。 jvzquC41yy}/7:hvq0ipo8ftvkimg8<868:90qyon