豆包大模型迎来多维升级:综合性能提升20.3% 零售、汽车等行业落地提速
发布时间:2024-08-23 17:41 浏览量:53
2024年无疑是科技行业公认的“AI大模型落地元年”,大模型应用的供需关系正在经历着前所未有的变化。
与过去AI厂商单方面探索应用场景的做法不同,今年我们见证了更多的重要行业和头部企业,在降本提效、以技术驱动新发展和新升级的需求之下,开始以更加开放的姿态主动拥抱大模型,并探索AI技术与自身业务深度融合的可能性。
有数据表明,大模型技术正在带来生产力水平的大跃迁。据红杉美国发布的报告,生成式AI为代表的大模型技术在一年时间内创造了近30亿美元的总收入,达到SaaS行业发展了近10年时间的水平。
咨询机构Rolling AI与InfoQ、火山引擎联合发布的《生成式AI场景落地白皮书》显示,超过半数的企业在调研中积极拥抱大模型应用。
就国内市场而言,AI从业者能够明显感知到,今年大型企业公开招标采购大模型的数量,以及头部大模型公司的中标项目数量较去年明显增加,并且B端市场成为大模型商业化落地的核心场景。
在8月21日举行的2024火山引擎AI创新巡展-上海站活动上,火山引擎总裁谭待宣布,豆包大语言模型最新实现多维度升级,综合性能提升20.3%。行业用户亦十分欣喜大模型带来的业务赋能,在这场活动上,来自零售、汽车、教育、游戏等行业的一线从业者,分享了大模型如何在终端应用中落地生根。
2024火山引擎 AI 创新巡展上海站
从大模型的最新业态来看,更强模型、更低价格、更易落地的平台方案支持,已经成为驱动大模型工具深入产业应用并实现价值增长的“三驾马车”。
大厂竞速大模型性能 豆包何以广受认可?
大模型可以预见将在未来成为千行百业的数字基础设施,而围绕技术及生态应用,已然形成群雄必争之势。
大模型技术的核心竞争要素在于数据、场景和用户。其中,数据是训练高质量模型的关键,场景则决定了产品的市场适应性和商业潜力,互联网大厂在以上三大维度均占优势,因此被认为最有能力打通上下游产业并带领AI技术率先实现商业化。
在其中,哪家厂商若能进一步发掘打磨好场景、做好实践验证,并且让大模型产品的性能、价格和平台工具方面具备优势,意味着将在竞争中占据主动。
在今年年中,由智源研究院旗下的FlagEval大模型评测平台发布最新榜单显示,在闭源大模型的“客观评测”中,由字节跳动自主研发、通过火山引擎对外提供服务的豆包大模型,以综合评75.9分排名国产大模型第一。
在2024火山引擎AI创新巡展-上海站活动上,火山引擎总裁谭待宣布,豆包大语言模型能力获持续迭代,综合性能提升20.3%,并且基于公开和内部测评集测评显示,豆包大模型最新升级后较今年5月的版本在各项能力上均有提升,在角色扮演维度的性能提升38.3%、语言理解性能提升33.3%、长文任务能力提升16.7%,此外数学、专业知识和代码能力分别提升13.5%、11.3%、8.8%。
火山引擎总裁 谭待
而豆包通用模型pro作为字节跳动自研LLM模型专业版,提供了国内最高标准的800k初始TPM,还能够支持128K长文本,全系列可精调,具备更强的理解、生成、逻辑等综合能力,能适配问答、总结、创作、分类等更加丰富而复杂的场景。豆包大模型有机会在性能方面继续领跑国内大模型产品。
不可否认的是,性能只是评判大模型能力的一个方面。只有更加易用,并且能够被大量使用,才能打磨出更好的模型。
豆包大模型作为字节跳动自研、国内首批通过算法备案的大模型之一,得益于字节跳动丰富的业务场景,豆包大模型已经在其内部的50多个业务中进行了真实的实践验证,同时还在30多个行业外部企业实现深度共创。
豆包大模型自发布至今年7月,日均Tokens使用量已超过5000亿,在发布2个月以来,平均每家企业客户日均Tokens使用量呈22倍的速度增长。经过千亿级日Tokens的持续打磨,豆包大模型能力和推理效果得到市场的广泛认可。
通过持续的场景打磨,性能落到实际应用中,火山引擎整合豆包大模型与实时音视频技术,打造对话式AI实时交互解决方案,进一步强化AI交互体验,其智能对话和自然语言处理能力,能够帮助应用快速实现用户和云端大模型的实时语音通话。
在此次上海站活动中,豆包·语音合成模型宣布进一步升级流式语音合成能力,可以实时响应,精准断句,自动判断朗读节奏,并免费开放26种精品超自然音色授权,降低用户前期接入成本。
豆包·语音识别模型则进一步升级了上下文感知、多方言支持功能。模型能够利用一系列上下文信息进行推理,能带来超过15%的召回率提升;同时在保持高准确率的前提下,支持一个模型识别普通话和多种中国方言,包括上海话、闽南语,以及四川、陕西、广东等地方言。
在多个公开测试集中,与国内公开发布的语音识别大模型相比,错误率降低了10%-40%,将能够更好地在应用中适配聊天陪伴、客户服务、会议等具体场景。
豆包大模型家族通过算法能力的提升以及多种业务场景的打磨适配,也将能够更好驱动不同重要行业的业务增长。
零售大模型生态联盟成立
大模型应用正逐步摆脱“拿锤子找钉子”的阶段。从零售领域的实践来看,采购、仓储、物流、销售、企业管理、消费者会员等环节均有机会用大模型实现赋能,带来降本提效增收。
在2024火山引擎AI创新巡展-上海站活动上,火山引擎联合多点DMALL成立零售大模型生态联盟,其愿景在于打造零售大模型生态,以AI交互为核心,加速零售业的运营和周转效率,提升消费者购物体验。首批18家零售大模型生态联盟成员单位,包括了物美集团、抖音电商、百胜、麦当劳、海底捞、居然之家、波司登等多家重量级企业。
零售大模型生态联盟正式发布
伴随零售大模型生态联盟的成立,适用零售行业的大模型核心解决方案同步发布,在商城导购助手、VOC分析、零售客服质检、直播洞察、企业商品知识库等多方面,提出更为系统、覆盖更多情景的解决方案。零售大模型生态联盟的成立,将加速AI工具为零售行业带来的智能化变革。
零售数字化转型技术服务头部企业多点DMALL在其数字化实践中,使用了火山引擎包括计算、存储、网络、数据库、云原生、AI等多种公有云产品,零售、智能物联等多个业务已经运行在火山引擎上,并且未来还会继续拓展双方在基础设施上的合作。
数字化是AI的基础,AI是数字化的未来,要占据先机就要备在当下,并且要在认知、流程、数据、组织等各个层面全方位“Ready for AI”。
截至目前,多点已经在智能导购助手、门店智能终端客服场景上线大模型产品。豆包大语言模型结合火山引擎的云服务,与多点共同打造了零售智能购物助手解决方案,并在2024年6月份成功发布上线,以AI智能导购助手为载体,更智能、更高效地为多点顾客提供即时的解答、建议和支持,提高顾客的体验和满意度。
不仅如此,未来,多点还将在爆品营销、智能营销、智能评论等多个场景持续探索大模型在零售行业的落地方案。大模型在头部零售企业的深入应用,将为其业务增长留下非常大的想象空间。
汽车行业在与大模型实现深度融合方面亦具有潜力。当前AI定义汽车、大模型上车,已经成为汽车行业发展的趋势,将为自动驾驶、智能座舱以及数字营销、用户运营及车企数字化提供契机。目前已有全球顶尖车企与头部大模型厂商合作探索技术前沿应用。
就在今年8月,梅赛德斯-奔驰宣布在华与火山引擎签署战略合作备忘录。在业务层面,借助火山引擎的大模型能力,将为梅赛德斯-奔驰提升在智能座舱信息检索、用户交互、智能应用扩展等能力,并在智舱技术研发迭代、语音、导航、娱乐等用户场景强化层面带来更智能、更便捷和更个性化的智能座舱体验。
在此次活动上,汽车大模型生态联盟第二批联盟入会成员正式官宣,包括领克汽车、吉利银河、几何汽车、上汽荣威、上汽名爵、雄狮科技、大圣科技。加上今年五月的首批联盟成员,如一汽红旗、吉利、长城、广汽乘用车、东风本田等,联盟成员已基本涵盖上下游各产业环节,将推动汽车行业大模型应用的持续深入。
此外,教育、游戏行业的大模型应用也有很多探索和尝试。
以火山引擎在游戏领域的探索来看,其游戏AI解决方案基于豆包大模型实现全面升级,为游戏AI解决方案打磨出强大的AI基础能力,能够从文本、图片、语音等多个方面,助力游戏开发者以AI技术为动能推进游戏玩法创新。尤其是在闯关类、情感陪聊AI玩法、NPC 智能体类等三大游戏核心情景上,均有机会由AI大模型增强互动和游玩乐趣。
技术创新带来更易用的大模型
目前各行业对大模型应用赋能自身业务实现降本、增效的需求较为突出,行业客户需要成本更低的大模型工具。
更低价格的大模型并不等同于引发新的价格战,过去“跑马圈地”的游戏,已不再适用于需要在技术研发和算力资源配置等方面高额投入的大模型开发厂商。以技术驱动产业增长的同时,技术提供方也需要以更加合理的路径,完成自身的商业闭环。宏观视角来看,技术进步也足以打破上下游的“零和游戏”。
以火山引擎提供的大模型工具来看,主要是通过技术手段实现大模型推理成本的优化。针对AI工程方面,比如对底层的异构算力,实现了混合调度和分布式推理等优化,能够对推理成本实现大幅度降低。
横向对比各家大模型最强版本价格来看,豆包大模型比行业价格低98%以上。
不仅如此,豆包大模型还能够为用户提供业内最高标准的初始TPM(每分钟Tokens)和RPM(每分钟请求数),每分钟处理Tokens限额最高可达同梯队模型数倍。
以更低价格、更高吞吐,将真正帮助企业卸下成本负担,满足更加复杂的业务场景需求,让大模型在生产环境中用起来。
在帮助用户更加便捷地将大模型落地并赋能业务方面,火山引擎还推出火山方舟、扣子专业版、HiAgent、AI全栈云等多款易用产品,减少用户二次开发成本;同时,零售、汽车、教育、游戏等领域的丰富标杆案例,也将帮助企业以更为便捷的方式将大模型能力迁移至自身的数字化实践中。
以HiAgent为例来看,作为一款企业专属AI应用创新平台,其能够高度适配用户个性化需求,让业务人员可以轻松构建智能体,有效应对AI专业人才不足、专属应用开发难、企业集成难度高等企业发展挑战。
在高校教学科研领域,在校学生通过简单学习就能使用HiAgent这款易开发工具,调用大模型丰富API,进行学习答疑、总结复习、文献获取,提升学习与科研效率;高校行政管理人员也可以借助HiAgent,搭建个性化应用,用于教学管理及数据分析,或者帮助学生跟教师进行线上的业务咨询办理。在电商消费领域,社群运营人员可以使用HiAgent工具调用大模型,搭建用于内容创作、用户互动和客户关系管理的AI工具,提升社群活跃度和用户粘性。
其他更多像HiAgent这样的易开发工具或服务平台,也都在高校教育、电商消费、游戏等领域,找到了丰富的适用场景并得到高效应用。
结语:
AI催化下的科技产业正迎来前所未有的变革浪潮。近十年的科技发展史告诉我们,回归商业本质、以技术驱动产业升级,是实现价值新生的不二法则。
在零售、汽车、教育、游戏等行业与大模型快速融合的实践中,易用、好用且有高技术价值附加的大模型产品,必将在市场的大潮中站稳脚跟,成为推动各行各业向前发展的强劲动力。
火山引擎提供低使用成本、高性能的大模型以及易用的工具和平台,将助力更多企业实现智能化转型和业务增长。