sm 调教 基建和行使开导平台“上新”,百度智能云打组合牌
三星、英特尔、长安汽车……9月25日召开的2024百度云智大会,将大部分的时分交给了配合股伴,视频大模子Vidu、长安启源E07的背后都有百度智能云的撑握,由客户向商场安利。今日,百度集团现实副总裁、百度智能云事迹群总裁沈抖拿出百舸AI计较平台4.0、千帆大模子平台3.0两个AI基础门径,同期升级了代码助手等AI原生行使,把3D超写实数字东说念主价钱从万元降至199元。2024年二季度,百度总营收同比握平,智能云营收增长14%。和上年同期比较,百度智能云营收增幅多了9个百分点。据不王人备统计sm 调教,2024年二季度海表里云大厂的营收增幅从个位数到30%不等,入局者逆水行舟。
“大模子有个有名的定律Scaling Law,是说模子性能会跟着参数、算力、数据集的领域加多而提高,这个定律仍在继续。马斯克(特斯拉CEO)说他们刚建造了10万卡的集群,异日还会延伸到20万卡,这不是个例”,说完,沈抖给了个更具象的意见:要部署10万卡集群,在物理层面要占据约10万平素米的空间,相配于14个范例足球场的面积,这些处事器一天要破钞约300千瓦时的电力,相配于北京市东城区一天的住户用电量。
挑战在于跨地域部署、有用进修时长占比低 。“用1.6万卡进修Llama3时,每3小时就会出一次故障,推演到10万卡,意味着每30分钟就要中断一次。”沈抖说,“百舸4.0,恰是为部署10万卡大领域集群而联想的。”
百舸4.0竣事了在万卡领域集群上95%的多芯羼杂进修效用;省略竣事器用层面的秒级部署sm 调教,将万卡集群开动准备时分从数周最快缩减至1小时;竣事了跨越99.5%的有用进修时长;长文本推理恶果普及了1倍以上。
千帆是企业级一站式大模子与AI原生行使开导及处事平台。目下在千帆大模子平台上,文心大模子日均调用量超7亿次,累计匡助用户精调3万个大模子,开导出70多万个企业级行使。昔时一年,文心旗舰大模子降价幅度超90%。
AV小次郎千帆3.0的升级主要体当今模子开导层、模子处事层、行使开导层上。具体到行使开导,千帆升级了企业级RAG和企业级Agent开导,发布了低代码AI行使开导平台“AI速搭”,通过当然话语对话就能进行企业级行使开导。
“云计较属于AI基建,开导者和企业客户不光需要好用、易用的算力,也倾向于开导门槛更低的平台,这是趋势,升级是无绝顶的。比的是价钱、易费用和升级速率”,比达分析师李锦清向北京商报记者暗示。
这些基础门径的计算是开导出AI原生行使,百度今日给打样的数字东说念主、智能客服、代码提效类居品作念了升级。曦灵数字东说念主4.0撑握左证翰墨快速生成不同妆造、不同业业秉性的3D数字东说念主形象和视频,将3D超写实数字东说念主的价钱从万元降至199元。新版智能客服行使“客悦”的问题自助搞定率升至92%。文心快码处事超1万家企业客户。
在事迹层面,百度并未寂寥透露智能云板块营收,仅公布了2024年二季度百度智能云营收同比增长14%。和同业比较,国际的亚马逊云科技、微软云和谷歌云二季度营收同比增长分辩是19%、29%、28%,阿里云同期是6%。
北京商报记者 魏蔚sm 调教