窜改实力强、应用落地广,GenAI(生成式AI)时刻栈限度,商汤科技位居国内榜首!
近日,泰斗商榷机构弗若斯特沙利文(Frost & Sullivan, 简称“沙利文”)纠合头豹商榷院发布《2024年中国GenAI时刻栈阛阓论说》,商汤科技在11个GenAI厂商中突出阿里云、百度智能云和华为云,增长指数和窜改指数均排行国内第一,在巨匠排行中仅次于亚马逊云科技。
论说合计,商汤积极插足时刻窜改,奋发于于为用户提供行业越过的自研模子与高性能国产化的推理引擎,同期建树了包含机器与东说念主工审核、安全评测与践诺安全计策迭代升级等在内的好意思满性安全照顾决策,是GenAI时刻栈限度的结合者。
GenAI时刻栈是连络硬件设施层与末端用户交互的中间层,集成了包括基础模子、数据处理、模子历练调优、模子部署监控等时刻和器用,提供从模子运行化到部署全经过的一站式贬责决策。
《2024年中国GenAI时刻栈阛阓论说》从窜改和增长两个维度、共10个一级评价想法进行GenAI时刻栈竞争力分析。
论说知道,商汤科技在两个维度中均排行巨匠第二、国内第一,其中窜改维度赢得“资源诈骗率优化照顾、缓存与记念、精湛压缩模子”三大模块最高分,展现出三大才调上风:
高效的资源诈骗率优化才调:商汤自研高性能大模子推理引擎性能上风彰着,在疏导算力及电力资本下将每秒肯求数(QPS)普及4倍。同期基于训推一体、算电协同等时刻窜改,万卡集群GPU资源诈骗率最高达到80%以上。
在增长维度,商汤科技获“行业客户与场景决策”模块最高分,展现出了商汤生成式AI落地应用的广度和深度,包括障翳限度广,商汤“日日新”大模子已在金融、医疗、Copilot助手、拟东说念主交互、智能末端等要津限度建设了特殊的应用价值和越过地位。
应用触达方面,商汤科技与各行业头部企业伸开细偶然营,助力运营商提高算力资源诈骗,助力媒体窜改践诺坐褥方法,为生成式AI应用落地提供了丰富的标杆案例与行业训戒。
论说指出,高质模子的构建、安全合规的优化、推理资本的镌汰、数据价值的开释、产物应用化的竣事,是用户在构建GenAI应用时的中枢考量成分。
南边+记者 郜小平