立异实力强、应用落地广,GenAI(生成式AI)时刻栈界限,商汤科技位居国内榜首!
近日,巨擘商榷机构弗若斯特沙利文(Frost & Sullivan, 简称“沙利文”)融合头豹商榷院发布《2024年中国GenAI时刻栈市集诠释》,商汤科技在11个GenAI厂商中畸形阿里云、百度智能云和华为云,增长指数和立异指数均名次国内第一,在环球名次中仅次于亚马逊云科技。
诠释合计,商汤积极干与时刻立异,努力于于为用户提供行业逾越的自研模子与高性能国产化的推理引擎,同期建设了包含机器与东谈主工审核、安全评测与践诺安全计策迭代升级等在内的完竣性安全照管决议,是GenAI时刻栈界限的带领者。
GenAI时刻栈是融合硬件形势层与末端用户交互的中间层,集成了包括基础模子、数据处理、模子检会调优、模子部署监控等时刻和用具,提供从模子启动化到部署全经过的一站式措置决议。
《2024年中国GenAI时刻栈市集诠释》从立异和增长两个维度、共10个一级评价想象进行GenAI时刻栈竞争力分析。
诠释理解,商汤科技在两个维度中均名次环球第二、国内第一,其中立异维度取得“资源期骗率优化照管、缓存与驰念、简洁压缩模子”三大模块最高分,展现出三大技艺上风:
高效的资源期骗率优化技艺:商汤自研高性能大模子推理引擎性能上风彰着,在调换算力及电力本钱下将每秒央求数(QPS)莳植4倍。同期基于训推一体、算电协同等时刻立异,万卡集群GPU资源期骗率最高达到80%以上。
在增长维度,商汤科技获“行业客户与场景决议”模块最高分,展现出了商汤生成式AI落地应用的广度和深度,包括隐藏界限广,商汤“日日新”大模子已在金融、医疗、Copilot助手、拟东谈主交互、智能末端等重要界限修复了超卓的应用价值和逾越地位。
应用触达方面,商汤科技与各行业头部企业伸开细巧调解,助力运营商提高算力资源期骗,助力媒体立异践诺坐褥口头,为生成式AI应用落地提供了丰富的标杆案例与行业劝诫。
诠释指出,高质模子的构建、安全合规的优化、推理本钱的缩小、数据价值的开释、居品应用化的收场,是用户在构建GenAI应用时的中枢考量身分。
南边+记者 郜小平