立异实力强、使用落地广，GenAI（生成式AI）技能栈范畴，商汤科技位居国内榜首！
近来，威望研究机构弗若斯特沙利文（Frost & Sullivan, 简称“沙利文”）联合头豹研究院发布《2024年我国GenAI技能栈商场陈述》，商汤科技在11个GenAI厂商中逾越阿里云、百度智能云和华为云，增加指数和立异指数均排名国内榜首，在全球排名中仅次于亚马逊云科技。
陈述以为，商汤活跃投入技能立异，致力于为用户更好的供给职业抢先的自研模型与高功能国产化的推理引擎，一起建立了包括机器与人工审阅、安全评测与内容安全策略迭代晋级等在内的完好性安全办理计划，是GenAI技能栈范畴的领导者。
GenAI技能栈是衔接硬件设备层与终端用户交互的中间层，集成了包括根底模型、数据处理、模型练习调优、模型布置监控等技能和东西，供给从模型初始化到布置全过程的一站式解决计划。
《2024年我国GenAI技能栈商场陈述》从立异和增加两个维度、共10个一级点评目标进行GenAI技能栈竞争力剖析。
陈述显现，商汤科技在两个维度中均排名全球第二、国内榜首，其间立异维度取得“资源使用率优化办理、缓存与回忆、精粹紧缩模型”三大模块最高分，展示出三大才能优势：
高效的资源使用率优化才能：商汤自研高功能大模型推理引擎功能优势明显，在相同算力及电力本钱下将每秒请求数（QPS）进步4倍。一起根据训推一体、算电协平等技能立异，万卡集群GPU资源使用率最高到达80%以上。
高效的缓存与回忆才能：建立了数据飞轮机制，构成自我强化的反应循环，完成模型功能的不断进步。
精粹的紧缩模型才能：在代码小浣熊工作帮手和代码帮手使用场景中，经过模型体积紧缩，完成数倍的显存节约、高份额的速度进步。
在增加维度，商汤科技斩获“职业客户与场景计划”模块最高分，展示出了商汤生成式AI落地使用的广度和深度：
掩盖范畴广：商汤“日日新”大模型已在金融、医疗、Copilot帮手、拟人交互、智能终端等要害范畴确立了杰出的使用价值和领头羊。
使用触达深：商汤科技与各职业头部企业打开严密协作，助力运营商进步算力资源使用，助力媒体立异内容出产形式，为生成式AI使用落地供给了丰厚的标杆事例与职业经历。
陈述指出，高质模型的构建、安全合规的优化、推理本钱的下降、数据价值的开释、产品使用化的完成，是用户在构建GenAI使用时的中心考量要素。
活跃的立异投入：不只构建了自主算力渠道，商汤日日新大模型在多评测集上也均坚持抢先地位，让用户都能够调用不同模态与不同职业性的根底大模型。
高功能的推理引擎：商汤大型分布式推理系统，具有高功能算子库与极致优化的推理结构，在软硬件底层优化、自适应别离架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等层面优势明显。
完善的安全办理结构：商汤针对GenAI场景，规划了契合大模型特质的内容安全运营系统，为用户更好的供给完好的安全办理计划。
陈述以为，GenAI技能栈将出现模块化、标准化、渠道化、简易化、去中心化的开展的新趋势，MaaS（模型即服务）的广泛推行还将重构生成式AI的商业化生态。一起，作为一项底层立异技能，GenAI还将催生全新类型的信息产品，有望造就出全新的产品年代和超级产品。
商汤大设备万象，包括模型开发渠道和使用开发渠道，面向企业与开发者供给模型办理、模型微调、推理布置、数据办理，以及智能体使用等一站式大模型服务，并成功使用于央国企、运营商、轿车、互联网等职业客户。
商汤大设备将逐步齐备GenAI技能栈，经过一系列东西与服务帮忙用户下降模型开发门槛，以MaaS大模型即服务的立异形式，推进生成式AI使用的商业化落地和生态构建。