算力即服务，首个基于RISC-V算力的行业大模子生态系统问世

（原标题：算力即服务，首个基于RISC-V算力的行业大模子生态系统问世）

连年来，我国持久将“数字化”“智能化”摆在环节位置，一再强调加速数字经济发展，股东数字产业化、产业数字化，推动互联网、大数据、东说念主工智能和实体经济深度会通。

2022年OpenAI发布的ChatGPT过甚背后的GPT系列预熟识基座谣言语模子，引颈了从判别式小模子转向生成式大模子的发展激越。百行万企纷纷尝试借助基座大模子打造垂类大模子行业应用，期许给业务带来新的突破，同期又深深担默算力供应的踏实性和安全可靠性。

广州希姆半导体科技有限公司（后文中简称希姆辩论）四肢一家辛苦于于研发AI领域专用架构处理器的公司，持久深耕RISC-V途径并以营业落地为导向，是少数从芯片教导集到表层应用全面布局的改革型企业。跟着大模子的火热，希姆辩论尖锐的觉察到各行业对优质且安全可靠算力服务的需求，积极跟进AI行业前沿本领并落地行业应用，旨在基于RISC-V本人广博的自主可控圭臬化上风通过软硬一体的大模子处置决策为政企客户的数智化转型赋能。

大模子、智能体、数据治理——

政企场景落地的环节

在数智化转型的大潮中，政企濒临着处理与分析海量数据的挑战，何况大都存在业务逻辑复杂、定制化条目高、部门协同难度大、数据壁垒难以浮松等难题，单一本领技能难以应付这种复杂的业务场景，亟需平台级产物促进业务发展、耕种竞争力。

经过对政企场景进行了长远调研，希姆辩论想象开导了九有大模子（后文中简称九有）、玄数数据治理平台（后文中简称玄数）以及擎天智能体开导平台（后文中简称擎天），三者相反相成，共同构建了一个高效的数据处理生态系统，掩盖了大模子应用开导的完整人命周期，不仅处置了单一本领技能难以应付复杂业务场景的问题，而且极地面促进了从数据到价值逶迤的过程。

这套系统有机连络共同处置基座大模子应用中常见的“幻觉问题”，满足政企业务瞄准确率的尖刻条目，推动政企数智化转型，耕种合座竞争力。

九有是面向政企领域的垂直大模子，基于20亿条垂直领域与开源语料深度熟识而成，不仅掌持了丰富的通用常识，还至极强化了对垂类场景的会通，大约精确主理所在计谋要领、会通业务场景意图并生成有关施行。在企业里面经管、客户服务、产物保举，数据检索查询等场景中，九有大约更准确地会通企业特定的业务需乞降术语。

九有不仅助力政企数字化转型，耕种业务质料，还完毕了一种全新的常识千里淀的机制来匡助业务部门更高效和透明的提供服务。

玄数集成了广博的数据智能抽取与常识增强功能。通过实体抽取、干系抽取、属性抽取及属性对都本领，玄数大约高效地从非结构化和半结构化数据中索求环节信息。此外，哄骗属性增强和干系增强本领，不错进一步丰富和完善数据的常识体系，耕种数据的可用性和价值。

玄数兼容诸多大小模子，涵盖了当然话语处理（NLP）、当然话语生成（NLG）及定名实体识别（NER）、OCR等多个领域的任务，确保平台在文本会通、施行生成、信息检索等方面的超卓发达。客户不错纰漏完毕数据钞票的价值最大化，促进业务经过优化与决策搭救。

擎天四肢业界逾越的智能体开导平台集成了智能体构建、常识经管、管事流编排等中枢功能，通过连络九有和多种小模子（如BERT、Embedding和Rerank模子），提供高效、精确的数据处理和服务才略。在管事流编排模块提供了丰富的交互界面和接口，搭救快速在搭建各种业务场景的管事流，同期搭救低代码开导。

而在Agent开导经管方面，擎天兼容主流的Agent开导范式，不错匡助政企客户快速搭建高阶智能体应用。在常识经管方面，擎天除了搭救圭臬的向量数据库，还连络政企场景的业务提供了先进高效的常识图谱检索算法，从而提高推理的准确性和可靠性。

希姆辩论基于擎天、九有、玄数平台，为广州市黄埔区开导了智能政务问答助手，哄骗政务图谱大约从海量的政务寰球数据中提真金不怕火环节信息，在落地中涵盖了37个政府部门的2000余项事项以及数千份计谋文献和指南。岂论是计谋筹商照旧具体管事经过，该助手都能凭据政务图谱提供准确的谜底。

比拟传统的问答助手，该助手将政务筹商准确率从30%傍边提高到95%以上，管事体验愈加通顺当然，减少了对东说念主工客服的需求，促进了政务常识千里淀。相干于传统软件系统，智能体不错更好的服务业务应用。

服务政企客户的教导难得真贵，在研发过程中濒临着诸多挑战，研发副总裁王得科说：“政企垂直场景的挑战是要作念一个真确‘懂’业务的智能体，咱们不仅提供了一套智能系统，也为客户引入了一种全新的管事形态。这一过程条目咱们对客户的业务有长远的会通，并将这种会通深度连络到大模子应用的开导推行中。”

撑持一个AI应用，需要几许本领栈

AI的发展资历了数次高涨和低谷，在第三次高涨中深度学习是主流的本确认线。跟着ChatGPT印证了Scaling Law以及随之产生的智能涌现才略，大模子的智能上升到了前所未有的量级，其背后选拔的Transformer算法和预熟识大模子的生成式AI本领，让这股发展势头达到了前所未有的高度，大模子的鸿沟也屡改革高。

大模子鸿沟的增长握住刷新着算力需求的上限，随之而来的算力震惊正在困扰所有这个词行业。淌若说AI应用是知道海面的冰山一角，搭救AI应用以及大模子的算力处置决策、智算集群乃至AI芯片便是冰山稳稳浮起的底层保险。

希姆辩论从公司设置开头就对持软硬一体自主可控的发展主张，撑持九有、玄数、擎天的底层中枢软硬件全链路自主研发，基于自研AI辩论矩阵膨大教导集想象了STCP920芯片、推理卡以及配套软件，为智算中心量身定制了希姆智算云平台，提供了落地大模子应用的RISC-V改革决策，是RISC-V软硬一体本领改革的代表性企业。

RISC-V，数智期间的天选之子

淌若说x86架构是收拢了个东说念主PC普及的机遇，ARM收拢了转移期间的波澜，那么现时跟着AI等本领的快速发展，RISC-V迎来新的发展波澜。

政企业务需要踏实高效机动的算力基座，自主可控的底层本领，持久安全可连续的发展旅途以及沉静厉害和外洋接轨的生态体系。RISC-V+AI完好的满足政企业务的这些需求，是处置当下AI算力震惊的最好决策，亦然我国孤独发展大芯片的迫切本确认线。

希姆辩论在创业时就瞄准了基于RISC-V研发AI领域专用架构处理器的切入点，突破了SIMD向量教导、GEMM通用矩阵辩论以及深度学习模子中的算子辩论加速等本领难关，自主研发并在全球范围内最初开源了AI辩论矩阵膨大教导集，完成了基于RISC-V教导集的标量、向量、张量的一体化教导集架构，也酿成了自身的中枢竞争力。

凭借对RISC-V生态发展的深度参与和孝敬的本领恶果，希姆辩论取得了行业的高度招供，先后被选拔为RISC-V外洋基金会最高等别会员、RISC-V董事会成员单元、RISC-V TSC本领委员会成员单元、RISC-V软件应用与器用委员会主席单元，RISC-V AI/ML专委会主席单元和RISC-V Matrix TG中枢成员单元。

同期希姆辩论在国内积极股东RISC-V的平凡应用，先后当选中标协RISC-V管事委员会副会长单元、中国智能辩论产业定约副文牍长单元，以及寰宇信息本领圭臬化本领委员会-东说念主工智能分本领委员会单元委员和各种性算力产业及圭臬股东委员会成员单元。

基于一体化教导集架构，希姆辩论完毕了NeuralScale NPC中枢架构，并推出了STCP920芯片和推理卡。STCP920推理卡是面向云表AI推理辩论的板卡级产物，具有高能效、低延时等上风，可平凡应用于需要AI推理加速的场景中。

此外，希姆辩论针为STCP920研发了完整的软件器用链，充分发掘教导集的上风及硬件的后劲，掩盖了深度学习模子的开导、部署、运维全经过，有劲的撑持了表层业务。

针对常见的深度学习模子，希姆辩论提供了MLTC编译器套件，通过先进的多层IR想象搭配先进的自动优化本领，不仅大约兼容不同要领的深度学习框架，同期不错使得这些模子在希姆辩论的硬件上达到最好性能水平。

而针对大模子，希姆辩论亦开导了专用的推理加速框架 STC_LLM，凭据大模子的特色，在Kernel层、调度层引入了多种大模子专用的优化本领，大大耕种了大模子的推剃头达，最高不错耕种300%的性能。

智算中心，高效开释算力价值

AI加速卡的表面算力往往是内行最关爱的一项方针，亦然各大厂商发布产物时宣传的重心，然则表面算力并非客户最终能用到的算力。关于大模子的大鸿沟算力需求，往往通过智算集群来满足，毫不是卡的简略堆砌，愈加强调软硬协同的系统、全栈处置决策中各层级的优化功力以及最终的算力服务质料。

希姆辩论持久以营业落地为导向，岂论是硬件产物照旧软件产物，想象之初就朝着端到端全栈处置决策的主张都头并进。研发副总裁王得科示意："打造全栈处置决策是一个漫长而复杂的过程，条目咱们从算力即服务的角度启航，为各个产物和功能想象合理的鸿沟。”

希姆辩论以算力即服务为请托理念，通过矜重的软件生态，简化模子部署的链路，裁减客户开导AI应用的复杂度，对信创/非信创的软硬件生态均有简易的适配和搭救，匡助客户买通从模子开导到部署的临了一公里，便捷一键式发布、部署模子服务。

希姆智算云平台是希姆辩论面向智算中心研发的专科算力平台，旨在有机休养智算集群中的辩论、蚁合、存储资源，酿成云上随用随取的AI算力，应付现时AI算力中心设置中圭臬不一、本领深度不及、请托周期冗长等一系列挑战。

智算云平台的想象选拔了云原生的理念，通过容器化部署、微服务架构、漫步式存储和辩论资源的动态调度等本领，不错搭救超大鸿沟集群的部署，最高搭救万卡鸿沟的集群，典型场景下不错作念到秒级切换，深度学习负载不错达到90%以上的哄骗率，充分施展硬件才略。

希姆辩论充分筹商了国表里的模子生态和落地场景，设置了高度适配自研硬件的模子仓库STC-ModelZoo，为客户提供开箱即用的各种SOTA模子，包含了传统的辩论机视觉CV、当然话语处理NLP、搜索保举、语音、多模态等模子200余个，以及现时热点的各种开源谣言语模子，LLaMA、Qwen、Baichuan、ChatGLM、InternLM、Mixtral、MOSS-Moon、Phi、XVERSE、Yi等系列30余个，参数目规格从几B到几十B不等。

针对专有模子，希姆辩论提供了编削器用（STC-TOOLKIT），匡助客户便捷地迁徙至希姆辩论生态，快速部署专有模子，大大裁减迁徙资本。

现在，希姆辩论依然在寰宇各地告捷落地了多个智算中心技俩，有劲撑持了各种 AI 应用，包括AIGC、问答助手、施行创作、劣势检测、安全施工、炊火报警、交通研判、医疗会诊、施行审核、语音识别等，全面掩盖了互联网、忠良办公、忠良城市、忠良工业、忠良金融、忠良医疗等热点领域。

希姆辩论，

AIGC期间软硬一体处置决策的指引者

从ChatGPT的横空出世，到国表里厂商纷纷入局大模子“百模大战”，再到智算中心的火热设置，现如今才往日了不到两年的时刻。AIGC本领依然在颠覆出产施行的神色，马上在迢遥领域重塑着出产力干系。行业的发展日月牙异，对优质产物的需求日趋讲求，更条目企业连续加强自身中枢竞争力，注释自身大约为客户提供的价值。

在RISC-V+AI这条赛说念上，希姆辩论从自研环节的AI辩论矩阵膨大教导集切入，通过先进的中枢架构和推理加速产物，以及完整的软件器用链，为自主可控地提供算力服务夯实了软硬件基础，何况明确自身作念为算力本领提供者、股东行业智能化转型的定位，基于自身算力平台最初打造出了矜重的垂直大模子、智能体、数据治理产物。

这些产物的告捷体现了希姆辩论从硬科技改革到场景化落地的轮廓实力，在RISC-V改革决策上抢先了一个身位，亦然希姆辩论赖以发展壮大的基因。

将来，行业对算力的需求莫得荒谬，握住改革和突破瓶颈是企业和行业永久的责任。对希姆辩论来说，现时的全栈处置决策仅仅阶段性的恶果。改革，永久在路上，点滴蕴蓄能力汇注成改革的泥土。将来岂论是打磨既有决策落地更多场景，照旧将千里淀的教导融入开导中的下一代芯片，以及股东AI主张的外洋本领圭臬制定和生态合营，希姆辩论都将为行业的发展注入新的可能。

半导体佳构公众号保举

专注半导体领域更多原创施行

关注全球半导体产业动向与趋势

*免责声明：本文由作家原创。著述施行系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或搭救，淌若有任何异议，欢管待洽半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第3925施行，接待关注。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID：icbank

心爱咱们的施行就点“在看”共享给小伙伴哦