位置:官网首页 > 公司新闻 >

云端AI推理市场将迎来爆发,燧原科技发布首款推理产品

作者:时间:2020-12-24 12:23浏览:

云端AI推理需求将在2022年迎来迸发。继去年底发布首款面向数据中心的AI练习芯片“邃思”及加快卡“云燧T10”后,燧原科技又发布了首款面向云端的高性能推理卡。

疫情加快了数据中心建造脚步和AI运用的速度。“传统数据中心和AI没有直接联系,便是X86+GPU加一堆存储和数据转移,但现在数据中心越来越多引进AI加快渠道。AI的浸透率会越来越高,咱们估计浸透率会从5%到25%-30%,商场十分巨大。”燧原科技CEO赵立东在承受榜首财经专访时表明。

12月21日,燧原科技发布首款面向数据中心的AI推理产品 “云燧i10”。该公司是腾讯出资的国内AI芯片草创企业。2018年8月,燧原科技由腾讯领投取得Pre-A轮融资3.4亿元人民币。本年5月,燧原科技宣告完结B轮融资7亿元人民币,由半导体工业基金武岳峰资身手投,腾讯、上海双创等跟投。

按运用场景区分,AI芯片首要分为云端和终端芯片。现在干流的神经网络深度学习包含练习和揣度两个部分。云端寻求高性能,开发本钱更大,终端更偏重低本钱和低功耗。现在我国AI草创企业首要布局在终端和边际侧。

赵立东以为,面向数据中心的高性能AI核算芯片及分布式集群作为人工智能工业的基础设施,从架构升级到运用场景的落地,都蕴含了巨大的商场空间和机会。

除了练习侧,云端AI推理的需求也不断攀升。研究机构赛迪参谋陈述显现,从2019年到2021年三年我国AI芯片商场规模仍将坚持50%以上的增长速度,到2021年,商场规模将到达305.7亿元。其间,跟着大规模地方性数据中心的建造连续完结,云端练习芯片增长速度放缓;而跟着各范畴商场需求的开释,云端揣度芯片、终端揣度芯片商场增长速度将继续呈上升趋势。

数据显现,从2019年到2024年,云端练习芯片的年复合增长率为32%,而云端推理的增长率将达69%。到2022年,我国云端推理芯片商场规模将到达189亿元,初次超越云端练习商场规模。

赵立东表明,AI真实起步在曩昔五六年,国内更晚,BAT等大企业从2018、2019年才开端许多收购英伟达V100练习芯片,“练习跟推理的联系是——练习出来的模型被布置到推理产品上运用。当模型、算法不老练,你需求不断练习、迭代,老练了才干被布置到推理上去真实运用。从2018年开端到2022年,许多场景的算法和模型通过这几年开端逐步老练,真实规模化运用。当推理芯片销售收入超越练习芯片,许多算法、模型现已开端被广泛运用了。对AI范畴来讲,2022年是个重要的节点。”

在生态协作方面,燧原科技COO张亚林称:“云燧i10已完结与浪潮、新华三及Supermicro等服务器厂商推理服务器的适配。可适用于视频图画、语音、自然语言处理、常识图谱等多种运用场景,并针对内容了解、引荐、辨认等高精度场景做了优化。”

据悉,云燧i10是单槽位规范卡,支撑PCIe 4.0,FP32算力达17.6TFLOPS,BF16/FP16算力70.4TFLOPS,将于下一年榜首季度上市。一起,燧原科技发布了推理引擎“鉴算TopsInference”。

燧原科技的云端练习产品已完成商业落地。本年9月,燧原科技称,“云燧T10”和由其组成的多卡分布式练习集群已在云数据中心落地,正式进入商用阶段。腾讯是燧原科技的重要协作同伴,赵立东告知榜首财经,两边将进一步加强协作的广度和深度。不过,他指出,“腾讯是咱们起步期(破冰)的重要同伴,起步是最难的,从0到1。腾讯给咱们很大协助,是咱们榜首个具有战略意义的重要客户,但肯定不是仅有的。”

据介绍,燧原科技有三大方针商场,一是云服务提供商,包含公有云、私有云、混合云等,这类企业有许多的流量和数据,需求练习算法加快AI相关运用;二是专心于金融、稳妥、医疗、交通等范畴的职业服务商;三是AI超算中心和才智城市等范畴。

电话:xxxxxxxxx
传真:xxxxxxxxxx
邮编:xxxxxx
地址:xx省xxxxxxxxx