2022年世界人工智能大会,展馆中,云集了瀚博半导体、燧原科技、登临科技、壁仞科技、天数智芯、爱芯元智等一批AI芯片厂商,“八大镇馆之宝”中有两个来自芯片领域:天数智芯GPU推理芯片“天垓100”系列、壁仞科技BR100系列GPGPU芯片。
“中国人工智能发展的过程中,数据、算法和算力中,我国的数据规模全球第一,算法从论文发布数量来看也是全球第一,但是算力层面,则成了我们的痛点。”燧原科技解决方案总监安洋在一个论坛上这样说。
也是因为算力的痛点,各家AI芯片厂商,纷纷将算力的大幅提升,作为新产品发布的亮点。
此次人工智能大会,瀚博半导体第一次大规模参展,创始人兼CEO钱军高调发布了瀚博统一计算架构、全新数据中心推理卡载天VA10、边缘AI推理加速卡载天VE1和瀚博软件平台VastStream扩展版,并预览了国产7nm云端GPU芯片SG100。
钱军强调,载天VA10这款加速卡搭载瀚博自研的超低延时、超高吞吐AI引擎,最大的亮点在于,Int8峰值算力达400TOPS,再次刷新业界纪录。边缘AI推理加速卡载天VE1的卖点之一,也是功耗低、算力大,在 40~65瓦功耗下,INT8峰值算力达100 TOPS。
壁仞科技董事长张文也在一个主旨演讲中表示,“镇馆之宝”之一的BR100系列,算力达到每秒千万亿次计算,创全球通用GPU芯片算力纪录,为智能计算带来全新速度,能运算更大的网络、解决更难的问题。
大规模数据训练超大参数量的巨量模型是人工智能的发展方向,“预训练大模型+下游任务微调”的模型开发方式将极大提升企业的AI应用开发效率,开发者只需要少量行业数据就可以快速开发出精度更高、泛化能力更强的AI模型。而训练出一个大模型,除了算法和数据,还需要超大规模的算力支撑。
燧原科技此次人工智能大会期间首次展出了云燧智算机(CloudBlazer POD)以及第二代训练和推理全线产品。燧原科技创始人兼COO张亚林表示,基于云燧智算机所构成的大规模集群解决方案采用高带宽、全互联拓扑架构,计算、存储、管理网络全分离,计算节点内基于GCU-LARE2.0多芯互联技术提供近1TB/s的互联带宽,跨节点互联能力高达600Gb/s,可实现千卡级大规模集群高速互联,具备优异的线性加速比以支撑超千亿参数巨量模型的高效、并行训练。
“云燧智算机是结合了云燧训练和推理产品在行业落地的实践经验,以全方位降低AI算力中心部署和应用成本为目标所推出的全新系统一体化产品,面向大规模、集约化、绿色低碳数据中心建设。“张亚林说。
此次人工智能大会期间,中国算力网新增7个节点,节点总数超过20,全国AI算力一张网布局基本完成。
“人工智能计算中心核心是解决各个城市产业产学研的算力不足的问题,一上线即饱和,其实说明现在人工智能算力是非常稀缺的。”2022世界人工智能大会期间,华为昇腾计算业务总裁张迪煊接受采访时表示,人工智能三要素组成,算法、数据、算力,现在看出来整个算力是相对缺乏的,“中国人均的算力比较低,大概在中等国家水平”。
“算力确实是必需品,大到算力网、算力中心,小到手机以及穿戴,这些都是算力。算力无处不在,已经跟我们的生活已经息息相关了。”张迪煊说,包括当下火热的元宇宙,背后是通过人工智能方式来实现数字世界和物理世界的互联互通。这里包括基础硬件和基础软件,基础硬件更多面向人工智能的解决方案,通过部件提供的方式由整机伙伴制造的服务器,包括推理服务器,训练服务器等;基础软件,华为坚持开源开放,希望结合更多的产业界的朋友参与。
在张迪煊看来,通过算力中心的方式,可以解决各个城市的算力稀缺问题,下一步算力上线即饱和的城市也会在有序的进行扩容,已经有一些城市启动相应的扩容计划,来更多的满足产学研的算力需求,这也是人工智能正在蓬勃发展的根本原因。
张迪煊说,中国算力,未来是否会像水和电一样,水龙头一开就有水了,插头一插就有电了,这本质是互联互通。中国算力网构建起来,将是算力大平台,首先要解决连接问题,把算力连接在一起,可以实现东数西算,东数西存,东数西顺,东数西训……这是它可以实现的。
在张迪煊看来,中国算力网的连接,可以实现生态的汇聚、算网的汇聚、模型的汇聚,以及一些公开数据的汇聚,实现算力的交易流通,如此,假设我们在上海,算力不够的时候,宁夏中卫有一个枢纽节点,上海就可以从那里调动相应的算力。
此次人工智能大会期间,瀚博发布了自主研制的统一计算架构(Vastai Unified Compute Architecture),该架构整合了多款高性能计算引擎,拥有高效统一的存储管理、一致性接口和低链接延迟、完整的虚拟化功能、统一的底层软件设计、模块化的上层计算算子库和功能模块。瀚博统一架构让计算密集型的AI、视频、渲染任务性能得到最大化硬件加速,同时端到端缩小延时,一体化助力云端实时图形渲染、AI增强处理、视频编解码等需求。
2022年以来,瀚博先后与福建大数据集团、国宁瑞能,高新兴、超聚变等行业领先企业,在智慧城市、智慧政务、智慧交通、智慧园区、智慧能源等多元场景,开展深入合作,为企业智能化、数据化提供国产AI算力解决方案。
此外,爱芯元智也首次对外公布其AI-ISP技术,聚焦人工智能视觉感知芯片研发及基础算力,未来将落地智慧城市、智能消费、智慧交通三大领域。
“我们这次逛展时很大的一个感觉,现在智算这块是百花齐放的,很多芯片厂商每家都在建自己的软件生态。“华为昇腾计算业务总裁张迪煊说,各家厂商之间怎么形成合力,真的能够在中国建一个起码不至于让算力水平低于国外特别多的情况,这是值得更多探索。
在张迪煊看来,未来向过去的通信网、电力网,未来有算力网络,很好的结合东西部的优势来解决相应的算力需求,帮助数字经济的发展,因为数字经济的根基底座就是算力平台和网络通讯。对于芯片智算的百花齐放,在芯片层面,在框架层面如何定义统一接口,比如南向是对接芯片层的,北向是对接应用层的,如此中国的人工智能芯片厂商和软件厂商才能形成很好的体系。