自研架构NPU:灵活易用、规模部署的新趋势

2023-06-08 08:00:47 业界科普

NPU是指神经网络处理单元,它是一种专门用于加速神经网络计算的芯片。近年来,越来越多的公司开始自主研发NPU,以应对人工智能应用中对计算能力的需求。其中,自研架构NPU是一个新的趋势,具有灵活易用、规模部署等优点。

自研架构NPU在应用适应性方面与公司的理念相一致,能够满足端侧、边缘侧及云端的应用场景,可用于小到几十毫瓦,大到几百瓦的训练场景,横跨全场景提供最优算力。例如,华为的达芬奇架构作为自研架构,在应用适应性方面与华为的理念一脉相承,基于灵活可扩展的特性,达芬奇架构能够满足不同场景的应用需求。

安谋科技发布的“周易”X2 NPU是一款自研新一代人工智能处理器,不仅在算力、精度、灵活性等方面进行了大幅提升,还针对车载、边缘计算等应用场景进行了专门优化,为新兴领域不断迭代的计算需求提供更为完善的解决方案。此外,安谋科技还发布了“周易”NPU软件开源计划,通过开放源码,满足客户更自主、更灵活的算法移植需求,携手合作伙伴共建国内NPU产业生态。

NPU相较于GPU的优势之一在于,大部分时间集中在低精度的算法,新的数据流架构或内存计算能力。与GPU不同,它们更关注吞吐量而不是延迟。此外,NPU还能够运行多个并行线程,通过一些特殊的硬件级优化,比如为一些真正不同的处理核提供一些容易访问的缓存系统,将其提升到另一个层次。这些高容量内核比通常的“常规”处理器更简单,因为它们不需要执行多种类型的任务。这一整套的“优化”使得NPU更加高效。

总的来说,自研架构NPU是一个新的趋势,具有灵活易用、规模部署等优点。目前,越来越多的公司开始自主研发NPU,以应对人工智能应用中对计算能力的需求。NPU相较于GPU的优势在于,大部分时间集中在低精度的算法,新的数据流架构或内存计算能力。与GPU不同,它们更关注吞吐量而不是延迟。

版权说明: 本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。