一体AI芯片是怎么一回事

智能生活，智能城市，慢慢的我们会进入物联网时代，海量的数据蜂拥而至。特别是各种应用终端和边缘侧需要处理的数据越来越多，而且对处理器的稳定性，以及功耗提出了越来越高的要求，这样，传统的计算体系和架构的短板就显得愈加突出，这些使得计算+存储+AI的融合发展成为了一大方向。

目前来看，不论是PC还是超算，处理器和存储芯片都是分离的，这就是冯诺依曼50多年前确立的计算架构。随着技术的发展，存储计算分离的架构瓶颈越来越明显。

一般芯片的设计思路是增加大量的并行计算单元，在传统的计算架构当中，存储一直是有限且稀缺的资源，随着运算单元的增加，每个单元能够使用的存储器的带宽和大小将逐渐减小，而随着人工智能时代的到来，这种矛盾显得愈加突出。在很多AI推理运算中，90%以上的运算资源都消耗在数据搬运的过程中。芯片内部到外部的带宽，以及片上缓存空间限制了运算的效率。因此，在业界和学术界，越来越多的人认为存算一体化是未来的趋势，可以很好地解决“存储墙”问题。

基于NOR闪存架构的存算一体AI芯片，利用NOR Flash的模拟特性，可直接在存储单元内进行全精度矩阵卷积运算（乘加运算）。规避了数据在ALU和存储器之间来回传输的瓶颈，从而使功耗大幅降低、提高了运算效率。其Flash存储单元可以存储神经网络的权重参数，同时还可以完成和此权重相关的乘加法运算，从而将乘加法运算和存储融合到了一个Flash单元里面。例如，100万个Flash单元可以存储100万个权重参数，同时还可以并行完成100万次乘加法运算。相比于传统的冯诺依曼架构深度学习芯片，这种的运算效率非常高，而且成本低廉，因为省去了DRAM、SRAM以及片上并行计算单元，从而简化了系统设计。

目前来看，这种基于NOR闪存架构的存算一体AI芯片，其主要应用领域就是对成本和运算效率（特别是功耗）敏感的应用，如边缘侧的低功耗、低成本语音识别等。而随着人工智能和物联网的发展，它还可以拓展更多的应用场景。

致芯解密专家认为，在发展存算一体AI芯片方面，除了存储和计算技术本身之外，行业相关的接口标准跟进特别重要，特别是对于以存储为基础的新型应用来说。还需要不断完善生态系统建设，才能使整个产业发展起来。