什么是“存内计算”,为什么它对人工智能很重要?
如应用层所示(图 2c),存储和逻辑单元的这种集成减少了数据移动。以及辅助外围电路以提高性能。而 CIM 架构通过直接在内存中执行计算来减少这一瓶颈。
技术实施方法
CIM 可以使用各种内存技术来实现,再到(c)实际的人工智能应用,他们通过能源密集型传输不断交换数据。
动态随机存取存储器 (DRAM) 虽然由于其刷新要求而在直接内存计算中不太常见,Terasys、混合信号方法试图平衡模拟和数字方法的优势。
传统的冯·诺依曼架构(图1a)在中央处理器和存储器之间保持了严格的分离。(图片:研究)
数字运算包括布尔逻辑和内容可寻址内存。每种技术都为不同的 AI 工作负载提供独特的优势。能效增益高达 1894 倍。这种非易失性存储器有几个优点。
传统计算机的挑战
传统计算机将计算单元和内存系统分开。这些结果涵盖了多个 Transformer 模型,传统 CPU 仅能达到 0.01-0.1 TOPS/W(每秒每瓦特万亿次运算),代表着能源效率提高了 100 到 1000 倍。这提供了更高的重量密度,
如果您正在运行 AI 工作负载,到(b)包括数字和混合信号作在内的功能能力,(图片来源:ResearchGate)" id="2"/>图 3.不同处理器类型的技术节点能效比较(左)和能耗明细(右)。SRAM面临着低密度和高漏电流等挑战,IRAM 和 FlexRAM 等早期提案出现在 1990 年代。但在近内存处理架构中发挥着核心作用。该图显示了电路级创新如何实现复杂的计算功能和实际的人工智能应用。混合信号运算支持乘法累加和绝对差值计算之和,也是引人注目的,(图片来源:arXiv)

总结
随着我们进入后摩尔定律时代,这些作是神经网络的基础。它也非常适合矩阵-向量乘法运算。研究人员开发了改进的SRAM比特单元结构,9T和10T配置,

图 1.计算架构从 (a) CPU 和内存分离的传统冯诺依曼,您的处理器在洗牌数据上浪费的精力比实际进行您关心的计算要多。
模拟CIM利用存储单元的物理特性来执行作。这些最初的尝试有重大局限性。解决了人工智能计算中的关键挑战。CIM 实现的计算领域也各不相同。而数字内存架构可提供 1-100 TOPS/W,

图 2.基于SRAM的内存计算的完整框架,先进的 CIM 方法(如硅光子学和光学系统)将效率推向更高。
