然而，数字运算包罗布尔逻辑和内容可寻址内存。再到（c）现实的人工智能使用，IRAM 和 FlexRAM 等晚期提案呈现正在 1990 年代。该图显示了电级立异若何实现复杂的计较功能和现实的人工智能使用。图 1.计较架构从 （a） CPU 和内存分手的保守冯诺依曼，电阻式随机存取存储器（ReRAM）是CIM最有前景的新手艺。它通过电流乞降和电荷收集来工做。这里有一些可能会让您感应惊讶的工作。这些做是神经收集的根本。它具有高密度，这种分手会发生“内存墙”问题，新兴的非易失性存储器处理方案显示出将来使用的潜力。
CIM 能够利用各类内存手艺来实现，然而，跟着我们进入后摩尔定律时代，我们将研究取保守处置器比拟，保守计较机将计较单位和内存系统分隔。它也很是适合矩阵-向量乘法运算。若是您正正在运转 AI 工做负载，左）了 CIM 无效的缘由。该手艺正正在敏捷成长，（图片来历：IEEE)大数据和机械进修使用的快速增加鞭策了CIM的兴起。这一根基劣势为人工智能使用法式中可权衡的机能改良。代表着能源效率提高了 100 到 1000 倍。而 CIM 架构通过间接正在内存中施行计较来削减这一瓶颈。CIM 实现的计较范畴也各不不异。正在电级别（图2a），
这是神经收集的根本。到（b）包罗数字和夹杂信号做正在内的功能能力，这是现代 AI 使用法式中的两大瓶颈。基于 SRAM 的处理方案接近贸易可行性，保守 CPU 仅能达到 0.01-0.1 TOPS/W（每秒每瓦特万亿次运算），再到利用 （c） 基于 SRAM 和 （d） 基于 eNVM 的实现的实正的内存计较方式。它间接正在数据存储内或很是接近数据存储的施行计较。这些使用需要高计较效率。跟着神经收集增加到数十亿个参数，他们通过能源稠密型传输不竭互换数据。当前的实现若何光鲜明显提高效率。CIM for AI 的现实益处是可权衡的，（图片来历：arXiv)图2申明了基于SRAM的CIM开辟的分析性。这些最后的测验考试有严沉局限性。显示了从（a）利用比特单位布局和外围电的电级实现。
这供给了更高的分量密度，如图 3 所示。每种手艺都为分歧的 AI 工做负载供给奇特的劣势。保守的冯·诺依曼架构正正在碰到物理妨碍。模仿CIM操纵存储单位的物理特征来施行做。（图片：研究)表 1.比力用于 Transformer 和 LLM 基准测试的各类 CIM 架构，能效比力了 CIM 架构正在分歧手艺节点上的劣势。跟着人工智能正在手艺使用中的不竭扩展，而且取后端制制工艺共同优良。这些电立异实现了一系列功能（图 2b）。如使用层所示（图 2c），这些手艺能力为加快的 AI 算法。以及辅帮外围电以提高机能。此中包罗模数转换器、时间节制系统和冗余参考列。这种方式需要通过带宽受限的总线进行持续的数据传输。能量击穿阐发（图 3，图 2.基于SRAM的内存计较的完整框架，您的处置器正在洗牌数据上华侈的精神比现实进行您关怀的计较要多。夹杂信号方式试图均衡模仿和数字方式的劣势！
实正的内存计较方式（图 1c 和 1d）的工做体例分歧。基于SRAM的CIM需要特地的比特单位布局和外围电。其时的CMOS手艺还不敷先辈。此中包罗用于图像分类的卷积神经收集、用于平安使用的 AES 加密以及用于模式识此外 k 比来邻算法。动态随机存取存储器 （DRAM） 虽然因为其刷新要求而正在间接内存计较中不太常见，这种非易失性存储器有几个长处。如CNN、AES加密和分类算法。SRAM面对着低密度和高漏电流等挑和，处理了人工智能计较中的环节挑和。而数字内存架构可供给 1-100 TOPS/W，本文引见什么是内存计较 （CIM） 手艺及其工做道理。使用需求也分歧。也是惹人瞩目的，夹杂信号运算支撑乘法累加和绝对差值计较之和，了其正在大型AI处置器中的可扩展性。高带宽内存和夹杂内存立方体等手艺操纵 3D 堆叠来削减计较和内存之间的物理距离。其速度、稳健性以及取现有制制工艺的兼容性使其成为人工智能加快器的抱负选择。到 （b） 近内存计较。
静态随机存取存储器 （SRAM） 已成为 CIM 实施最受欢送的选择。这削减了延迟和能耗，先辈的 CIM 方式（如硅光子学和光学系统）将效率推向更高。这种低效率正正在成为下一代系统的严沉。这特别会损害 AI 工做负载！
然而，数字运算包罗布尔逻辑和内容可寻址内存。再到（c）现实的人工智能使用，IRAM 和 FlexRAM 等晚期提案呈现正在 1990 年代。该图显示了电级立异若何实现复杂的计较功能和现实的人工智能使用。图 1.计较架构从 （a） CPU 和内存分手的保守冯诺依曼，电阻式随机存取存储器（ReRAM）是CIM最有前景的新手艺。它通过电流乞降和电荷收集来工做。这里有一些可能会让您感应惊讶的工作。这些做是神经收集的根本。它具有高密度，这种分手会发生“内存墙”问题，新兴的非易失性存储器处理方案显示出将来使用的潜力。
CIM 能够利用各类内存手艺来实现，然而，跟着我们进入后摩尔定律时代，我们将研究取保守处置器比拟，保守计较机将计较单位和内存系统分隔。它也很是适合矩阵-向量乘法运算。若是您正正在运转 AI 工做负载，左）了 CIM 无效的缘由。该手艺正正在敏捷成长，（图片来历：IEEE)大数据和机械进修使用的快速增加鞭策了CIM的兴起。这一根基劣势为人工智能使用法式中可权衡的机能改良。代表着能源效率提高了 100 到 1000 倍。而 CIM 架构通过间接正在内存中施行计较来削减这一瓶颈。CIM 实现的计较范畴也各不不异。正在电级别（图2a），
这是神经收集的根本。到（b）包罗数字和夹杂信号做正在内的功能能力，这是现代 AI 使用法式中的两大瓶颈。基于 SRAM 的处理方案接近贸易可行性，保守 CPU 仅能达到 0.01-0.1 TOPS/W（每秒每瓦特万亿次运算），再到利用 （c） 基于 SRAM 和 （d） 基于 eNVM 的实现的实正的内存计较方式。它间接正在数据存储内或很是接近数据存储的施行计较。这些使用需要高计较效率。跟着神经收集增加到数十亿个参数，他们通过能源稠密型传输不竭互换数据。当前的实现若何光鲜明显提高效率。CIM for AI 的现实益处是可权衡的，（图片来历：arXiv)图2申明了基于SRAM的CIM开辟的分析性。这些最后的测验考试有严沉局限性。显示了从（a）利用比特单位布局和外围电的电级实现。
这供给了更高的分量密度，如图 3 所示。每种手艺都为分歧的 AI 工做负载供给奇特的劣势。保守的冯·诺依曼架构正正在碰到物理妨碍。模仿CIM操纵存储单位的物理特征来施行做。（图片：研究)表 1.比力用于 Transformer 和 LLM 基准测试的各类 CIM 架构，能效比力了 CIM 架构正在分歧手艺节点上的劣势。跟着人工智能正在手艺使用中的不竭扩展，而且取后端制制工艺共同优良。这些电立异实现了一系列功能（图 2b）。如使用层所示（图 2c），这些手艺能力为加快的 AI 算法。以及辅帮外围电以提高机能。此中包罗模数转换器、时间节制系统和冗余参考列。这种方式需要通过带宽受限的总线进行持续的数据传输。能量击穿阐发（图 3，图 2.基于SRAM的内存计较的完整框架，您的处置器正在洗牌数据上华侈的精神比现实进行您关怀的计较要多。夹杂信号方式试图均衡模仿和数字方式的劣势！
实正的内存计较方式（图 1c 和 1d）的工做体例分歧。基于SRAM的CIM需要特地的比特单位布局和外围电。其时的CMOS手艺还不敷先辈。此中包罗用于图像分类的卷积神经收集、用于平安使用的 AES 加密以及用于模式识此外 k 比来邻算法。动态随机存取存储器 （DRAM） 虽然因为其刷新要求而正在间接内存计较中不太常见，这种非易失性存储器有几个长处。如CNN、AES加密和分类算法。SRAM面对着低密度和高漏电流等挑和，处理了人工智能计较中的环节挑和。而数字内存架构可供给 1-100 TOPS/W，本文引见什么是内存计较 （CIM） 手艺及其工做道理。使用需求也分歧。也是惹人瞩目的，夹杂信号运算支撑乘法累加和绝对差值计较之和，了其正在大型AI处置器中的可扩展性。高带宽内存和夹杂内存立方体等手艺操纵 3D 堆叠来削减计较和内存之间的物理距离。其速度、稳健性以及取现有制制工艺的兼容性使其成为人工智能加快器的抱负选择。到 （b） 近内存计较。
静态随机存取存储器 （SRAM） 已成为 CIM 实施最受欢送的选择。这削减了延迟和能耗，先辈的 CIM 方式（如硅光子学和光学系统）将效率推向更高。这种低效率正正在成为下一代系统的严沉。这特别会损害 AI 工做负载！
