首页 > 原创文化 > 原创文化 > 芯趋势丨存算一体,AI计算的最优解?

芯趋势丨存算一体,AI计算的最优解?

发布时间:2024-08-09 16:15:02来源: 15210273549

随着人工智能与大数据技术的飞速发展,我们正步入一个以大模型为核心的新时代。然而在这一浪潮中,传统的冯·诺依曼架构却逐渐显露出其狭隘性。

该架构虽然奠定了现代计算机的基础,但在面对海量数据处理与大模型训练时,却受限于存储与计算分离的设计,导致数据搬运成为性能瓶颈,严重制约了计算效率的提升。

为了突破这一瓶颈,业界开始将目光聚焦于另一个计算架构——存算一体,这是一种将存储和计算功能融合在同一个芯片上的技术架构。

事实上,存算一体的概念由来已久。早在1969年,斯坦福研究所的Kautz等人提出了存算一体计算机的概念。但受限于当时的芯片制造技术和算力需求的匮乏,那时存算一体仅仅停留在理论研究阶段,并未得到实际应用。

而近年来,随着半导体制造技术突破,以及AI等算力密集应用场景的崛起,存算一体技术也得到迅猛发展。2017年,英伟达、微软、三星等提出存算一体原型,随后,国内也诞生一批存算一体芯片企业,苹芯科技是其中之一。

8月8日,苹芯科技正式发布了两款新品,包括存算一体NPU“PIMCHIP-N300”和多模态智能感知芯片“PIMCHIP-S300”,后者采用的是28纳米制程工艺。

苹芯科技CEO杨越在接受21世纪经济报道记者采访时指出,“存算一体就是要在成熟制程实现高级制程的计算能力,这让我们不用非去卷高级制程”。

打破冯·诺依曼架构

在存算一体技术出现之前,计算架构基本都是遵循冯·诺依曼架构,即存储与计算单元分离。

杨越向记者表示,在冯·诺依曼架构下,当计算发生时,数据需要在存储和计算单元直接传输。而在AI算力芯片中,超过90%的功耗都消耗在传输上,所以原来的架构在计算效率上很难支撑AI的发展。

此前,提高计算效率的办法就是升级制程工艺,从最初的65纳米、40纳米已经变成7纳米、5纳米甚至3纳米。然后,这种方法后来也遭遇了瓶颈。

因此2020年前后,国内出现一批公司,他们试图从其他维度去解决计算效率提升的问题。“比如存算一体公司、量子计算公司、光子芯片公司等,这些公司希望去改变芯片的架构来减少数据的搬移。而在不同的技术路径中,存算一体是落地性最强的一个赛道”。杨越说。

在存算一体赛道中,不同公司也存在差异,主要是底层所采用的Memory(存储器)类型不同。有的是用flash做,有的是用静态随机存储器(SRAM)做,还有的是用新型存储器——忆阻器来做。

杨越告诉记者,不同的Memory所具有的特性不同,有的密度高,有的耐久性更好。而苹芯科技选择SRAM,是因为它的产品化能力最强。

“在用户最关心的几个性能维度上,比如读写的延时、耐久性、Memory可擦写的次数、高级制程兼容性等,SRAM的表现都是最优的。另外,因为SRAM在计算机体系中已经存在几十年了,它的成本、良率都很稳定。所以如果想要快速产品化,SRAM会是最优的解决方案”。杨越表示。

另外,即便是使用同一种Memory来做的企业,面向的场景也可能不同。有些公司选择了大算力场景,比如汽车、服务器,苹芯科技选择的则是小端侧场景,比如智能可穿戴设备、智慧家居等。

杨越称,选择小端侧场景,是因为算力整体并不是特别大,但是对于功耗的要求又比较敏感。“做出这一选择,我们是从电路、系统架构、应用、成本等角度进行了综合考量,觉得小端侧场景更适合快速出产品”。

他举例说,“我们团队的背景之前都是做新型存储器的,但我们仍然采用SRAM方案,核心原因就是我们认为这个方案在2-3年内可以产品化,这是符合投资人商业逻辑的,也是符合产业商业逻辑的”。

大厂留下的机会

目前,包括英特尔、三星、IBM、AMD等在内的传统芯片厂商都在布局存算一体,苹芯科技等初创公司如何应对与巨头的竞争?

杨越表示,从行业角度,大家做的事情是趋同的,就是希望让数据的搬运彻底消失。包括苹芯科技在内的一些初创公司,其优势在于选择了存内计算方案,这几乎能将缩短数据距离这件事做到极致化。但大厂们不太可能去这样做,因为他们要考虑通用性的问题,这实际上也为创业公司提供了机会。

据记者了解,存算一体技术可分为三类:近存计算(Processing Near Memory, PNM)、存内处理(Processing In Memory, PIM)和存内计算(Computing In Memory, CIM)。

其中,近存计算是利用先进的封装技术,将计算芯片和存储器封装到一起,通过减少内存和处理单元之间的路径,提高传输效率;存内处理侧重于将计算过程尽可能地嵌入到存储器内部,减少处理器访问存储器的频率;存内计算则是将计算和存储完全融合的技术,通过电路革新或集成额外的计算单元来实现。

因为存内计算对制程工艺要求不高,所以这也是国内创业公司主要选择的技术路径。华西证券在一份研报中指出,近存计算的代际设计成本较低,适合传统架构芯片转入,目前该技术已经十分成熟,被广泛应用于各类CPU和GPU上。而存内计算主要用于算法固定的场景算法计算。

杨越指出,目前电子产品正朝着小型化、智能本地化的方向发展,这给存算一体创业公司带来了很大的市场机遇。

“小型化意味着电池不能做得太大,然后还要去很好地驱动AI计算,这在传统架构中很难实现。比如现在基于传统架构的一些智能设备,当它们打开AI功能时,非常容易发热,原因在于有大量的数据搬运,而存算一体可以将产品体验变得更好”。他说。

据杨越介绍,苹芯科技的产品未来会有两个迭代方向,一是在功能上,要从现在的卷积神经网络(CNN)迭代到Transformer模型,二是在计算效率上,会把制程工艺从现在的28纳米,升级到22纳米、14纳米,最终定格在12纳米。

原创文化更多>>

德国发布电动车创新指数!吉利第一,比亚迪第三! 闪充·大空间·新乐趣:方程豹钛7EV闪充版上海上市 豹5/豹8闪充版上市,但皮卡能不能顶住压力? 试驾奔驰EQS:古典豪华纯电遗珠,销量不能代表产品力 主打低成本城市物流,零跑T03推出货运版本秒变“拉货神器” 4月轻卡表现稳健:远程增势猛!福田3.7万断层领先!长安同比领涨 4月MPV销量榜出炉 岚图梦想家夺冠 魏牌高山冲进前三甲 大众纯电高尔夫推迟至2030年前后上市,SSP平台延期成主因 埃安N60以“128项全系标配”重新定义10万级纯电SUV价值标准的有力宣言 法式大7座SUV真香!标致 5008 智能混动深度试驾! 华为出技术,江淮生产?玛莎拉蒂电车将国产,归属尊界 当别人还在卷充电峰值、卷增程油箱、卷电池容量时,蔚来已经把“补能确定性”变成了销量 吉利银河星耀7 5月22日上市!配雷神AI电混2.0,预售11.28万元起 吉普发布全新牧马人美国250周年特别版,自带美国队长盾牌,这才是他的新座驾 越野圈地震!方程豹豹 8 / 豹 5 闪充版上市,3 轮能开、3 分钟换胎! 吉利银河TT定位中大型轿车,采用纯电动力,车长为4999mm,轴距为2920mm 单月破13万同比大涨70.9%,比亚迪全球化实力全面爆发 全国一口价10.99万元起,和起亚新狮铂拓界纵享初夏好时光 smart 全新一代精灵1号 用激光雷达让小车也配高阶智驾 不跟风、不妥协:212如何用“野”字对抗行业的“卷”? 新款红旗H5和HQ9将于5月20日上市。对心现款车型新款会在内饰部分进行一些升级调整 三大车企一季度财报横评:比亚迪在换挡,吉利在加速,上汽在磨合 订单10万台!30万的大唐“一夜爆红”,越贵的比亚迪越不愁卖? 限时售价8.79万元 配备专属徽章 吉利博越十周年冠军版上市 “8系、9系”扎堆申报,集体冲击高端旗舰 科技比亚迪:以首创之姿筑不可超越之基 1-3月硬派越野销量榜 仅一款销量过万 普拉多第六 销量六连冠,星光730凭什么成为家庭MPV“满分座驾”? 比起“谁更智能”,一汽奥迪强调“把驾驶感抢回来” 15.08万元起!领汇汽车正式推出C级闪充商务轿车e9