1. <rp id="a8j9o"><object id="a8j9o"><input id="a8j9o"></input></object></rp>
    

    <button id="a8j9o"></button>
    <em id="a8j9o"></em>
    <rp id="a8j9o"></rp>
  2. 創作

    完善資料讓更多小伙伴認識你,還能領取20積分哦, 立即完善>

    3天內不再提示

    存內計算之路——道阻且長,行則將至

    Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2022-05-24 00:02 ? 次閱讀

    電子發燒友網報道(文/李彎彎)如今隨著技術發展,計算任務越來越復雜,而在馮諾依曼架構中,數據需要在存儲、內存、緩存、計算單元中不斷搬運,造成大部分時間、帶寬、緩存、功耗都消耗在數據搬運上,而不是計算上,因此存儲墻成了一個越來越嚴重的問題。

    存內計算,故名思義就是把計算單元嵌入到內存當中,理想中是可以完美解決存儲墻的問題,近幾年,三星、SK海力士、臺積電、英特爾、美光、阿里等半導體領域巨頭都在積極研發,許多新興企業也陸續加入進來,并取得了不錯進展。

    面對打得火熱的存內計算,也有人認為,存內計算可能行不通,有幾個方面的原因:一是AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高;二是受限于存儲芯片的工藝,比如說密度要做到很高,良品率要比較高,工藝就比較難以做到。

    那么存內計算到底可不可行?存內計算未來的市場機會點在哪里?蘋芯科技CEO楊越在接受電子發燒友采訪時,針對在存儲器內做計算成本不會太高,存儲芯片工藝能不能行,存內計算的主要的應用場景方向,做了詳細的分享和解答。

    存內計算到底可不可行


    針對“AI算法模型的容量比較大,而這個在存儲器里面做計算,成本會非常高”的疑問,楊越解釋道,有人認為在存儲器里面做計算,成本會高,是因為他們認為要容下非常多網絡參數,就需要把存儲器做得非常大,存儲器做大就意味著成本高。

    針對這個問題,楊越表示目前已經有很多方法可以解決。

    第一,在算法模型上進行解決,即將網絡模型輕量化,比如知識蒸餾,簡單來說就是減少算法模型中的參數的存儲需求,目前已經有很多非常成熟的方法,比如CNN壓縮,就是屬于這一類。

    蘋芯科技以S200為基礎搭建的功能演示平臺,在這個演示系統里,就采用了其中一種基于神經網絡架構搜索NAS的方法來得到輕量化的模型,而且能完成非常高的識別率,可以達到99%的關鍵字識別功能。S200是蘋芯首款可商用的存內計算芯片,以S200為基礎搭建功能演示平臺,目的是演示在28nm工藝節點上的存內計算可以跑通端對端的神經網絡。

    第二,從可擴展的架構設計上著手。楊越表示我們可以試圖打破將整個算法模型必須同時全部加載到內存中之后,才可以開始計算的固化假設。相應地,一個好的存算架構是可以支持以計算負載為主或以存儲負載為主的不同任務,從而形成一個基于存內計算的向上適配能力強的算力平臺。

    第三,可以通過使用新型存儲器解決這個問題,包括磁性存儲器MRAM和憶阻器RRAM,相比于SRAM來說,MRAM和RRAM都有更高的存儲密度,所以從存儲單元介質本身就可以做到更大,這樣可以達到存儲更多計算參數的目的。

    可以看到,從這三個方面著手,都可以達到解決AI算法模型太大,存儲器要放下這么多數據,需要把存儲器做得很大,從而帶來成本高的問題。

    針對存儲芯片的工藝可能帶來限制的問題,楊越談到,蘋芯科技主要是基于SRAM的存內計算,目前SRAM的工藝已經非常成熟,就存儲器器件本身來說,市面上已經有7nm、5nm的產品,成熟工藝的良率很有保證。

    “另外,對于新型存儲器MRAM和RRAM,頭部代工廠也已經有22nm甚至更高制程的量產線?!睏钤秸f,所以在他看來,存內計算技術可以跟隨新型存儲器器件本身的技術逐步共同走向成熟。

    另外需要提到的一點是,新型存儲器MRAM和RRAM雖然可以解決容量不大這個問題,但是作為一個新的產品類型,還存在一些挑戰,比如在可靠性,耐用性上存在一些挑戰。不過楊越預計在近期未來新型存儲就會達到商業成熟化的程度。

    蘋芯科技雖然成立時間不長,但是團隊在創業前期就已經有很長時間的積累,存內計算是一項技術壁壘非常高的工程,而蘋芯科技在包括從底層內存器件的物理特性的理解,到上層芯片架構的設計,再到最后產品落地成本的控制上都有足夠的積累,在各個技術棧都有自己的IP,蘋芯科技也是第一個擁有工業級28nm SRAM存內計算加速單元DEMO的團隊,并首次利用RRAM存內計算完成基于LeNet的CIFAR10的識別任務。

    蘋芯科技下一代芯片S300已從代工廠回片,據楊越介紹,目前工程團隊,正在進行相應的測試和展示工作,相較于S200,S300具有更強大的計算能力,可以兼容更多網絡模型,從而支持更豐富的邊緣端應用場景。

    存內計算的機會點在哪里


    我們知道,存內計算有多種不同的技術路線,每個技術路線各有特點,比如Flash的優點是密度比較高,DRAM成本會比較低,磁性存儲器MRAM、憶阻器RRAM除了存儲密度比較高之外,功耗也比較低,楊越說:“這兩類新型存儲器MRAM和RRAM代表著存內計算的未來?!辈贿^因為是新技術,就如上文所言,在工藝成熟度和商業化上還需要一些耐心。

    蘋芯科技采用的是SRAM+MRAM和RRAM混合技術路線。楊越解釋說:“之所以選擇這樣的技術路線,背后的原因是,SRAM作為讀寫速度最快的內存介質,具備很多優勢,比如,它可以向更先進的制程節點兼容,具備高能效比的計算優勢,同時它又不存在其他非易失性存儲所具備的耐久性問題,更重要的是,基于SRAM的設計方案,可以支持純數字化設計,從而能夠解決很多應用場景所關心的精度問題?!?br />
    蘋芯選擇新型存儲器,一是因為它具有高性能天花板,二是這也有利于團隊核心成員更好地發揮過往的技術積累和工程經驗。

    存內計算未來的應用個機會點在哪里呢?現在很多具有AI計算功能的芯片,包括GPU、FPGA以及NPU、SOC等,都是基于傳統的馮諾伊曼架構設計的,會受到存儲墻、功耗墻的約束,這就導致他們在絕對計算上很強,但在整個計算效率上存在天花板。

    而存內計算就可以彌補這些問題,短期來看,存內計算的主要市場機會主要會出現在端側的產品上,因為存內計算的技術優勢,能夠提供比較高的計算效率和比較低的功耗,比如可穿戴設備、智能家居等是非常適合存內計算的應用方向。

    長期來看,隨著新型存儲器工藝的成熟,它不但會給低功耗的市場帶來機會,同時會把計算能力提升2-3個量級,讓存內計算的應用擴展到更多場景中,比如在一些用電量受限,但對絕對算力仍然有要求的場景層面,存內計算就可以給客戶帶來差異化的選擇機會。

    小結

    如Gardner曲線的解讀,任何新興技術在發展初期都會經歷一些起伏,尤其像存內計算這種在底層上有巨大突破的技術,從最初的熱捧,到發展期的理性,到成長期的企穩上升,再到最后產品商業化。扎實的技術背景和可靠的工程化能力,是存內計算企業立足市場并獲得客戶認可的重要基礎。我們期待著更多更好的技術與產品,為智能化場景描繪出更美好的未來。

    收藏 人收藏

      評論

      相關推薦

      自連數字一體化手術室方案提供數據高度共享的技術條件

      自連解決方案通過對手術室內各類醫療器械無線聯網升級,例如呼吸機、監測儀、手術顯微鏡、內窺鏡、麻醉站、....
      的頭像 科技綠洲 發表于 05-26 16:42 ? 113次 閱讀

      NI推出DataStudio軟件,打破從設計到測試的數據壁壘 新產品可以輕松連接整個工作流程中的數據

      2022年5月25日—NI(納斯達克:NATI)在時隔兩年再次回歸線下的全球用戶大會上推出DataS....
      的頭像 21克888 發表于 05-26 11:42 ? 254次 閱讀
      NI推出DataStudio軟件,打破從設計到測試的數據壁壘 新產品可以輕松連接整個工作流程中的數據

      GE醫療高端呼吸機產品獲國家食品藥品監督總局審核通過

      近日,GE醫療無錫產高端呼吸機產品—— CARESCAPE R860獲得國家食品藥品監督總局審核(N....
      的頭像 科技綠洲 發表于 05-26 10:05 ? 289次 閱讀

      NVIDIA助力阿里云構建視覺計算解決方案

      隨著線上協作、“虛擬經濟”等領域的潛力日漸被發掘,擴展現實(XR)、數字孿生、虛擬現實(VR)等技術....
      的頭像 NVIDIA英偉達企業解決方案 發表于 05-25 11:13 ? 196次 閱讀

      如何區分RapidStream自動分區算法

      FPGA的布局布線軟件向來跑得很慢。事實上,FPGA供應商已經花了很大的精力使其設計軟件在多核處理器....
      的頭像 科技綠洲 發表于 05-25 10:02 ? 274次 閱讀
      如何區分RapidStream自動分區算法

      星環科技Slipstream9.0性能、功能實現全面增強

      Slipstream是星環科技自主研發的一款企業級、高性能實時流計算引擎,通過提供豐富的組件與產品功....
      的頭像 科技綠洲 發表于 05-24 17:14 ? 223次 閱讀

      COMPUTEX全球首秀|芯??萍疾季諴C的國產雄芯

      的頭像 21克888 發表于 05-24 17:08 ? 288次 閱讀
      COMPUTEX全球首秀|芯??萍疾季諴C的國產雄芯

      ZDS5054pro專業分析型示波器功能特點

      ZDS5054pro專業分析型示波器擁有強大的波形捕獲、數據挖掘能力,結合電源分析、環路分析、時序分....
      的頭像 科技綠洲 發表于 05-24 16:10 ? 174次 閱讀

      路由策略的應用說明

      路由策略的應用說明
      發表于 05-24 15:56 ? 11次 閱讀

      脈沖器件開通關斷會引起什么問題

      IGBT作為一種功率開關,從門級信號到器件開關過程需要一定反應時間,就像生活中開關門太快容易擠壓手一....
      的頭像 科技綠洲 發表于 05-24 09:56 ? 176次 閱讀
      脈沖器件開通關斷會引起什么問題

      SAP系統如何進行數據拆分?什么情況下需要做SAP系統拆分?

      無論是創辦企業還是發展企業并展望未來,作為決策者,您都需要考慮很多事情。要為您的產品和服務創造一個可....
      的頭像 SNP中國 發表于 05-24 09:27 ? 88次 閱讀

      printf數據都去哪兒了

      printf是一個接口,跟UNIX標準IO的write系統調用類似,但是更像C庫的fwrite,因為....
      的頭像 流川楓楓 發表于 05-23 14:08 ? 240次 閱讀

      天馬微電子獲OPPO“品質優秀獎”和“聯合認證專項獎”兩大獎項

      5月19日,以“至美所品不凡,創造精彩,引領視界”為主題的OPPO 2021年商業伙伴質量溝通大會在....
      的頭像 科技綠洲 發表于 05-20 17:03 ? 135次 閱讀

      NVIDIA GPU助力單顆粒冷凍電鏡研究

      清華大學楊茂君實驗室是國內領先的結構生物學實驗室,楊茂君教授目前為清華大學 Tenue-Track ....
      的頭像 NVIDIA英偉達企業解決方案 發表于 05-20 15:13 ? 171次 閱讀

      貿澤備貨Sensirion SEN5x環境傳感器模組 為用戶提供可靠的空氣質量數據

      2022年5月19日?– 提供超豐富半導體和電子元器件?的業界知名新品引入 (NPI) 分銷商貿澤電....
      的頭像 21克888 發表于 05-20 14:07 ? 1039次 閱讀
      貿澤備貨Sensirion SEN5x環境傳感器模組 為用戶提供可靠的空氣質量數據

      曙光打造Object System實現用戶建設高價值存儲愿景

      隨著數字經濟加速發展,海量數據與豐富應用場景成為新焦點,海量存儲更是被高頻提及。在數十甚至數百PB的....
      的頭像 科技綠洲 發表于 05-19 17:13 ? 646次 閱讀

      隱私計算密碼技術的典型應用場景

      由龍蜥社區主辦的《龍蜥大講堂》線上直播活動成功舉辦。龍蜥社區商密軟件棧 SIG 核心成員、海泰方圓總....
      的頭像 焦點訊 發表于 05-19 11:34 ? 316次 閱讀

      物聯網未來發展最大的瓶頸是什么

      經過長期的發展,物聯網在各個領域催生了類目眾多、數量龐大的物聯設備,例如水務行業的智能水表、醫療行業....
      發表于 05-19 10:56 ? 51次 閱讀

      有方科技高精度異動監測儀T915可實現智能精確預警

      有方科技自主研發的高精度異動監測儀T915,是一款專為監測預防房屋或橋梁等建筑物坍塌、邊坡地質災害、....
      的頭像 科技綠洲 發表于 05-18 17:17 ? 699次 閱讀

      Scraper Chrome的簡單網頁抓取

      ./oschina_soft/scraper.zip
      發表于 05-18 15:05 ? 9次 閱讀
      Scraper Chrome的簡單網頁抓取

      用于數據中心配電的新型4750系列多功能IEC連接器模塊

      為了滿足數據中心配電的高特定性需求,SCHURTER推出了其新型4750系列IEC?Type F連接....
      的頭像 21克888 發表于 05-17 11:50 ? 1006次 閱讀
      用于數據中心配電的新型4750系列多功能IEC連接器模塊

      思博倫推出業界首創800G測試平臺 可加快部署時間線

      作為一項頂級光通信和網絡行業全球展會,2022年OFC大會將眾多業界參與者齊聚一堂,與會的觀眾達80....
      的頭像 科技綠洲 發表于 05-17 11:17 ? 218次 閱讀

      甲骨文公司助力來也科技打造全球化營銷戰略 加速海外業務布局

       全球領先的智能自動化供應商來也科技(北京)有限公司(以下簡稱 “來也科技” )攜手甲骨文公司,采用....
      的頭像 科技綠洲 發表于 05-16 15:28 ? 385次 閱讀

      FIFO中斷通信邏輯介紹

      自中科昊芯推出專題講解SCI串口通信以來,第一期主要講解SCI串口FIFO通信原理,第二期主要講解S....
      的頭像 科技綠洲 發表于 05-16 09:53 ? 210次 閱讀
      FIFO中斷通信邏輯介紹

      智能貓眼的實現是采用流媒體協議RTSP

      RTSP 采用 Server/Client 模式,在本樣例場景中 Hi3518EV300為RTSP ....
      的頭像 OpenAtom OpenHarmony 發表于 05-16 09:20 ? 173次 閱讀

      英特爾如何推動可持續計算

      近日,英特爾宣布計劃進一步減少直接和間接溫室氣體排放,并開發更多的可持續技術解決方案。英特爾承諾到2....
      的頭像 英特爾中國 發表于 05-14 12:46 ? 405次 閱讀

      泰克發布2022年校準服務趨勢調查主要數據

      中國北京2022年5月13日?— 全球領先的測試測量企業泰克科技日前發布了首次2022年校準服務趨勢....
      的頭像 21克888 發表于 05-13 16:54 ? 307次 閱讀
      泰克發布2022年校準服務趨勢調查主要數據

      紫光股份率先提出“零碳+智慧”理念 加速能源數字化轉型

      邁進“十四五”,“碳達峰、碳中和”是推動中國產業結構變革和升級的重要抓手,也是實現可持續發展的時代答....
      的頭像 科技綠洲 發表于 05-13 14:12 ? 235次 閱讀

      人工智能數據資源服務商海天瑞聲發布2021年報

      人工智能數據資源服務商北京海天瑞聲科技股份有限公司發布2021年報,具體內容如下。 近三年主要會計數....
      的頭像 汽車玩家 發表于 05-13 11:26 ? 243次 閱讀

      基于NVIDIA DGX A100 80GB的生物計算引擎

      百圖生科(BioMap)是一家生物計算驅動的生命科學平臺公司,致力于將先進 AI 技術與前沿生物技術....
      的頭像 NVIDIA英偉達企業解決方案 發表于 05-13 11:17 ? 225次 閱讀

      IBM最新發布《2022年CEO調研報告》

      IBM(紐約證券交易所代碼:IBM)商業價值研究院 (IBV) 最新發布的《2022年CEO調研報告....
      的頭像 科技綠洲 發表于 05-13 11:11 ? 197次 閱讀

      Flocker Docker容器管理工具

      ./oschina_soft/flocker.zip
      發表于 05-13 10:10 ? 12次 閱讀
      Flocker Docker容器管理工具

      星環科技推企業級AI能力運營平臺Sophon MLOps 助推AI模型落地

      為解決AI落地難的問題,星環科技的AI團隊從用戶需求端出發,傾力研發了一款基于云原生架構的企業級AI....
      的頭像 科技綠洲 發表于 05-12 17:17 ? 305次 閱讀

      數據分包設計的考慮

      像zigbee這樣的物理層每幀最大只能傳輸127個字節,通過每層不斷的封包到應用層后每包才100個字....
      的頭像 嵌入式ARM 發表于 05-12 14:54 ? 132次 閱讀

      EEPlat PaaS應用基礎平臺

      ./oschina_soft/gitee-eeplat.zip
      發表于 05-12 14:32 ? 11次 閱讀
      EEPlat PaaS應用基礎平臺

      首席營銷官如何利用數據力量在 2022 制定戰略

      放眼數字化優先的超競爭世界,企業與客戶之間的關系從未像今天這般舉足輕重。要想游刃有余地駕馭這類關系,....
      的頭像 21克888 發表于 05-12 14:12 ? 265次 閱讀
      首席營銷官如何利用數據力量在 2022 制定戰略

      本體自動化構建方法—面向制造領域人機物三元數據融合

      面向制造領域人機物三元數據融合的本體自動化構建方法 摘要 當前,智能制造面臨的許多問題都具有不確定性....
      的頭像 li1234567890123 發表于 05-11 17:30 ? 327次 閱讀

      機智云GIE技術架構滿足企業私有物聯網平臺的開發需求

      在物聯網不斷發展和成熟的當下,物聯網設備管理皆離不開云平臺的加持,云平臺可以讓用戶隨時隨地管理設備。....
      的頭像 科技綠洲 發表于 05-11 15:38 ? 704次 閱讀

      繼電器在菲律賓礦廠中的應用說明

      對電氣線路進行接地故障保護,方式接地故障電流引起的設備和電氣火災事故越來越成為日常。針對用戶側主要的....
      發表于 05-10 23:06 ? 25次 閱讀
      繼電器在菲律賓礦廠中的應用說明

      跨圖像關系型KD方法語義分割任務-CIRKD

      語義分割任務作為計算機視覺中的基礎任務之一,其目的是對圖像中的每一個像素進行分類。該任務也被廣泛應用....
      的頭像 科技綠洲 發表于 05-10 11:30 ? 198次 閱讀
      跨圖像關系型KD方法語義分割任務-CIRKD

      中興Axon 40 Ultra搭載全新一代驍龍8移動平臺

      近日,中興舉辦了線上新品發布會,正式推出中興Axon 40系列新品。Axon 40系列延續了中興Ax....
      的頭像 科技綠洲 發表于 05-10 11:01 ? 602次 閱讀

      打臉日本“工匠精神”,三菱電機數據造假達40年之久,原因竟然是?

      電子發燒友網報道(文/吳子鵬)5月9日,三菱電機數據造假再一次進入公眾視野,多家媒體報道稱,至少可以....
      的頭像 Felix分析 發表于 05-10 00:45 ? 1963次 閱讀
      打臉日本“工匠精神”,三菱電機數據造假達40年之久,原因竟然是?

      CII-Census Linux基金會安全審查項目

      ./oschina_soft/cii-census.zip
      發表于 05-09 09:51 ? 11次 閱讀
      CII-Census Linux基金會安全審查項目

      desensitization數據脫敏工具類庫

      desensitization.zip
      發表于 05-07 10:15 ? 17次 閱讀
      desensitization數據脫敏工具類庫

      老樹洞安全存儲技術

      ./oschina_soft/lsdong.zip
      發表于 05-07 09:28 ? 13次 閱讀
      老樹洞安全存儲技術

      天馬微電子喜獲vivo“優秀質量獎“

      在“本分共贏,智創未來”為主題的vivo 2021年商業伙伴質量溝通大會上,天馬微電子憑借與vivo....
      的頭像 科技綠洲 發表于 05-06 16:58 ? 449次 閱讀

      如何運用正確方法管理攻擊面

      Palo Alto Networks(派拓網絡)威脅研究團隊 Unit42 發現,在所有勒索軟件攻擊....
      的頭像 科技綠洲 發表于 05-06 15:13 ? 241次 閱讀

      一種名為“STRIDE”的解卷積新方法

      首先,作者從乳腺癌(BRCA)scRNA-seq數據模擬了三個ST數據集,具有已知細胞類型組成的合成....
      的頭像 上海生物芯片 發表于 05-06 15:05 ? 247次 閱讀

      Nexperia公布2021年營收數據

      奈梅亨,2022年5月6日:基礎半導體器件領域的高產能生產專家Nexperia今日公布2021年財務....
      的頭像 21克888 發表于 05-06 11:04 ? 365次 閱讀
      Nexperia公布2021年營收數據

      Fides數據隱私的開源語言

      fides.zip
      發表于 05-06 09:51 ? 13次 閱讀
      Fides數據隱私的開源語言

      http request請求不到接口數據是為什么?

      import http from '@ohos.net.http'; export function doList() {     const url     const httpRequ...
      發表于 04-25 10:15 ? 897次 閱讀

      如何解決CAN發送數據發送不出去的問題啊

      在調試CAN,接收數據都沒什么問題,但是發送那一塊,有的時候rt_device_write的返回值為0,就是沒發出去,這個應該怎么解決這...
      發表于 04-20 09:22 ? 1470次 閱讀

      請問FINSH是否具備輸入/輸出換向功能?

      有時候需要FINSH把接收到的數據保存到本地文件中,有時候需要從本地文件中導入輸入命令或數據,FINSH是否有這個功能 ?...
      發表于 04-18 09:22 ? 1283次 閱讀

      如何獲取bh1750軟件包bh1750.c文件的光照強度數據?

      請問怎么將bh1750軟件包2.0里的bh1750_read_light是光強的數據嗎?(onenet_mqtt_upload_string("light", 這里應該是什么) < ...
      發表于 04-06 09:35 ? 825次 閱讀

      ListContainer代碼獲取高度不準怎么解決?

      int listContainerHeight = listContainer.getHeight(); 通過這個方法獲得的方法,返回的數據和實際數據不一樣, 有類似...
      發表于 03-23 10:19 ? 508次 閱讀

      LAN8720A無法接收數據是為什么?怎么解決?

        1.環境使用RT-Studio創建的標準F2工程,已經修改了HSE時鐘。   RT版本:4.0.3   STM32CubeMX版本6.4 ...
      發表于 03-16 09:34 ? 1577次 閱讀

      數據文件合并

      第一次練手寫的小工具,可以批量將大量測試數據文件合并成一個文檔,以便后續處理,奉上源碼,各位可自由發揮。 ...
      發表于 03-04 16:52 ? 2844次 閱讀
      數據文件合并

      數據的通信方式/同步方式有哪幾種?

      數據的通信方式有哪幾種? 數據的同步方式有哪幾種? ...
      發表于 02-28 07:31 ? 838次 閱讀

      機智云開發者平臺生成的MCU代碼注意事項相關資料推薦

      gizwitsHandle((dataPoint_t *)¤tDataPoint);        //這句話很重要  相當...
      發表于 02-11 07:12 ? 1015次 閱讀

      串口數據的波形要怎么看呢

      在用單片機做串口通信時,經常會遇到通信錯誤,但是檢查程序時卻沒發現有什么問題。這時候就可以借助示波器來觀察串口數據是不是...
      發表于 01-13 07:55 ? 841次 閱讀