1. september 2022
trekk
Figur som oppsummerer evalueringen og ytelsen til forskernes computing-in-memory makro. Kreditt: Huo et al (Naturelektronikk2022).
Maskinlæringsarkitekturer basert på konvolusjonelle nevrale nettverk (CNN) har vist seg å være svært verdifulle for et bredt spekter av applikasjoner, alt fra datasyn til analyse av bilder og prosessering eller generering av menneskelig språk. For å takle mer avanserte oppgaver blir imidlertid disse arkitekturene stadig mer komplekse og beregningsmessig krevende.
De siste årene har mange elektronikkingeniører verden over har derfor forsøkt å utvikle enheter som kan støtte lagring og beregningsmessig belastning av komplekse CNN-baserte arkitekturer. Dette inkluderer tettere minneenheter som kan støtte store mengder vekter (dvs. de trenbare og ikke-trebare parameterne som vurderes av de forskjellige lagene av CNN-er).
Forskere ved det kinesiske vitenskapsakademiet, Beijing Institute of Technology og andre universiteter i Kina har nylig utviklet et nytt databehandling-i-minne-system som kan bidra til å kjøre mer komplekse CNN-baserte modeller mer effektivt. Deres minnekomponent, introdusert i en artikkel publisert i Naturelektronikker basert på ikke-flyktige databehandling-i-minnet makroer laget av 3D memristor arrays.
“Skalering av slike systemer til 3D-matriser kan gi høyere parallellitet, kapasitet og tetthet for de nødvendige vektor-matrise-multiplikasjonsoperasjonene,” skrev Qiang Huo og hans kolleger i deres artikkel. “Skalering til tre dimensjoner er imidlertid utfordrende på grunn av produksjons- og enhetsvariabilitetsproblemer. Vi rapporterer en to-kilobit ikke-flyktig databehandling-i-minne-makro som er basert på et tredimensjonalt vertikalt resistivt tilfeldig tilgangsminne produsert ved hjelp av en 55 nm komplementær metall-oksid-halvlederprosess.”
Resistive tilfeldig tilgangsminner, eller RRAM-er, er ikke-flyktige (dvs. beholder data selv etter pauser i strømforsyning) lagringsenheter basert på memristorer. Memristors er elektroniske komponenter som kan begrense eller regulere strømmen av elektrisk strøm i kretser, mens de registrerer mengden ladning som tidligere strømmet gjennom dem.
RRAM-er fungerer i hovedsak ved å variere motstanden over en memristor. Mens tidligere studier har vist det store potensialet til disse minneenhetene, er konvensjonelle versjoner av disse enhetene atskilt fra datamotorer, noe som begrenser deres mulige applikasjoner.
Databehandling-i-minne RRAM-enheter ble designet for å overvinne denne begrensningen, ved å bygge inn beregningene i minnet. Dette kan i stor grad redusere overføringen av data mellom minner og prosessorer, og til slutt forbedre det totale systemets energieffektivitet.
Databehandling-i-minne-enheten laget av Huo og hans kolleger er en 3D RRAM med vertikalt stablede lag og perifere kretser. Enhetens kretser ble produsert ved hjelp av 55 nm CMOS-teknologi, teknologien som ligger til grunn for de fleste integrerte kretser på markedet i dag.
Forskerne evaluerte enheten deres ved å bruke den til å utføre komplekse operasjoner og kjøre en modell for å oppdage kanter i MR-hjerneskanninger. Teamet trente modellene sine ved å bruke to eksisterende MR-datasett for å trene bildegjenkjenningsverktøy, kjent som MNIST- og CIFAR-10-datasettene.
“Vår makro kan utføre 3D vektor-matrise multiplikasjonsoperasjoner med en energieffektivitet på 8,32 tera-operasjoner per sekund per watt når inngangs-, vekt- og utdataene er henholdsvis 8,9 og 22 biter, og bittettheten er 58,2 bit µm–2“, skrev forskerne i papiret deres. “Vi viser at makroen tilbyr mer nøyaktig hjerne-MR-kantdeteksjon og forbedret slutningsnøyaktighet på CIFAR-10-datasettet enn konvensjonelle metoder.”
I innledende tester, databehandling-i-hukommelse vertikalt RRAM-system laget av Huo og hans kolleger oppnådde bemerkelsesverdige resultater, og overgikk konvensjonelle RRAM-tilnærminger. I fremtiden kan det dermed vise seg å være svært verdifullt for å kjøre komplekse CNN-baserte modeller mer energieffektivt, samtidig som det muliggjør bedre nøyaktighet og ytelse.
En fire-megabit nvCIM-makro for edge AI-enheter
Qiang Huo et al, En databehandling-i-minne-makro basert på tredimensjonalt resistivt tilfeldig tilgangsminne, Naturelektronikk (2022). DOI: 10.1038/s41928-022-00795-x
© 2022 Science X Network
Sitering: Et datasystem i minnet basert på stablede 3D-resistive minner (2022, 1. september) hentet 18. oktober 2022 fra https://techxplore.com/news/2022-09-in-memory-based-stacked-3d-resistive. html
Dette dokumentet er underlagt opphavsrett. Bortsett fra enhver rettferdig handel for formålet med private studier eller forskning, kan ingen del reproduseres uten skriftlig tillatelse. Innholdet er kun gitt for informasjonsformål.