Monoliittinen 3D-piiri parantaa AI-laitteistoa merkittävästi

Yhdysvaltalaisten yliopistojen tutkijaryhmä ja kotimainen piisirun tehdas ovat julkistaneet uuden monoliittisen 3D-piiriarkkitehtuurin, joka pinottaa muistin ja laskennan pystysuoraan. Ratkaisu lyhentää tiedon kulkureittejä dramaattisesti ja lupaa merkittäviä parannuksia tekoälylaitteistojen suorituskykyyn ja energiatehokkuuteen. Prototyyppi — valmistettu SkyWater Technologyn Yhdysvalloissa sijaitsevassa foundry-tilassa — osoittaa tähän mennessä suurimman vertikaalisen johdotuksen tiheyden ja näyttää selkeitä, mitattavia suorituskykylähtöjä perinteisiin 2D-ratkaisuihin verrattuna.

Miksi pinottu rakenne muuttaa pelin säännöt

Nykyaikaiset tekoälyjärjestelmät tarvitsevat valtavia määriä dataa, joka siirretään nopeasti muistin ja suoritinyksiköiden välillä. Perinteiset sirut sijoittavat logiikan ja muistin vierekkäin yhdelle tasolle, jolloin tieto joutuu kulkemaan pitkiä ja usein ruuhkaisia reittejä. Tämä pullonkaula — yleisesti tunnettu "muurina" tai "memory wall" -ongelmana — rajaa sirun kykyä syöttää prosessoreita nopeasti, vaikka prosessorit itsessään muuttuvat nopeammiksi ja lukumäärältään suuremmiksi.

Monoliittinen 3D-integraatio lähestyy ongelmaa toisin. Tasaisen pinnan sijaan suunnittelijat rakentavat useita erittäin ohuita piirikertoja suoraan päällekkäin ja yhdistävät ne tiheällä pystysuuntaisella johdotuksella. Tällainen arkkitehtuuri lyhentää merkittävästi pitkiä yhteyksiä, jotka hidastavat datan liikkumista, ja mahdollistaa sen, että muisti sijaitsee aivan niiden laskentaelementtien vieressä, jotka sitä eniten tarvitsevat. Tuloksena on tehokkaampi viestintä, suurempi läpäisykyky (throughput) ja alhaisempi energia per suoritus.

Mistä laboratorioista foundryyn: näin prototyyppi rakennettiin

Hankkeen taustalla on yhteistyö Stanfordin yliopiston, Carnegie Mellonin yliopiston, Pennsylvanian yliopiston, MIT:n ja SkyWater Technologyn tutkijoiden välillä — SkyWater on Yhdysvalloissa sijaitseva puhtaasti puolijohdevalmistukseen keskittyvä foundry. Toisin kuin aiemmat 3D-lähestymistavat, joissa pinottiin erikseen valmistettuja siruja (chipletit tai wafer-to-wafer -liitokset), tässä työssä käytettiin monoliittista prosessia: jokainen uusi kerros valmistetaan suoraan edellisten päälle yhtenäisessä tuotantovirrassa.

Yksi teknisistä haasteista monoliittisessa pinnoittamisessa on niin sanottu terminen budjetti — eli maksimilämpötila, jonka piiri kestää vahingoittamatta jo aiemmin valmistettuja kerroksia niiden alla. Tutkijatiimi hyödynsi matalalämpötilaisia prosessointivaiheita, jotka suojaavat olemassa olevia piirejä samalla kun uusia tasoja voidaan deposiitoida ja kuvioida niiden päälle. Tiukka lämpötilakontrolli mahdollistaa kerrosväliset liitokset, jotka ovat huomattavasti pienempiä ja tiheämpiä kuin perinteisissä pinotuissa kokoonpanoissa käytetyt karkeat interposer-ratkaisut.

Uusien sirujen testaamiseksi tutkijat käyttivät erityistä konetta, kuten tässä kuvassa, jotta suunnitelmien sähköinen karakterisointi voitiin automatisoida waferin tasolla.

Valmistuksen loppuunsaattaminen SkyWaterin Minnesota-factoryssä on enemmän kuin tuotannollinen merkkipaalu — se osoittaa, että edistyneet 3D-piiriarkkitehtuurit voidaan siirtää akateemisista prototyypeistä prosesseihin, jotka ovat yhteensopivia kotimaisten kaupallisten foundryjen tuotantokäytäntöjen kanssa. Kuten SkyWater Technologyn varapuheenjohtaja Mark Nelson on keskusteluissa korostanut, kaupallisen mittakaavan tuotannon mahdollistaminen Yhdysvaltain maaperällä on keskeistä toimitusketjun resilienssille ja kansalliselle teknologiavaikuttavuudelle.

Mitattuja etuja ja simuloitua potentiaalia

Prototyypin aikaiset laitetestaukset paljastavat merkittäviä suorituskykyetuja. Ensimmäisen sukupolven laite ylitti vastaavat 2D-rakenteet tietyissä benchmarkeissa noin nelinkertaisesti. Kun tiimi simuloi korkeampia rakenteita — siruja, joissa on useampia pinottuja kerroksia muistia ja laskentaa — suorituskykyparannukset kasvoivat jopa kertaluokkaa, ja joissakin tekoälykuormissa parannukset voivat olla jopa 12x.

Ehkä kaikkein lupaavin on ennustettu parannus energy-delay productissa (EDP), metriikassa, joka tasapainottaa nopeuden ja energiankulutuksen. Lyhentämällä datan kulkureittejä ja lisäämällä pystysuuntaisia liitäntöjä monoliittiset 3D-piirit voivat vähentää yksittäiseen operaatioon tarvittavaa energiaa samalla, kun läpäisykyky kasvaa. Tutkijat esittävät realistisia kehityspolkuja, joiden kautta EDP voisi parantua 100–1 000 -kertaisesti nykyisiin 2D-arkkitehtuureihin nähden, mikäli korkeammat pinot ja optimoidut suunnittelut toteutuvat tuotannossa.

Tieteellinen tausta: muuri muistin ja miniatyrisoinnin rajat

Kaksi pitkään jatkunutta kehityssuuntaa ovat rajoittaneet piirin suorituskykyä. Ensiksi, tekoälykuormat vaativat valtavia ja nopeasti liikkuvia datasettejä. Toiseksi, puolijohdeteollisuuden perinteinen tie suorituskykyyn — transistoreiden koon pienentäminen ja laitteiden tiivistäminen tasolle — lähestyy fyysisiä ja taloudellisia rajoja, joita kutsutaan usein "miniaturisaatiomuuriksi".

Pystysuuntainen pinonta vastaa molempiin rajoitteisiin. Pelkän transistoreiden tiivistämisen sijasta suunnittelijat lisäävät toiminnallisuutta kolmannessa ulottuvuudessa eli kerroksina. Muisti voidaan hajauttaa koko pinon läpi, jolloin laskentaytimet saavat nopean ja paikallisen pääsyn tarvitsemiinsa datoihin. Arkkitehtuuri siis hyökkää suoraan muistin aiheuttamaa pullonkaulaa vastaan ja tarjoaa täydentävän reitin perinteisen transistoriskaalauksen ulkopuolelle.

Miksi Yhdysvaltain kotimainen valmistus on tärkeää

Koko prosessin suorittaminen Yhdysvaltain foundryssä kantaa strategista merkitystä. Työ todistaa, että edistynyt monoliittinen 3D-integraatio ei ole pelkkä laboratoriokokeilu, vaan se voidaan valmistaa prosesseilla, jotka ovat saatavilla Yhdysvalloissa. Kansallisen turvallisuuden, teollisen kilpailukyvyn ja kasvavan kotimaisen tekoälylaitteiston kysynnän näkökulmasta tämä käännös laboratoriosta tuotantoon on olennainen.

Valmistuksen lisäksi on koulutus- ja työvoimanäkökulma. Siirtyminen pystysuuntaiseen integrointiin vaatii insinöörejä ja teknologiayksiköitä, jotka osaavat suunnitella, testata ja optimoida 3D-järjestelmiä. Hankkeen yhteistyökumppanit korostavat koulutusohjelmia ja moniin instituutioihin ulottuvia keskuksia, jotka tukevat opiskelijoiden osallistumista ja poikkitieteellistä tutkimusta. Tällaiset programmit valmentavat seuraavaa sukupolvea piirisuunnittelijoita, jotka toimivat yhä enemmän kolmiulotteisen laitteistoarkkitehtuurin parissa.

Asiantuntijan näkemys

"Monoliittinen 3D-integraatio edustaa perustavanlaatuista uudelleenajattelua siitä, miten laskenta-järjestelmät arkkitehtuurisesti rakentuvat," sanoo tohtori Leila Martinez, järjestelmäarkkitehti yhdysvaltalaisessa ilmailututkimuskeskuksessa. "Laittamalla muisti lähemmäksi laskennan sijaintia vähennät sekä latenssia että energiankulutusta. Tekoälyssä ja avaruussovelluksissa — joissa hyötykuorma, teho ja suorituskyky ovat tiukasti rajoitettuja — tämä voi olla mullistavaa. Haasteena on skaalata valmistusta samalla, kun vikatiheydet ja lämmönhallinta pidetään hallinnassa."

Hänen havaintonsa alleviivaavat kahta todellisuutta: lähestymistapa tarjoaa voimakkaita tehokkuusetuja, mutta samalla se tuo uusia insinööritason haasteita. Pystysuuntaisten pinottujen ratkaisujen on hallittava lämmönpoisto kerrosten välillä, säilytettävä tuotantohyötysuhteet korkean tiheyden olosuhteissa ja integroitava olemassa oleviin suunnittelu- ja verifikaatioekosysteemeihin.

Jäljellä olevat haasteet ja tutkimussuunta

Vaikka prototyyppi osoittaa huomattavia parannuksia, useita teknisiä esteitä on vielä ylitettävä ennen kuin monoliittiset 3D-piirit yleistyvät tuotannossa. Keskeisiä haasteita ovat muun muassa:

• Thermal management (lämmönhallinta): Pinon syvällä syntyvä lämpö täytyy poistaa ilman, että herkät kerrokset vaurioituvat tai suorituskyky heikkenee.
• Yield ja viat: Tiheämpi integrointi tarkoittaa, että vika yhdessä kerroksessa voi vaikuttaa koko siruun; tuotantoprosessien tulee saavuttaa alhainen vikatiheys, jotta kustannukset pysyvät hyväksyttävinä.
• Suunnittelutyökalut ja menetelmät: Elektronisen suunnittelun automaatio (EDA) -virtojen ja verifikaatiotyökalujen on kehitettävä tukemaan kolmiulotteista floorplanningia, reititystä ja ajastusanalyysiä.
• Materiaalien ja liitäntöjen luotettavuus: Pystysuuntaisten via-liitäntöjen ja matalalämpötilaisesti depotoitujen materiaalien pitkäaikainen vakaus ja käyttöikä on validoitava kaupallisen eliniän vaatimusten tasolle.

Tutkimusryhmät työstävät aktiivisesti näitä ongelmia. Lämpösimulaatiot, uudet jäähdytysstrategiat (mukaan lukien paikallinen jäähdytys ja lämmönsiirtoa parantavat materiaalit), virheiden lieventämistekniikat ja edistys matalalämpötilaisessa prosessoinnissa ovat kaikki osa käynnissä olevaa tutkimusta. Teollisuuden yhteistyökumppanit, valtion rahoituslähteet ja moniorganisaatioiset keskukset tukevat pyrkimyksiä siirtää laboratoriotaidot luotettaviksi tuotteiksi ja tuotantoketjuiksi.

Mitä tämä tarkoittaa tekoälylle, avaruudelle ja muille aloille

Tekoälyn kehittäjille tiiviimpi muisti-laskenta-integraatio voi mahdollistaa suurempien mallien tehokkaamman ajoon, vähentää pilven käyttökustannuksia ja sallia entistä tehokkaamman paikallisen (on-device) inferenssin reunalaitteissa ja mobiilijärjestelmissä. Avaruus- ja puolustussovelluksissa, joissa teho ja tilavuus ovat erittäin rajoitettuja, monoliittiset 3D-piirit voivat mahdollistaa kehittyneempiä mittausjärjestelmiä ja reaaliaikaista käsittelyä laitteistossa oleskelevissa rajoissa.

Ilmoitus edistää myös kotimaisen puolijohde-ekosysteemin dynamiikkaa: yliopistot kouluttavat opiskelijoita, foundryt mukauttavat prosessivirtojaan ja liittovaltiollinen sekä teollinen rahoitus suuntautuu vähentämään riippuvuutta ulkomaisesta valmistuksesta. Yhdessä nämä elementit viittaavat tulevaisuuteen, jossa Yhdysvalloissa tehty tutkimus siirtyy nopeammin tuotantovalmiiksi laitteistoksi.

Yhteenvetona: monoliittinen 3D-piiriprototyyppi on merkittävä askel eteenpäin. Se ei taikaiskusta poista kaikkia insinöörihaasteita, mutta antaa selkeän ja valmistettavissa olevan polun arkkitehtuureihin, jotka pystyvät purkamaan pitkään jatkuneita pullonkauloja. Tekoälylaitteistojen suunnittelijoille, piivalmistajille ja toiminnan ohjaajille työ tarjoaa lupaavan reitin saavuttaa sekä suorituskyvyn että energiatehokkuuden parannuksia hyödyntämällä kolmatta ulottuvuutta uudella tavalla.