Tutkijat ovat ottaneet ratkaisevan askeleen kohti laitteistoa, joka pyörittää tekoälyä valon nopeudella. Kansainvälinen ryhmä, jota johtaa tohtori Yufeng Zhang Aalto-yliopiston Photonics Groupissa, on osoittanut, miten strukturoidun valon yksittäinen kulku voi suorittaa monimutkaisia tensorilaskuja — samaa matemaattista lähestymistapaa, joka ajaa nykyaikaista syväoppimista — hetkessä. Tämä optinen yhden-kulun menetelmä lupaa merkittäviä etuja laskentanopeudessa, lämmöntuotannossa ja energiatehokkuudessa, mikä voi muuttaa tulevien AI-prosessorien arkkitehtuuria ja soveltamisalueita.

Kun ihmiset ja perinteiset elektroniset tietokoneet joutuvat suorittamaan tensorilaskut vaiheittain ja iteratiivisesti, valo voi toteuttaa vastaavat operaatiot rinnakkain ja lähes välittömästi. Tämä paradigma muuttuu laskentateknologian perusperiaatteita: liikkuvien elektronien sijaan hyötykäytetään valon aalto-ominaisuuksia, ja laskennasta tulee enemmän fysiikan seuraus kuin sarja digitaalisia komentoja.

How light becomes a parallel calculator

Tensorilaskenta tarkoittaa käytännössä moniulotteisten lukutaulujen — tensoreiden — käsittelyä lineaarialgebran keinoin. Monet modernit tekoälyrakenteet, kuten konvoluutioverkot (CNN), itseensä kohdistuvat huomiomekanismit (attention) ja syvät matriisikertolaskut, nojaavat näihin operaatiomuotoihin. Perinteisessä, elektronisessa piirisuunnittelussa nämä operaatiot hajautetaan transistoreihin, välimuisteihin ja monivaiheisiin laskentaputkiin, mikä kasvattaa sekä suoritusajan että energiantarpeen datasetin koon kasvaessa.

Aalto-yliopiston johtama ryhmä valitsi toisen reitin: numeerinen data koodataan valon amplitudiin ja vaiheeseen, minkä jälkeen nämä valoaallot annetaan vuorovaikuttaa siten, että optisen kentän fysikaaliset ilmiöt suorittavat matemaattiset operaatiot. Optisen kentän strukturoinnilla ja useiden eri aallonpituuksien hyödyntämisellä yksittäinen valokulku voi toteuttaa rinnakkaisesti matriisi- ja korkeamman kertaluvun tensorikertolaskuja. Käytännössä valo koodaa syötteet, ohjaa ne oikeille poluille ja tuottaa tulokset ilman aktiivista elektronista kytkentää operaation aikana.

One pass, many operations

Tohtori Yufeng Zhang kuvailee lähestymistapaa yksinkertaisella analogialla: sen sijaan, että paketit tarkastettaisiin yksi kerrallaan usean eri koneen läpi, optinen järjestelmä yhdistää paketit ja koneet yhdeksi rinnakkaiseksi tarkastuslinjaksi — useat niin kutsutut optiset koukut yhdistävät jokaisen syötteen sen oikeaan tulosteeseen. Tuloksena olevat konvoluutiot ja attention-tyyppiset operaatiot, jotka nykyisin vaativat kymmeniä tai satoja GPU-syklejä, tapahtuvat yhdessä, lähes välittömässä optisessa vuorovaikutuksessa.

Tämän analogian takana on ajatus siitä, että optinen kenttä voi samanaikaisesti edustaa eri matriisien elementtejä eri aallonpituuksilla tai vaihe- ja amplitudiprofiileina, jolloin matriisien välinen kertolasku syntyy interferenssin ja lineaaristen optisten operaatioden kautta. Koska optinen prosessi voi toimia erittäin laajalla kaistalla ja hyödyntää luonnostaan rinnakkaisia kanavia, yhden kulun periaate mahdollistaa massiivisen rinnakkaisuuden, jota elektroniset arkkitehtuurit eivät helposti saavuta ilman monimutkaista kytkentälogiikkaa.

Why this matters for AI hardware

Nopeus on keskeinen peruste: valo etenee piirien sisällä ja vapaassa tilassa huomattavasti nopeammin kuin elektronien liikuttaminen transistorien ja metallinvälien kautta. Zhangin ja hänen kollegoidensa yhden otoksen menetelmä hyödyntää tätä etua suoraan, jolloin laskenta etenee lähes signaalin etenemisnopeudella. Tämä ei kuitenkaan ole pelkkää markkinointipuhetta — optiset ratkaisut tuovat myös käytännön hyötyjä, kuten mahdollisuuden pienempään lämmöntuottoon ja pienempään energian kulutukseen, kun laskenta tapahtuu passiivisesti valon kulkiessa laitteiston läpi.

Laskennallinen passiivisuus tarkoittaa, että erillistä aktiivista kytkentää tai massiivista muistin liikuttamista ei välttämättä tarvita saman operaation aikana. Tämän ansiosta fotoniset sirut voivat tarjota tiheämpiä laskentaelementtejä ja skaalautuvia arkkitehtuureja, jotka hoitavat monimutkaisia AI-kuormia huomattavasti pienemmällä lämpöbudjetilla verrattuna perinteisiin GPU-farmeihin tai ASIC-kiihdyttimiin. Tämä on tärkeää erityisesti ympäristö- ja kustannuskriittisissä sovelluksissa sekä reunalaitteissa (edge AI), joissa energia ja jäähdytys ovat rajoitettuja.

Professori Zhipei Sun, Aalto-yliopiston Photonics Groupin johtaja, korostaa, että tekniikka on alustariippumaton: ”Tämä kehys voidaan toteuttaa miltei millä tahansa optisella alustalla.” Ryhmä suunnittelee integroivansa laskennalliset elementit fotonisiin siruihin, mikä tekee valo- ja fotonipohjaisista prosessoreista realistisen täydentäjän tai jopa korvaajan tietyille elektronisille kiihdyttimille. Tällainen integraatio sisältää esimerkiksi piisiruihin integroidut aallonopastimet, modulaattorit ja detektorit, jotka yhdessä muodostavat kokonaissysteemin digitaalisen ja analogisen ohjauksen kanssa.

Technical context and limitations

Tiedon muuntaminen optiseen amplitudiin ja vaiheeseen vaatii tarkkaa modulaatiota ja herkkiä detektoreita. Kaikki AI-primitiveet eivät ole suoraviivaisia siirtää vapaassa tilassa toimivaan optiikkaan tai aallonopastimiin; monet algoritmiset operaatiot on suunniteltu kertaluonteisesti diskreettien digitaalisten lohkojen ympärille. Käytännön haasteina ovat kohina (noise), detektorien rajallinen resoluutio, analogisen signaalin epätäydellisyydet sekä valmistustoleranssit, jotka voivat aiheuttaa poikkeamia suunnitelluissa vaihe- tai amplitudiprofiileissa.

Ryhmä on kuitenkin ottanut käyttöön strategioita näiden ongelmien lieventämiseksi. Esimerkiksi useiden aallonpituuksien käyttö kasvattaa optisen esitystilan dimensioita, jolloin korkeamman kertaluvun tensoritoiminnot voidaan toteuttaa ilman, että tarvittaisiin pitkiä sarjoja peräkkäisiä laitteita. Lisäksi analogisen virheen kompensointi voidaan käsitellä ohjelmallisesti harjaantuneilla malleilla, virheenkorjauksella ja hybridiratkaisuilla, joissa optinen laskenta hoitaa raskaan lineaarialgebran ja elektroninen ohjaus huolehtii ohjelmoitavuudesta sekä tarkkuuden hienosäädöstä.

Myös valmistettavuus ja integroitavuus ovat käytännön pullonkauloja. Fotoniikan mikrofabrikointi vaatii korkeaa tarkkuutta ja toistettavuutta, jotta vaihe- ja amplitudikartat pysyvät suunnitelluissa rajoissa. Lisäksi optiset järjestelmät tarvitsevat usein tarkkaa lämpötila- ja avoimen kentän hallintaa, jotta suorituskyky pysyy vakaana. Nämä haasteet ovat kuitenkin tuttuja niille, jotka ovat kehittäneet optisia lähetys- ja sensori-infrastruktuureja, ja monet ratkaisuista voidaan adaptoida AI-fotonisiin järjestelmiin.

Integrointiaikataulut ovat varovaisen optimistisia: Zhang arvioi, että menetelmä voitaisiin mukauttaa olemassa oleville kaupallisille alustoille kolmen ja viiden vuoden kuluessa, mikäli teollisuus omaksuu lähestymistavan ja seuraa lisää insinöörityötä järjestelmien tekemiseksi kestäviksi ja massatuotannossa valmistettaviksi. Aikataulu riippuu myös ekosysteemin kehittymisestä, kuten fotoniikan tuotantoketjuista, ohjelmistotyökaluista optisen suunnittelun ja ohjelmoitavuuden tueksi sekä alan laajemmasta investointihalukkuudesta.

Potential impacts and applications

  • Reaaliaikainen inferenssi kuvan- ja videonkäsittelyssä huomattavasti alhaisemmalla latenssilla ja pienemmällä energiankulutuksella.
  • Energiatehokas reunalaskenta (edge AI) antureille, autonomisille järjestelmille ja datakeskuksille, mikä mahdollistaa kevyemmät laiterakenteet ja pidemmän akunkeston mobiililaitteissa.
  • Tieteellisten laskentakuormien kiihdyttäminen, erityisesti korkeiden dimensioiden lineaarialgebrassa ja suurissa matriisoperaatioissa, joita esimerkiksi fysiikassa, kemian laskennassa ja optimoinnissa tarvitaan.

Kuvittele älykkäitä kameroita ja antureita, jotka suorittavat monimutkaisia neuroverkkotehtäviä ilman, että akun kesto kärsii — tai datakeskusraameja, joissa optiset kiihdyttimet lieventävät GPU-pullonkauloja ja vähentävät jäähdytystarvetta. Tällainen teknologia voi muuttaa sen, missä ja miten AI-malleja ajetaan: pilvipalvelimista ja suurista laskentakeskuksista kohti hajautettua reunalaskentaa, älylaitteita ja sulautettuja järjestelmiä. Myös hybridijärjestelmät, joissa optinen laskenta toimittaa massiivisen lineaarialgebran ja elektroninen laskenta hoitaa ei-lineaariset aktivoinnit ja ohjauslogiikan, näyttävät lupaavilta rakenteilta kaupalliseen käyttöönottoon.

Expert Insight

”Tämä on elegantti esimerkki siitä, että annetaan fysiikan tehdä työ” sanoo tohtori Lina Morales, fiktiivinen fotoniikkajärjestelmien insinööri, jolla on kokemusta hybridisten optisten ja elektronisten kiihdyttimien rakentamisesta. ”Optiset järjestelmät voivat tiivistää monia peräkkäisiä operaatioita yhdeksi rinnakkaiseksi kuluksi, mutta menestys riippuu signaali-kohinasuhteen, integraation ja ohjelmoitavuuden haasteiden ratkaisemisesta. Mikäli nämä ongelmat ratkaistaan, energian- ja nopeusedut ovat vakuuttavia — erityisesti inferenssikuormissa, jotka kestävät analogisen vaihtelun.”

Kun fotoninen laskenta kehittyy, tutkijat odottavat jatkuvaa ristiinvaikutusta optisen suunnittelun, materiaalitieteen ja tekoälyalgoritmien välillä. Co-design — algoritmien ja laitteiston yhteissuunnittelu siten, että algoritmit ovat luontaisesti optiseen suorittamiseen soveltuvia — tulee olemaan avainaskel, jolla voidaan avata yhden-kulun tensorilaskennan täydet mahdollisuudet. Tämä tarkoittaa muun muassa algoritmien mukauttamista toleransseille, virheenkorjausmenetelmien sisällyttämistä oppimisprosessiin ja optisten komponenttien parametrisoinnin upottamista koulutusvaiheeseen.

Lisäksi alan standardit, testausalustat ja ohjelmistoekosysteemi ovat ratkaisevia, jotta fotoninen laskenta voi siirtyä tutkimuslaboratorioista käytännön sovelluksiin. Kehittyvät työkaluputket, kuten optinen simulointi, piirisuunnittelu ja algoritmien automatisoitu kartoittaminen optisille resursseille, nopeuttavat kehitystä ja laskevat barriereita kaupallistamiselle.