Miksi tekoälyn sisäiset mallit eivät vastaa ihmisaivoja

Ne voivat matkia aivojen aktiivisuutta. Silti ne eivät välttämättä ajattele samalla tavalla. Yorkin yliopiston tutkijat ovat paljastaneet kuilun keinotekoisten näköjärjestelmien ja primaatin aivojen välillä, ja tulos on hiljaisesti huolestuttava kenelle tahansa, joka pitää nykypäivän tekoälymalleja aivojen uskollisina sijaisina.

Ryhmän, jota johti apulaisprofessori Kohitij Kar, käänsi tavanomaisen testin, jolla vertaillaan neuroverkkoja ja aivoja. Sen sijaan, että olisi kysytty, voiko malli ennustaa aivojen reaktioita kuviin, he kysyivät päinvastaista: voiko tallennettu aivotoiminta ennustaa mallin sisäisiä representaatioita? Vastaus oli paljastava ei.

Tutkiakseen kysymystä tutkijat altistivat mallit ja primaatin neuroneja laajalle visuaaliselle aineistolle: 1 320 luonnolliselle valokuvalle ja realistisille synteettisille kuville, kuten eläimiä, kasvoja, ajoneuvoja ja arkiesineitä sisä- ja ulkotiloissa, sekä 300 muokattua versiota, kuten ääriviivoja, piirroksia ja tyyliteltyjä versioita. Vaihteleva aineisto varmisti, ettei tarkastelua johdettu harhaan yhdestä kapeasta ärsyketyypistä.

Pintatasolla monet nykyaikaiset keinotekoiset neuroverkot (ANN) suoriutuvat erinomaisesti. Ne ennustavat tallennettujen neuronien laukaisumalleja näköaivokuoren alueilla, jotka auttavat kohteiden tunnistamisessa. Mutta yhden suunnan hyvä suoritus peitti alleen syvemmän yhteensopimattomuuden. Kun ryhmä käytti aivosignaaleja ennustamaan mallien sisäisiä piirteitä, sovitus hajosi monien mallin osien kohdalla. Hieman ihmeellisesti yhden aivon neuronit saattoivat ennustaa toisen aivon neuroneja kohtuullisen hyvin, mikä korostaa tätä epäsymmetriaa.

Kar ja hänen kollegansa näkevät epäsymmetrian todisteena siitä, että ANN:t usein päätyvät oikeisiin vastauksiin käyttämällä strategioita, joita biologinen näköjärjestelmä ei näytä hyödyntävän. Yksinkertaisesti: kaksi järjestelmää, jotka saavuttavat saman käyttäytymistuloksen, voivat silti käyttää eri sisäisiä keinoja. "Mallien, jotka korreloivat aivojen kanssa, on tapana ennustaa ihmisten käyttäytymistä paremmin", Kar huomauttaa, "mutta osat näistä malleista näyttävät nojautuvan oikopolkuihin, joita primaatin näkö ei käytä."

Tuolla on merkitystä enemmän kuin akateemisena uteliaisuutena. Tutkijat käyttävät yhä useammin tekoälyä lähtökohtana havainnon tutkimiseen ja kliinisten tutkimusten suunnitteluun. Jos mallin sisäinen logiikka poikkeaa aivojen logiikasta, tutkijat saattavat erehtyä pitämään mallikohtaisia strategioita todellisina hermostollisina mekanismeina. Sabine Muzellec, tutkimuksessa mukana ollut postdoktorikoulutettava, korostaa panoksia: alalla tarvitaan luotettavia diagnostiikkatyökaluja erottelemaan oikeasti aivojen kanssa linjassa olevat komponentit niistä, jotka vain teeskentelevät sitä.

Ryhmä tarjoaa käytännöllisen työkalun: käänteisen ennustettavuuden testin, joka diagnosoi, mitkä osat verkosta todella heijastavat hermoaktiivisuutta. Tämä diagnostinen työkalu voisi ohjata seuraavan sukupolven malleja kohti arkkitehtuureja ja koulutusmenetelmiä, jotka tavoittavat eivät ainoastaan ulkoista käyttäytymistä vaan myös sen tuottavia sisäisiä laskelmia. Ajattele sitä uskollisen kääntäjän valintana sen sijaan, että valitsisit ovelan jäljittelijän.

Vaikutukset ovat laajempia. Tekoälyjärjestelmät vaikuttavat kuulemisen, kielen ja motorisen kontrollin tutkimukseen yhtä lailla kuin näköön. Jos piileviä yhteensopimattomuuksia on yhdessä aistialueessa, niitä voi esiintyä myös muissa. Kliinisessä tutkimuksessa, kuten autismitutkimuksissa, PTSD-tutkimuksissa ja kuntoutuksen suunnittelussa, mallit, jotka vastaavat paremmin neurotyypillistä aivotoimintaa, voisivat terävöittää hypoteeseja ja parantaa interventioita. Päinvastoin, liiallinen luotto epäyhteneviin malleihin voi johtaa harhaan.

Viesti Yorkin laboratoriosta on sekä varoitus että kutsu: kohdella nykyistä tekoälyä voimakkaina mutta epätäydellisinä aivojen peileinä. Voimme hyödyntää niiden ennustavaa voimaa. Samalla meidän tulisi vaatia, että niiden tarjoamat heijastukset vastaavat muutakin kuin pintaa.