Kuinka tekoälyn muokkaamat valokuvat vääristävät muistimme

Oletko koskaan katsonut valokuvaa ja ollut varma, että olit paikalla, vain saadaksesi myöhemmin tietää ettet ollut? Tämä epämiellyttävä varmuus on juuri se, mitä MIT:n tutkijat halusivat tutkia, ja tulokset ovat huolestuttavia.

Kokeessa, jonka Washington Post raportoi, 200 vapaaehtoista katsoi sarjan 24 tavallista valokuvaa: häät, vilkas katu, urheilutapahtuma ja vastaavia arkipäiväisiä kohtauksia. Lyhyen tauon jälkeen joillekin osallistujista näytettiin alkuperäiset kuvat uudelleen. Toisille näytettiin generatiivisen tekoälyn muokkaamia versioita. Kasvoilla oli erilaisia ilmeitä. Sotilashenkilöitä ilmestyi aukioille. Taivas oli tummentunut tai kirkastunut.

Tulos oli selkeä. Ihmiset, jotka näkivät tekoälyn muokkaamia kuvia, ilmoittivat merkittävästi todennäköisemmin muistoista tapahtumista, joita ei ollut koskaan tapahtunut. Vielä huolestuttavampaa on, että he olivat usein itsevarmoja näissä väärissä muisteluissaan. Osallistujat, jotka altistuivat tekoälyn muokkaamille kuville, eivät pelkästään muistaneet väärin; he luottivat myös näihin vääristyneisiin muistoihin.

Miksi tällä on merkitystä? Muisti ei ole yksinkertainen videoleike, joka säilyy muuttumattomana aivoissa. Se on konstruktio: huomio, ponnistelu, muistia aktivoivat vihjeet ja assosiaatioiden verkosto muovaavat sitä, mitä muistetaan. Elävä kuva voi tarjota puuttuvan palan ja mieli täydentää aukot. Generatiivinen tekoäly, tuottamalla vakuuttavaa visuaalista ja tekstuaalista aineistoa, voi oikaista sen hitaamman ja skeptisen työn, jonka aivomme tavallisesti tekevät.

Ongelmaan liittyy toinenkin taso. Nämä mallit voivat sepittää yksityiskohtia, jotka vaikuttavat uskottavilta mutta eivät ole tosia, mitä tietojenkäsittelytieteilijät kutsuvat hallusinaatioiksi. Useimmat ihmiset eivät ole hyviä havaitsemaan tällaisia keksintöjä. Kun uskottava kuva saapuu algoritmin näkymättömällä auktoriteetilla leimattuna, se voi syrjäyttää epäilyn. Ja kun asiantuntijat luottavat samoihin vihjeisiin, ammatilliset arviot voivat taipua saman paineen alla.

Nämä havainnot ulottuvat verkko-huijauksia pidemmälle. Ne koskettavat journalismia, oikeudellista todistusaineistoa, sairauskertomuksia ja ihmissuhteita. Jos muokattu kuva tai uskottavalta vaikuttava mutta virheellinen teksti työntää muistia tiettyyn suuntaan, näihin muistoihin perustuvat päätökset kantavat näkymätöntä virhettä. Temppu on siinä, että virhe voi tuntua aidolta.

Ratkaisuja on olemassa, mutta mikään niistä ei ole taikatemppu. Luotettavat alkuperänseurannan järjestelmät, laajempi varmistustyökalujen käyttö ja julkinen koulutus muistin ja tekoälyn rajoista ovat osa ratkaisua. Silti teknologia etenee nopeasti, ja kognitiiviset tottumuksemme sopeutuvat hitaasti.

Aikaisemmin valokuvia pidettiin todisteina. Nykyään ne voivat olla osa menneisyyden uudelleenkirjoitusta. Kumpaan eilisen versioon luotamme?