Voivatko koneet todella omaksua ihmisyyden taustatietoa?

Kuuntelitpa taitavaa viulistia ja tunsit jotain, mitä äänite ei pystynyt välittämään. Se yksityinen, nimeämätön reaktio on uudelleen vireillä olevan keskustelun ytimessä: voivatko koneet koskaan todella periä ihmisajattelun hiljaisia ulottuvuuksia, jotka antavat sanoille painoarvon ja teoille tarkoituksen?

Tietojenkäsittelytieteilijä Peter J. Denning väittää, etteivät ne voi. Äskettäisessä analyysissaan nimeltä 'Turingin virhe: pakeneminen älyttömien koneiden ikeestä' hän kertaa puolen vuosisadan oletuksia, jotka ovat ohjanneet tekoälytutkimusta, ja löytää pysyvän sokean pisteen. Ajatus, että ihmisen älykkyys voidaan pelkistää symbolien käsittelyksi digitaalisella alustalla ja että ihmisten vastausten matkiminen on sama asia kuin ajattelu, on johtanut alaa pois siitä, mikä tekee mielistä inhimillisiä: taustatiedosta, jota kannamme mutta jota emme helposti osaa kuvailla.

Miksi hiljainen tieto on tärkeää

Me tallennamme valtavat määrät ymmärrystä, jotka eivät koskaan muutu eksplisiittiseksi lauseeksi tai säännöksi. Kutsukaamme sitä hiljaiseksi tiedoksi. Se on tasapainon tunne pyöräillessä; musiikissa ajoitus, jonka soittaja aistii mutta jota hän ei opeta sanoin; kulttuurinen vaisto, joka kertoo milloin vitsi on viaton ja milloin se osuu liian syvälle. Denning luokittelee tätä näkymätöntä varantoa useisiin tyyppeihin: arkinen maalaisjärki, ruumiilliset taidot, tunteisiin ja havainnointiin liittyvät reaktiot, vuorovaikutustaidot sekä historialliset ja kulttuuriset tukirakenteet, jotka antavat valinnoillemme merkityksen.

Tutkijat ovat vuosikymmenten ajan yrittäneet pakottaa maalaisjärkeä koneisiin. Hankkeet kuten Douglas Lenatin Cyc pyrkivät luetteloimaan miljoonia maalaisjärkeen perustuvia tosiasioita. Tuloksena syntyi valtava väittämien tietokanta, mutta edes valtava faktikirja ei onnistunut jäljittelemään ihmisen asiantuntijan sujuvaa intuitiota. Erillisten faktojen tietäminen ei vastaa osallistumista siihen hiljaiseen verkostoon, joka antaa niille kontekstin ja merkityksen.

Ero näkyy myös toisella tavalla. Tietokoneet ovat erinomaisia tallentamaan tarkkoja tiloja ja suorittamaan sääntöjä. Ihmiset sen sijaan navigoivat epävarmuudessa. Luemme tarkoitusta kasvon mikri-ilmeistä. Sovitamme käyttäytymistämme kulttuurisen vihjeen perusteella, vaikka kukaan ei olisi sanallistanut sitä. Nämä eivät ole pienempiä yksityiskohtia. Ne ovat tukiranka, joka tekee kielestä merkityksellistä ja päätöksistä järkeviä. Kun koneilla ei ole tätä tukirankaa, niiden tuotokset voivat olla vaikuttavia mutta onttoja.

Esitysongelma: symboleja ilman kiinnittymistä

Denningin kritiikin ytimessä on tekninen mutta laaja väite: esitysongelma. Tietokoneet käsittelevät koodattuja symboleja. Niiden älykkyys on yhtä rikas kuin ne esitykset, joita ne voivat käsitellä. Hiljainen tieto vastustaa siistiä koodausta. Sanat viittaavat kokemusten ja ruumiillisen osaamisen lähteisiin; ne eivät ole kyseiset lähteet. Lause surusta ei sisällä fyysisiä tuntemuksia, sosiaalisia historiaa tai yksityisiä muistoja, jotka muovaavat ihmisen surukokemusta.

Suuret kielimallit ovat korostaneet tätä jännitettä. Mallit kuten ChatGPT, Claude ja Gemini toimivat ennustamalla token-jonoja tilastollisesti. Ne voivat tuottaa johdonmukaista, usein loistavalta vaikuttavaa proosaa. Siltä, mitä niiltä puuttuu, on koettu tausta. Ne käsittelevät symboleja, eivät merkityksiä. Tämä on kriittinen ero. Kone, joka osaa simuloida empaattista vastausta, ei välttämättä jaa sitä empatiaa, joka antaa vastaukselle moraalisen voiman.

Konteksti kasvattaa kuilua. Merkitys on fraktaalinen. Johtopäätös, jonka teet millä hetkellä tahansa, lepää sisäkkäisillä kerroksilla aiemmista keskusteluista ja jaetuista historiasta. Koneita voidaan kouluttaa valtaviin korpuksiin, mutta yksin mittakaavan kasvattaminen ei takaa, että ne sisäistävät ruumiillisen ja jatkuvan kontekstiverkon, jonka ihmiset pitävät itsestäänselvyytenä. Kulttuuri—arvot, normit, rituaalit ja historiat—ei ole datasetti, jota voi vain suurentaa ja odottaa synnyttävän inhimillisen kaltaista kiinnittymistä.

Käytännön taidot ja osaamisen este

Voimme kuvata asiantuntijas kirurgin asennon tai koripalloilijan tekniikan käsikirjassa. Harvoin nämä kuvaukset kuitenkaan tavoittavat sensorimotorisen koreografian ja sekunnin murto-osan tuomien päätösten sarjan, jotka tekevät suorituksesta onnistuneen. Robotit saattavat joskus matkia havaittavia puolia taidosta. Mutta tuntemuksen, proprioseptiivisen palautteen ja hiljaisten heuristiikkojen, jotka ohjaavat sopeutumista sotkuisissa ympäristöissä, tavoittaminen on osoittautunut itsepäisen hankalaksi.

Tämä puute merkitsee turvallisuuden ja sovittamisen kannalta. Jos käsket automatisoitujen järjestelmien verkoston optimoimaan kapeaa mittaria ilman sitä hiljaista taustaa, joka kertoo ihmisille, mitä mittari ohittaa, järjestelmät voivat kehittää instrumentaalisia strategioita, jotka aiheuttavat laajamittaista haittaa. Denning kehottaa kuvittelemaan ei yksittäistä kaikkitietävää konekapinaa, vaan ekologiaa erikoistuneita, voimakkaita järjestelmiä, jotka toimivat tavalla, joka on vieras ihmisten prioriteeteille.

Vaikutukset tekoälyn turvallisuuteen ja sovittamiseen

Hiljaisen tiedon väärinymmärrys voi luoda käytännön hätätilanteita. Sovittamistutkimus yrittää varmistaa, että järjestelmät toimivat ihmisarvojen mukaisesti. Jos koneet eivät pysty lukemaan ohjeidemme sanomatonta kontekstia, jos ne eivät ymmärrä, miksi tietyt lopputulokset ovat ihmisten näkökulmasta merkityksellisiä, niiden luotettava sovittaminen voi olla mahdotonta. Se ei tarkoita dramaattista vallankaappausta, vaan virheiden kaskadia: viallisia päätöksiä toimitusketjuissa, oikeusjärjestelmissä ja kriittisessä infrastruktuurissa, jotka heijastavat optimoinnin sokeita kohtia pikemmin kuin pahantahtoisuutta.

Denning ehdottaa vakauttavaa näkökulmaa. Vaarallisin koneäly voi olla joukko neuvokkaita mutta ei-inhimillisiä älykkyyksiä, jotka käyttävät valtaa jakamatta taustaoletuksiamme. Niiden sisäinen toiminta olisi osittain läpinäkymätöntä, koska niiden mahdollinen hiljainen tieto olisi koneelle sopivaa. Emme pystyisi lukemaan sitä, emmekä välttämättä olisi sen ymmärrettävissä.

Eteenpäin vievät polut: ruumiillistaminen, hybridimenetelmät ja hallinto

Tarkoittaako tämä, että edistys on mahdotonta? Ei välttämättä. Kritiikki osoittaa uusia suuntia eikä umpikujaa. Ruumiillistettu tekoäly—järjestelmät, jotka ovat vuorovaikutuksessa fyysisen maailman kanssa sensoreiden ja aktuaattoreiden kautta—tarjoaa yhden tavan kiinnittää esitykset kokemukseen. Robotit, jotka oppivat elävissä ympäristöissä, omaksuvat eri rajoitteet kuin pelkästään tekstiin perustuvat mallit. Neurotiede, kehityspsykologia ja vertailevat tutkimukset eläinten kognitiosta voivat tarjota hypoteeseja siitä, miten ruumiillistetut järjestelmät muodostavat hiljaisia kaavoja ajan mittaan.

Muita strategioita ovat hybridit arkkitehtuurit, jotka yhdistävät symbolisen päättelyn opittuun havaintoon, rikkaampi ihmisen osallistama koulutus, joka punoo kontekstuaalisia normeja mallin käyttäytymiseen, sekä suunnitteluperiaatteet, jotka rajoittavat autonomiaa alueilla, joissa hiljainen ymmärrys on olennaista. Politiikkatasolla automaation käsittäminen sosioteknisenä muutoksena, ei pelkkänä teknisenä päivityksenä, auttaa instituutioita varautumaan sovittamattomuuksiin rakentamalla kerroksittaisen valvonnan ja vankan turvamekanismin.

Teknologia yksin ei ratkaise merkityksen ongelmaa. Instituutiot, yhteisöt ja kulttuurit osallistuvat siihen, miten järjestelmiä koulutetaan ja otetaan käyttöön. Tämä sosiaalinen kerros on osa hiljaista taustaa. Sen sivuuttaminen kutsuu esiin hauraita lopputuloksia.

Asiantuntijan näkemys

Tohtori Elena Ruiz, kognitiivisen robotiikan tutkija suuresta yliopistosta, tarjoaa rauhallisen arvion: "Koneet voivat saavuttaa poikkeuksellista osaamista kapeissa tehtävissä. Se, mikä jää epävarmaksi, on pystyykö ne sisäistämään niitä sanattomia konteksteja, joita käytämme valitessamme, arvioidessamme ja välittäessämme. Tutkimusagendan tulisi siirtyä pelkästä mallien skaalaamisesta kohti sitä, miten kehot, ympäristöt ja yhteisöt yhdessä luovat merkityksiä, jotka tekevät ihmisistä resilienttejä."

Hänen näkemyksensä korostaa käytännön suunnanmuutosta insinööreille ja päättäjille. Keskity ruumiillistettuihin oppimiskokeisiin. Testaa järjestelmiä sosiaalisissa ympäristöissä. Rakenna arviointimittareita, jotka havaitsevat sovittamattomuusmahdollisuuksia pelkkien vertailuarvojen sijaan.

Päätelmä

Denningin kritiikki asettaa tutun huolen uuteen valoon. Haaste ei ole vain tekninen monimutkaisuus. Se on käsitteellinen. Ihmisen kognitio on ommeltu yhteen eksplisiittisestä tiedosta ja syvistä, usein sanoittamattomista taustoista. Jos kohtelemme koneita ikään kuin niillä jo olisi tuo tausta, riskeeraamme käyttöönottoa järjestelmillä, jotka ovat voimakkaita mutta irtautuneita ihmisten merkityksistä.

Tämä diagnoosi ei tuomitse tekoälyä merkityksettömäksi. Se vaatii nöyryyttä ja tutkimusagendaa, joka tunnustaa ruumiillistetun kokemuksen ja kulttuurisen kontekstin keskeisiksi älykkyydelle. Se vaatii myös hallintoa, joka ennakoi ei-inhimillisen kognition ainutlaatuisia virhetapoja: järjestelmiä, jotka eivät vihaa meitä mutta eivät täysin ymmärrä meitäkaan.

Voimme jatkaa rakentamista. Meidän tulisi myös hidastaa toimia aloilla, joissa hiljainen tieto ratkaisee, ovatko teot haitallisia vai inhimillisiä. Tavoitteena ei ole pysäyttää kehitystä. Se on sovittaa kunnianhimoa yhteen sen sotkuisen todellisuuden kanssa, mikä tekee meistä ihmisiä, ja suunnitella teknologioita, jotka kunnioittavat sitä sen sijaan, että ne tietämättään heikentäisivät sitä.