Miten jutusteleva botti hiljaisesti muokkaa puhettamme

Kuvittele selittämässäsi monimutkaista ongelmaa asiakaspalvelijalle ja sen jälkeen, kymmenien samanlaisten keskustelujen jälkeen, huomaavasi omien vastaustesi muuttuneen lyhyemmiksi, rauhallisemmiksi ja omituisen ennustettaviksi. Et huomaa muutosta ensin. Sitten joku huomauttaa siitä. Pysähdyt. Tuo pieni tönäisy on sentyyppinen hidas muutos, johon uusi teoreettinen tutkimus kiinnittää huomiota.

Miksi asiakaspalvelu-AI vaikuttaa ilmaisuumme

Tutkijat kirjoittavat lehdessä AI ja yhteiskunta ja väittävät, että toistuvat vuorovaikutukset asiakaspalvelubottien kanssa voivat ohjata ihmisiä kieleen ja käytökseen, jonka järjestelmät käsittelevät helpommin. Tiimi on kehittänyt ilmiölle termin: "robotoidinen inhimillisyys". Se tiivistää ajatuksen, että kun tekoälyagentit oppivat matkimaan keskustelun vihjeitä, ihmiset saattavat alkaa matkia agentteja vastavuoroisesti.

Paperilla asia on yksinkertaista. Sosiaaliset robotit ja chat-järjestelmät on optimoitu tuottamaan selkeitä ja ennakoitavia vastauksia. Ne heijastavat kohteliaisuutta, jäsentävät vastauksia ja personoivat jatkokysymyksiä. Tuo suunnittelu parantaa tehokkuutta. Samalla se luo palautesilmukan, jossa kone suoriutuu parhaiten versiosta ihmisestä, joka itsessään on vähemmän idiosynkraattinen.

"Sosiaaliset robotit asiakaspalvelukonteksteissa on suunniteltu matkivan eleitä, puhetta ja emotionaalisia vihjeitä saadakseen asiakkaista kognitiivisia ja emotionaalisia reaktioita", sanoo Inci Toral-Manson, markkinatutkija Birminghamin yliopistosta. "Tutkimuksemme tarkastelee, miten vuorovaikutus näiden antropomorfisoitujen robottien kanssa voi synnyttää kaksisuuntaisen vaikutuksen, jossa robotit muuttuvat ihmismäisemmiksi ja ihmiset robotimaisemmiksi, mitä kutsumme 'robotoidiseksi inhimillisyydeksi'."

Miten mekanismi saattaa toimia

Tutkimus on teoreettinen eikä kokeellinen, joten se tarjoaa viitekehyksen eikä lopullista todistusaineistoa. Silti kirjoittajien kuvaama mekanismi yhdistää tuttuja käsitteitä: peilaamisen, vahvistamisen ja algoritmisen personoinnin. Ihmiset peilaavat luonnostaan sosiaalisia kumppaneitaan. Koneet voivat palkita tiettyjä puhemalleja vastaamalla nopeammin, tarkemmin tai empaattisemmin, kun kehotteet noudattavat suositeltua muotoa. Ajan myötä kirjoittajat ehdottavat, että ihmiset saattavat omaksua nämä suositut muodot.

Peilaaminen ja algoritmiset palkkiot

Kun ihminen peilaa toista, hän rakentaa vuorovaikutussuhdetta. Koneet hyödyntävät tätä omaksumalla johdonmukaista ja luettavaa käytöstä. Koneoppimisjärjestelmät mukautuvat sitten käyttäjäsyötteisiin, vahvistaen käyttäytymistä, joka tuottaa toivottuja tuloksia, kuten nopeamman ongelmanratkaisun. Mitä ennustettavampi keskustelu on, sitä paremmin järjestelmä toimii. Tuo ennakoitavuus voi kannustaa ihmisiä karsimaan omasta viestinnästään erikoisuuksia.

Selcen Ozturkcan, johtamisen insinööri Linné-yliopistosta, tiivistää syklin napakasti. "Kuluttaja toimii, robotti vastaa, ja toistuvan altistuksen myötä kuluttaja ajan myötä sisäistää vaihtokaupan", hän sanoo. "Koneoppiminen ja tekoäly voivat voimistaa tätä prosessia, säätäen robotin käyttäytymistä käyttäjäsyötteen perusteella ja mahdollistamalla robotin entistä ihmismäisemmän ja personoidumman matkimisen."

Mitä tämä voi merkitä identiteetille ja keskustelulle

Kuvittele kahta palautetyyppiä. Toinen on sotkuinen inhimillinen palaute: yllättävä, ristiriitainen ja joskus äkkipikainen. Toinen on algoritminen palaute: johdonmukainen, tilastojen ohjaama ja kohti optimaalista lopputulosta suuntautuva. Tutkimusryhmä väittää, että toistuva altistuminen jälkimmäiselle voisi kapentaa tapoja, joilla ihmiset esittävät itseään, koska algoritmit palkitsevat tiettyjä signaaleja ja sivuuttavat muita.

Tässä huoli syntyy. Ihmisaivot eivät ole tekoäly. Yksilöllisyys, epäsuoruus tai tunneylivuoto kuuluvat siihen, miten ihmiset kommunikoivat, tulkitsevat ja keksivät. Jos laajamittaiset arkipäiväiset vuorovaikutukset suosivat yhä enemmän virtaviivaista ja algoritmiystävällistä käyttäytymistä, tietyt ilmaisutavat voivat kadota rutiinikäytöstä. Kirjoittajat varoittavat, että tällainen vaikutus muuttaisi paitsi tyyliä myös keskustelujen informatiivista rikkautta.

Jean-Paul de Cros Peronard, liiketoiminnan kehitystutkija Aarhusin yliopistosta, korostaa käytännön merkitystä: "Robotit ja tekoäly ovat nyt arkipäivää asiakaspalvelussa. Siksi on tärkeää ymmärtää, miten ihmiset ovat vuorovaikutuksessa niiden kanssa, jotta yritykset voivat hyödyntää käytössään olevaa teknologiaa parhaalla mahdollisella tavalla, pysyen samalla eettisinä."

Asiantuntijan näkemys

Tohtori Maya Karim, kognitiotieteilijä joka tutkii kieltä ja teknologiaa, tarjoaa seuraavan näkökulman: "Meidän tulisi ajatella tätä kulttuurisena muutoksena, ei teknisenä viana. Työkalut muuttavat tapoja. Kysymys on, mitä tapoja haluamme kannustaa. Jos mukavuus voittaa aina, vaarana on keskustelullisen moninaisuuden kapeneminen. Järjestelmien suunnittelu, joka sietää ja jopa palkitsee ennakoimattomuutta, voisi säilyttää ihmiskielen rikkauden."

Kommentti on hypoteettinen mutta perustuu havaittuihin malleihin muilla aloilla, joissa teknologia muokkaa käyttäytymistä, kuten hakukoneet jotka priorisoivat ytimekkäitä hakulausekkeita tai sosiaalialustat jotka suosivat lyhyttä ja toistettavaa sisältöä.

Seuraukset ja seuraavat askeleet

Kirjoittajat korostavat, että testausta tarvitaan. Pitkittäiskokeet, kulttuurienväliset vertailut ja mittarit jotka kuvaavat ilmaisun laajuutta auttaisivat siirtämään ajatuksen teoriasta todeksi. Yrityksille ja päättäjille löydökset viittaavat tarpeeseen tasapainottaa tehokkuus ja monimuotoisuus. Suunnittelijoille viesti on pohtia, mitä keskustelutyylejä tekoälyjärjestelmät palkitsevat ja tutkia ratkaisuja, jotka säilyttävät inhimillisen vivahteikkuuden.

Käytännössä tämä voisi tarkoittaa chat-järjestelmiä, jotka hyväksyvät laajemman valikoiman ilmaisutapoja, mallien kouluttamista monipuolisilla keskustelaajilla tai tahallisesti leikkisien tai epätavanomaisten vuorovaikutustilojen tarjoamista tehokkuusoptimoitujen vastausten tasapainottamiseksi.

Yhteenveto

Olemme jo upotettuina tekoälyn välittämiin keskusteluihin. Tämä teoria kehottaa kiinnittämään huomiota pieniin, kumulatiivisiin vaikutuksiin. Koneet muokkaavat käyttäytymistä palkitsemalla sitä. Valinta on se, huomaammeko vaikutuksen ajoissa ja suunnittelemme järjestelmämme ja politiikkamme suojelemaan ihmiskielen sotkuisia, yllättäviä ja luovia osia.