Tekoälyempatia viehättää yrityksiä, mutta ihmisiä se kammoksuttaa
Tekoälyn hienotunteisuuden hyödyntäminen tekee viesteistä empaattisempia, mutta kaikki saavutetut hyödyt kadotetaan, kun tekoälyavusteisuus paljastuu lukijalle.
Max Lehtinen
09.10.2023

Wall Street Journal julkaisi lokakuun alussa artikkelin, jonka mukaan yritykset käyttävät tekoälyä yhä useammin ihmistaitojen asiantuntijana.

Sitä käytetään esimerkiksi työntekijöiden empaattisuuden mittaamiseen ja haastateltavien ehdokkaiden pätevyyden selvittämiseen. Jopa lääkärit ovat alkaneet kirjoittamaan hienotunteisia viestejä potilailleen tekoälyavusteisesti. 

Tekoälyempatialla onkin paljon käyttökohteita mielenterveystyöstä aina yritysten asiakastyytyväisyyden kasvattamiseen. 

Esimerkiksi generatiiviseen tekoälyyn perustuvaa Lyssn.io-alustaa käytetään WSJ:n mukaan terapeuttien kouluttamista ja arviointia varten. Alustan chatbotti, joka on koulutettu vastaamaan mahdollisimman empaattisesti ja rakentavasti, antaa monia erilaisia vastausvaihtoehtoja potilaiden tekstiviesteihin. 

Lyssnin chatbot antaa terapeutille kolme vastausvaihtoehtoa, kun tämän potilas kertoo ahdistuksesta rankan työviikon jälkeen: ”Kuulostaa siltä, että työskenteleminen on ollut todella kuluttavaa tällä viikolla” ja ”Ikävä kuulla. Miten olet käsitellyt stressiä ja ahdistusta tällä viikolla?” sekä ”Kiitos, että kerroit. Miten olet käsitellyt ahdistustasi menneisyydessä?”

Viesteistä tuskin huomaisi niiden olevan tekoälyn keksimiä, ja siihen viestien teho perustuukin. 

Heinäkuussa Nature-lehdessä julkaistussa tutkimuksessa todettiin, että tekoälyempatia lisää lukijoiden uskomusta, että kirjoittaja välittää vastaanottajasta vain, jos lukija ei tiedä tekoälyavusteisuudesta.

Nature-lehden tutkimustulosten perusteella tekoälyempatian käyttö olisi lähtökohtaisesti eettistä vain, jos käyttäjä tietäisi keskustelevansa koneen kanssa. Tekoälyempatialla on kuitenkin myös passiivisempia käyttökohteita, joissa tekoälyn käyttö voi olla perustellumpaa. 

Esimerkiksi rekrytointi- ja analytiikkayritys Humanly.io arvioi rekrytoijien empatiakykyä työhaastattelujen aikana tekoälyn avulla. 

”Korkeampi empatia ja aktiivinen kuuntelu korreloi korkeampien tarjousten hyväksymisprosenttien kanssa työpaikoilla ja myynnissä”, Prem Kumar, Humanlyn toimitusjohtaja, kertoi WSJ:lle. 

Erään asiakasyrityksen kohdalla Humanlyn tekoäly totesi, että joidenkin rekrytoijien empatia naisia kohtaan oli alhaista. Kumarin mukaan naisten hyväksymisprosentti rekrytoinnissa nousi 8 prosenttia tekoälyn huomautettua asiasta rekrytoijille. 

Tekoälyn käyttö apuvälineenä empaattisessa kanssakäymisessä on perin uusi ilmiö, eikä siten ole myöskään selvää, mitkä tekoälyn rajoitteet empatian ymmärtämisessä ovat ja miten ikä, rotu, sukupuoli, sosioekonominen ja etninen tausta vaikuttavat chatbotin kykyyn havaita empatiaa muissa ja ilmaista sitä itse.

Alustavat tulokset ovat kuitenkin lupaavia tilanteissa, kun tekoälyä käytetään harkiten, kuten osana arkisten chatbottien normaalia toimintaa.


Kuva: Markus Winkler

Suositellut

Uusimmat