Meta aikoo poistaa tekoälypersoonien käytön alaikäisiltä globaalisti, yhtiö tiedotti tänään. Lähiviikkoina voimaan tuleva muutos koskee myös niitä käyttäjiä, jotka Metan iänmääritysteknologia on arvioinut alaikäisiksi.
Rajoitus koskee nimenomaan tekoälypersoonia, ei tavallista Meta AI -chatbottia. Botti säilyy edelleen nuorten käytössä “tiedonhakua ja oppimista varten” ja “noudattaa iälle sopivia turvallisuusasetuksia”.
Käyttötauon aikana Meta aikaa muokata alustaansa siten, että vanhemmilla on aiempaa paremmat mahdollisuudet valvoa tekoälypersoonien käyttöä. Kun bottipersoonat palaavat palveluun, vanhemmat voivat estää tiettyjen bottien käytön tai kytkeä ominaisuuden kokonaan pois päältä.
Yhtiön mukaan toimet vastaavat vanhempien toiveisiin saada ymmärrystä lastensa digitaalisiin kanssakäymisiin.
Ajoitus osuu yksiin myös kasvavan viranomaispaineen kanssa. Päätös tehtiin vain muutamaa päivää ennen New Mexicossa alkavaa lasten turvallisuutta käsittelevää oikeudenkäyntiä, kertoo TechCrunch.
Viime kuukausina on laajalti uutisoitu tapauksista, joissa chatbotit ovat käyneet sopimattomia keskusteluja alaikäisten kanssa. Selkkaukset ovat johtaneet ainakin Yhdysvaltain kauppakomission ja Texasin osavaltion syyttäjän tutkintoihin, raportoi Engadget.
Metalla ei ole paineen alla varaa virheisiin. Yritys lupaa julkaista bottipersoonat uusilla valvontatyökaluilla varustettuna Instagramissa vasta ensi vuoden alkupuolella.
Julkaisuvyyhti alkaa yrityksen mukaan englanninkielisillä markkinoilla, kuten Yhdysvalloissa, Britanniassa, Kanadassa ja Australiassa.
Päivitetyt botit opetetaan välttämään sopimattomia aiheita.
Julkaisussa hyödynnetään elokuvien ikärajaluokitusta mukailevaa mallia: yli 13-vuotiaat saavat keskustella bottien kanssa, kunhan keskustelut eivät sisällä kiellettyjä aiheita, kuten väkivaltaa tai alastomuutta.
Metan ilmoitus on osa laajempaa lapsia suojelevaa trendiä generatiivisen tekoälyn alalla. Startup-yhtiö Character.AI on lisännyt alle 18-vuotiaille uusia sisältörajoitteita, ja OpenAI on ottanut käyttöön tarkempia iänmääritystyökaluja valvoakseen nuorten ChatGPT:n käyttöä.