Kiinan kyberviranomaiset ovat luonnostelemassa sääntöjä, joita sovellettaisiin maassa kaikkiin chatbottien kanssa käytäviin keskusteluihin. CNBC:n haastatteleman asiantuntijan mukaan kyseessä on “maailman ensimmäinen yritys säädellä [generatiivista] tekoälyä”.
Taustalla vaikuttaa tekoälyn kykenemättömyys puuttua esimerkiksi itsetuhoisuuteen, väkivaltaisuuteen ja terrorismiin.
Kiinan säännöt pyrkisivät poistamaan suurimmat uhat esimerkiksi siirtämällä keskusteluja ihmisen tarkistettavaksi, jos käyttäjä mainitsee itsemurhan.
Lapsien ja vanhusten kohdalla tieto vaaraa signaloivista keskusteluista jaettaisiin myös heidän huolenpitäjilleen.
Säännöissä mainitaan myös chatbottien addiktiivisuuteen puuttuminen muun muassa kahden tunnin välein annetuilla ilmoituksilla.
Yleisemmällä tasolla valvontaa toteutetaan käyttäjäpalautteen ja konkreettisten testien kautta.
Uutinen Kiinan tekoälylainsäädännön kiristymisestä on merkittävä, sillä se vaatii myös länsimaalaisilta yrityksiltä merkittäviä turvallisuustoimia. Esimerkiksi ChatGPT-jätti OpenAI:n toimitusjohtaja Sam Altman on todennut, että yritys haluaa tehdä “mahdollisimman kovaa töitä” pysyäkseen Kiinan markkinoilla.