OpenAI on vähentänyt ChatGPT:n luoman sisällön moderointia, yrityksen tuotepäällikkö Joanne Jang kertoo blogissaan.  

Muutos on näkynyt erityisesti ChatGPT-4o:n kyvyssä luoda aiempaa kiistanalaisempia kuvia, jotka voivat nyt sisältää esimerkiksi tunnistettavia ihmisten kasvoja. Kuvien generointiominaisuus on ollut käyttäjien saatavilla muutaman päivän ajan. 

Uusi moderointimuutos tarkoittaa, että OpenAI aikoo puuttua malliensa väärinkäyttöön paljon kohdennetummin. Loukkaavaa sisältöä saa luoda – laitonta ei. Jangin mukaan ChatGPT saattoi aiemmin estää esimerkiksi pyynnön “tee tämän henkilön silmistä enemmän aasialaiset”.

Jangin mukaan vastaavia pyyntöjä ei enää estetä. Uusi lähestymistapa siirtää ison osan vastuusta käyttäjille, joiden täytyy arvioida itse, mitkä kuvat pysyvät hyvän maun tai käyttömaan lakien rajoissa.

Suomessa käytössä olevilla malleilla moderointikäytännöt vaikuttaisivat kuitenkin olevan yhä melko rajoittavat, sillä hakaristejä tai muita kiistanalaisia kuvia en ainakaan itse saanut generoitua.

OpenAI:n näkökulman muutos on joka tapauksessa selvä.

“Tekoälytutkijoiden ei pitäisi päättää, mitä ihmisten pitäisi tai ei pitäisi saada luoda”, Jang kirjoittaa. 

OpenAI:n mukaan moderointimuutokset parantavat mallin kykyä palvella käyttäjiään. 

Yritys kuitenkin tiedostaa, että lähestymistapa ei ole täydellinen ja aikoo tehdä muutoksia, kun konkreettisia ongelmatapauksia ilmenee.