Generatiivisen tekoälyn yritysten keskuudessa konsensus on, että chatbottien kehitys ja laaja levikki on luonut aiempaa suuremman tarpeen tulevien vaikutusten arvioimiselle ja ehkäisemiselle.
Esimerkiksi OpenAI on hiljattain lisännyt verkkosivuilleen työpaikkailmoituksen, jossa etsitään tekoälyasiantuntijaa tutkimaan ChatGPT:n haittavaikutuksia käyttäjille. Yhtenä syynä uuden työtehtävän luomiselle on toimitusjohtaja Sam Altmanin mukaan se, että mallien kykyjen kasvu lisää myös niihin liittyviä haasteita.
Esimerkiksi vuonna 2025 Altmanin mukaan jo nähtiin, miten tekoäly voi vaikuttaa käyttäjien mielenterveyteen negatiivisesti. Tällä Altman viittaa muun muassa syytöksiin, että ChatGPT olisi myötävaikuttanut yhdysvaltalaisen Erik Soelbergin päätöksen tappaa äitinsä vuoden 2025 elokuussa.
Tänä vuonna on raportoitu myös ChatGPT:n käyttöön liittyvistä itsemurhatapauksista.
Palkkaus uudessa tekoälyturvallisuutta edistävässä pestissä on melkoinen: yli 555 tuhatta dollaria vuodessa eli yli 39000 euroa kuussa.