OpenAI lähettää varoitusviestejä käyttäjille, jotka yrittävät saada sen uusinta o1-mallia selittämään tämän päättelyä auki.
“Järjestelmämme mukaan jotkin sähköpostiisi liitetyistä pyynnöistä rikkovat käytäntöjämme pyrkimällä ohittamaan palvelujemme turvamekanismeja”, OpenAI kirjoittaa varoittelevissa sähköposteissaan.
Jatkuvat rikkomukset johtavat “chain-of-thought” päättelyyn erikoistuneen o1:n esikatseluversion käyttöoikeuden lopettamiseen.
OpenAI:n käyttöehdoissa kielletään yrityksen palveluiden “lähdekoodin tai muiden taustakomponenttien, kuten mallien, algoritmien tai järjestelmien” paljastaminen.
Käyttöehdoissa ei kielletä pyyntöjä, jotka pyrkivät ymmärtämään, miten malli on päätynyt tiettyyn vastaukseen.
Tälläisten pyyntöjen lähettäminen o1-preview:lle on kuitenkin toistuvasti johtanut varoitusviesteihin mallin väärinkäytöstä. Osa varoitusviesteistä kertovista käyttäjistä kertoo menettäneensä myöhemmin o1-käyttöoikeudet.
OpenAI kertoo blogipostauksessaan, että syitä o1-preview:n sisäisen päättelyketjun piilottamiselle ovat hyvän käyttäjäkokemuksen varmistaminen ja kilpailullisen etulyöntiaseman säilyttäminen.
Monet asiantuntijat, kuten brittikoodari Simon Willison, ovat kuitenkin nostaneet esiin, että syynä tuskin on käyttäjäkokemus, vaan o1:n sisäisen toiminnan piilottaminen kilpailijoilta, jotka voisivat käyttää ajatteluprosessin askelia omien malliensa kouluttamiseen.
Esimerkiksi xAI:n Grok-kielimallin kouluttamiseen on tiettävästi hyödynnetty OpenAI:n mallien vastauksia.
Tällä hetkellä o1:n tuottama teksti käy läpi toisen mallin suorittaman uudelleenmuotoilun, ja käyttäjä näkee vain tiivistelmän ajatteluketjun osista.
Vain reilu viikko sitten julkaistun o1-preview:n ajatteluprosessista kiinnostuneiden promptien kieltäminen on selkeä muutos OpenAI:n aiempaan menettelyyn. Aiemmilta malleilta, kuten ChatGPT-4:ltä, on saanut kysyä tarkkoja kysymyksiä mallin toiminnasta.