Kiinalaiset toimijat ovat hyödyntäneet ChatGPT:tä merkittävässä eteläamerikkalaisessa vaikutuskampanjassa, kertoo OpenAI.
Vaikutuskampanjan tekijät julkaisivat vähintään 19 artikkelia erinäisillä uutissivustoilla Perussa, Ecuadorissa ja Mexicossa. Kirjoittamiseen ja tiedonhakuun käytettiin ChatGPT:tä.
OpenAI:n tuoreen raportin mukaan tekoälyartikkelien tarkoituksena oli kritisoida Yhdysvaltoja, vaikka kritiikki verhottiinkin uutisaiheisiin.
Artikkelit käsittelivät esimerkiksi Yhdysvaltojen yhteiskunnan eriarvoisuutta, maassa tapahtuvaa syrjintää sekä lisääntynyttä huumeiden käyttöä.
“Usein haittatoimijan lähestymistapa oli kuvata nämä kriisit tai ongelmat osoituksena Yhdysvaltojen epäonnistuneesta johtajuudesta tai yhteiskunnasta”, OpenAI selittää raportissaan.
Peru oli hyökkäyksen selkeästi merkittävin kohde.
Syy löytyy maassa lokakuussa 2024 järjestetystä APEC-foorumista. Foorumin ajaksi Peruun kerääntyivät muun muassa Kiinan, Australian, Kanadan, Chilen, Mexicon, Venäjän ja Yhdysvaltojen johdot.
Kielimalleilla riittää käyttökohteita – osa uusia
OpenAI:n mukaan haittatoimijat hyödynsivät ChatGPT:tä useisiin eri tehtäviin.
Eräs merkittävimmistä käyttökohteista oli tiedonhaku “samaan tapaan kuin aiemmat sukupolvet käyttivät hakukoneita”.
Vaikutuskampanjan järjestäjät etsivät ChatGPT:n avulla tietoa esimerkiksi australialaisista ja yhdysvaltalaisista poliitikoista sekä hallituksen virkamiehistä.
Chatbotti tuki haittatoimijoiden toimintaa myös kehittyneellä kielitaidollaan, joka kattaa kaikki maailman merkittävimmät kielet.
Aiemmin tämänkaltainen automatisoitu kääntäminen, tiedon prosessointi ja kirjoittaminen ei ole ollut mahdollista.
”Tämä voi olla ensimmäinen kerta, kun kiinalaisen vaikuttamisoperaation on havaittu kääntävän pitkiä artikkeleita espanjaksi ja julkaisevan niitä Etelä-Amerikassa”, OpenAI:n päätutkija Ben Nimmo kommentoi hyökkäystä Axiokselle.
Lyhyestä virsi kaunis: tekoälytyökalujen kehittyminen on johtanut aiempaa tehokkaampiin vaikutuskampanjoihin.
Tekoälyajan henki: epävarmuus
Tekoälyn käyttö digitaalisen propagandan luomisessa lisääntyy jatkuvasti.
Uuden teknologian tuoma murros on informaatiovaikuttamisen alalla valtava. Tekoälygeneroidun tekstin tunnistaminen on alati vaikeampaa, kun chatbotit ja niiden ympärille rakennetut järjestelmät kehittyvät.
Tunnistusjärjestelmiä ei tietenkään pysty välttämään ikuisesti. OpenAI on sulkenut useaan otteeseen haitallisten toimijoiden tilejä huomatessaan epäasiallista toimintaa.
Tämä ei kuitenkaan vielä ole ratkaisu perusongelmaan.
Rikollisilla on aina vaihtoehto siirtyä toiselle tilille tai palveluntarjoajalle, kunnes käry käy uudestaan.
Samalla kaikkein vaikeimmin kitkettävät työkalut perustuvat avoimiin – eli siis yksityiskäyttöön ladattaviin – kielimalleihin. Tämä pätee valtioiden lisäksi pienempiin toimijoihin.
Tällä hetkellä vaikuttaakin vahvasti siltä, että tekoälytyökalujen vaarallisuus (ja hyödyllisyys) vain kasvaa.
OpenAI kategorisoi hiljattaisen vaikutuskampanjan jo tasolle 4 sen kuusiportaisella asteikolla, joka käsittelee vaikutuskampanjoiden vaarallisuutta. Tason 4 kuvaus on “vuoto valtamediaan”.
Tätä vaarallisempia ovat vain tasot 5 ja 6.
Taso 5 kuvaa julkisuuden henkilöiden tukea vaikutuskampanjan sanomalle. Taso 6, kaikkein vakavin uhka, on väkivaltaan kannustaminen.
