Googlen omistaman kyberturvayritys Mandiantin mukaan tekoälyä käytetään internetissä yhä enemmän manipuloiviin tarkoituksiin, Mandiant kertoo blogissaan. 

Yrityksen tutkijat ovat löytäneet ”lukuisia tapauksia”, joissa tekoälyn tuottamaa sisältöä, kuten väärennettyjä profiilikuvia, on käytetty politiikkaan liittyvissä vaikutuskampanjoissa.

Mandantin mukaan tapauksiin sisältyi monen maan, kuten Venäjän, Kiinan, Iranin, Etiopian, Indonesian, Kuuban, Argentiinan, Meksikon, Ecuadorin ja El Salvadorin, hallituksia tukevien ryhmien kampanjoita.

Vaikuttamiskampanjoissa tekoälyä käytetään erityisesti kuvien ja videoiden tuottamiseen.

Tekoälyn tuottamalla hyperrealistisella sisällöllä, kuten julkisuuden henkilöä matkivalla videolla, on selkeitä käyttötarkoituksia esimerkiksi disinformaation levittämiseen. 

Esimerkiksi vuoden 2022 maaliskuussa internetissä julkaistiin tekoälyn avulla väärennetty video Ukrainan presidentti Zelenskyistä kertomassa Ukrainan antautumisesta Venäjälle. 

Yhden tekoälyllä luodun kuvan voima taas nähtiin toukokuussa 2023, kun useat Twitter-tilit jakoivat tekoälyn luomaa kuvaa räjähdyksestä Yhdysvaltojen puolustusministeriön päärakennuksen, Pentagonin, lähellä. 

Viraali kuva johti hetkellisesti myös pörssikurssien laskuun. 

Vuodesta 2019 tekoälyn käyttöä hyökkäyksissä tutkinut Mandiant analysoi, että teknologian käyttö muissa kuin vaikuttamistarkoituksissa on kuitenkin toistaiseksi ollut vähäistä, eikä tekoälyä käytetä vielä kovinkaan tehokkaasti. 

Harva toimijoista on yrityksen arvion mukaan käyttänyt tekoälyä aiheuttamaan merkittävää haittaa yhteiskunnalle. 

Generatiivisia tekoälytyökaluja käytetään kuitenkin yrityksen mukaan tulevaisuudessa yhä enemmän hyökkäyksissä ja vaikutusoperaatioissa, minkä myötä myös riskit vakaville hyökkäyksille kasvavat. 

Lisäksi teknologia antaa pienille toimijoille mahdollisuuden panna alulle laajoja ja korkealaatuisia kampanjoita, Mandiant sanoo. 

Kuva: Markus Winkler