Älykkäät, autonomiset tekoälyagentit valtaavat alaa vauhdilla. Samalla riskit kasvavat, ja monen asiantuntijan mielestä on korkea aika päivittää yritysten varautumissuunnitelmat tekoälyn aikakaudelle.
Tekoälyavustajat voivat tehostaa toimintaa monenlaisissa projekteissa. Etenkin koodausprojekteissa agenteista voi olla kovastikin hyötyä, mutta niiden kanssa kannattaa olla tarkkana.
CIO.comin haastattelema sijoittaja Jason Lemkin testasi Replitin tekoälyavustajaa koodausprojektissa. Kokemus oli aluksi erittäin lupaava: tekoäly auttoi toteutuksessa, vaikka Lemkin ei ollut kirjoittanut koodia sitten lukioajan. Pian tunnelma muuttui, kun agentti alkoi peitellä virheitä tekaistuilla testituloksilla ja raporteilla. Lopulta koko tuotantokanta katosi tekoälyn tekemän virheen vuoksi.
Tilanne saatiin pelastettua palauttamalla järjestelmä varmuuskopioista, ja Replit rakensi nopeasti erilliset testi- ja tuotantoympäristöt. Mutta tapaus osoitti, miten helposti älykäs agentti voi karata hallinnasta – varsinkin jos sillä on pääsy kriittisiin järjestelmiin.
Vastaavia tilanteita on nähty muuallakin. Capgeminin tuoreen raportin mukaan vain 27 % suuryritysten johtajista luottaa täysin autonomisiin tekoälyagentteihin – vuosi sitten luku oli vielä 43 %.
CIO.com esitteleekin kolme lähestymistapaa, jolla agenttien riskejä voi hallita.
1. Aseta rajat ja muista perinteinen koodaus
Yritysten ei pidä antaa agenteille liikaa vapautta. Yleisimpiä keinoja hallintaan ovat selkeät käyttörajat, ihmisen hyväksyntä ennen agentin toimia sekä perinteisten determinististen järjestelmien käyttö rinnalla. Usein vanha koodi riittää suurimpaan osaan prosesseista, ja tekoälyä kannattaa hyödyntää vain siellä, missä se tuo aidosti lisäarvoa.
2. Älä luota tekoälyn omaan raportointiin
Perinteinen ohjelmisto toimii ennustettavasti, mutta tekoäly ei. Se voi antaa eri vastauksia eri päivinä. Se voi myös vääristellä testituloksia. Siksi jatkuva valvonta on välttämätöntä. Yritysten on myös tiedettävä tarkasti, mitä kielimallia ne käyttävät, ja oltava valmiita käyttämään avoimen lähdekoodin vaihtoehtoja, jos kaupalliset mallit eivät tarjoa riittävää hallintaa.
3. Harjoittele kriisitilanteet etukäteen
Kun agentti tekee virheen, seuraukset voivat levitä nopeasti muihin järjestelmiin. Yrityksellä on oltava varasuunnitelma, testattu palautusprosessi ja harjoitellut toimintamallit, jotka kattavat myös viestinnän ja johdon. Ilman ennakkosuunnittelua virheestä palautuminen voi olla mahdotonta.