Tekoäly ei saa syrjiä
Tekoäly tehostaa myös julkisia palveluita. On tärkeää huolehtia siitä, ettei algoritmi tee palveluista syrjiviä. Kotimainen tutkimusprojekti pyrkii taklaamaan ongelmia jo ennen niiden ilmestymistä.
IT Insider toimitus
08.2.2022

Tekoäly tehostaa jatkuvasti suurempaa osaa julkisista palveluista. Samalla algoritmipohjaisiin apuvälineisiin liittyy aina riskejä. Palvelut voivat syrjiä ihmisryhmiä tai ne voivat sortua yksityisyyden suojan loukkauksiin.

Aalto-yliopiston uusi tutkimusprojekti pyrkii pienentämään riskejä tuomalla yhteen kansalaiset, sovellusten kehittäjät ja viranomaiset parempien tekoälypalvelujen kehittämiseksi.

“Haluamme voimaannuttaa kaikki osapuolet tekemään parempia päätöksiä ja ymmärtämään näiden teknologioiden seuraamuksia”, sanoo projektia johtava työelämäprofessori Nitin Sawhney Aalto-yliopistolta ja Suomen tekoälykeskus FCAI:lta.

“Meidän täytyy suojella itseämme järjestelmiltä, jotka tekevät meistä oletuksia jotka eivät ole reiluja tai oikeita.”

Civic Agency in AI -projektin tarkoitus on parantaa erityisesti valtion sekä Helsingin ja Espoon kaupunkien käyttämiä tekoälytyökaluja. Hankkeessa tarkastellaan tapaustutkimuksina, miten luotettavia ja eri ihmisryhmien kannalta tasapuolisia kansalaisille tarjotut palvelut ovat.
Suunniteltuja tutkimuskohteita ovat muun muassa Espoon kaupungin maahanmuuttajille suunnatut digitaaliset neuvontapalvelut sekä Kelan asiakkaita auttava chatbot.

Tekoälypohjaisten palveluiden luotettavuus on Suomessa juuri nyt erityisen ajankohtainen kysymys, koska Euroopan Unioni on kehittämässä uutta lainsäädäntöä niiden säätelemiseksi. Yksi tutkimusprojektin päämääristä on auttaa julkista sektoria ymmärtämään odotettavissa olevan lainsäädännön seuraamukset olemassa oleville ja suunnitelluille palveluille.

“Näen säätelyn mahdollisuutena innovaatioille. Jos me Suomessa pystymme rakentamaan järjestelmiä, jotka ovat ymmärrettäviä ja vastuullisia sekä osoittamaan työkalumme ja käytäntömme luotettaviksi, meillä on kilpailuetu muuhun maailmaan nähden”, Sawhney sanoo.

Tutkijoiden tarkoituksena on esitellä työtään sekä Suomen hallitukselle että EU:lle, ja lopulta vaikuttaa politiikan linjauksiin.

Civic Agency in AI -hanke on saanut Koneen säätiöltä nelivuotisen rahoituksen. Projekti alkoi vuoden alussa.

Suositellut

Uusimmat