Microsoftin tekoälystä tulee vastuullisempi
Azure-pilvessä oleva kasvontunnistus ei enää jatkossa tunnista ikää, sukupuolta tai tunnetilaa.
IT Insider toimitus
22.6.

Joskus kaikkia mahdollisia ominaisuuksia ei kannata pitää tarjolla. Microsoft tuli tähän johtopäätökseen vastuullisen tekoälyn ohjeistuksessaan ”Responsible AI Standard”.

Yhtiö poistaa Azure-pilvipalvelunsa kasvontunnistukseen tarkoitetusta Face APIsta ominaisuuksia, joilla palvelu on automaattisesti arvioinut henkilön iän, sukupuolen tai tunnetilan.

Ominaisuudet poistuvat uusilta asikkailta tarjolta jo tällä viikolla ja nykyisiltä asiakkailta vuoden sisällä.

Microsoftin vastuullisen tekoälyn ohjeistus määrittelee tekoälylle vaatimnuksia, joilla niiden vaikutus yhteiskuntaan ei olisi negatiivinen. Kriitikot ovat pitäneet nyt poistuvia ominaisuuksia haitallisina, koska ne loukkaavat ihmisten yksityisyyttä ja tulokset ovat epäluotettavia, kertoo The New York Times.

Uudessa vastuullisen tekoälyn ohjeistuksessa ratkaisujen pitää muun muassa tarjota toimivia ratkaisuja tavoiteltuihiin ongelmiin. Lisäksi niiden pitää palvellla tasapuolisesti kaikkia demografisia ryhmiä, myös marginalisoituja.

Esimerkiksi tunteiden analyysi kasvoista tekoälyn avulla osoittautui ongelmalliseksi, Microsoftin vastuullisen tekoälyn johtaja Natasha Crampton sanoi The New York Timesille.

”Tunteiden näyttämisessä on merkittäviä yksilöllisiä, alueellisia ja kulttuurillisia eroja, mikä vaikeuttaa analyysin tekemistä. Lisäksi laajempi kysymys on, voiko tunnetilaa arvioida luotettavasti pelkästään kasvoista”, Crampton sanoo.

Ikää ja sukupuolta koskevat analyysityökalut oli tarkoitettu erityisesti helpottamaan kuvien tulkintaa esimerkiksi sokeille. Mutta ongelmaksi muodostui Cramptonin mukaan muun muassa binäärinen tulkinta kahdesta sukupuolesta.

”Tämä ei ole arvojemme mukaista.”

Kasvojentunnistus ei jää kokonaan käytöstä, ainoastaan osa siihen ohjelmoiduista ominaisuuksista. Käyttötapauksia on edelleen runsaasti. Esimerkiksi Uber-kuljettajien henkilöllisyys varmistetaan kasvojentunnistuksen avulla.

Käyttö on joka tapuksessa tiukempaa. Jatkossa Azuren kasvojentunnistusta käyttävien kehittäjien tulee pyytää lupa sen käyttöön ja kuvailla käyttötapaukset etukäteen.

Lue lisää:

Suositellut

Uusimmat