Tekoälyn kärkinimiin kuuluja OpenAI perustaa yksikön, jonka tehtävänä on ehkäistä ja minimoida tekoälyyn kuuluvia riskejä. Uusi Preparedness-tiimi pyrkii suojaamaan ihmiskuntaa mahdollisia katastrofaalisia riskejä vastaan.
Tiimin johtoon on nimitetty huippuyliopisto MIT:n tekoälykeskuksen entinen johtajaa Aleksander Madry.
Preparedness-tiimin tulee varautua esimerkiksi täysin mahdollisiin riskeihin, kuten ihmisten mielipiteiden muokkaamiseen ja haittakoodin generointiin. Mutta tiimin pöydällä on myös futuristisempia riskejä, kuten “kemialliset, biologiset, radiologiset ja radioaktiiviset riskit”.
OpenAI:n toimitusjohtaja Sam Altman on jo aikaisemmin kertonut olevansa huolissaan tekoälyn riskeistä monien muiden teknologia-alan yritysjohtajien tapaan. Preparedness-tiimi on vie varautumisen selvästi askelta pidemmälle.
Kuva: Midjourney