Microsoftin tutkijaryhmä kertoo Science-lehdessä, että he löysivät uudenlaisen haavoittuvuuden bioturvallisuuden seulontajärjestelmässä. Seulontaa käytetään estämään vaarallisten DNA-sekvenssien tilaaminen kaupallisilta toimittajilta. Tutkijat onnistuivat uudelleenmuotoilemaan myrkkyjä siten, että ne ohittivat suojauksen mutta säilyttivät vaarallisuutensa.
Tutkimus tehtiin ainoastaan digitaalisesti. Tutkijat eivät valmistaneet tai käsitelleet haitallisia proteiineja. Microsoft aloitti jo vuonna 2023 testit selvittääkseen, voisiko tekoälyllä suunnitella proteiineja, joita pahantahtoiset toimijat käyttäisivät. Mukana oli useita generatiivisia malleja, kuten Microsoftin oma EvoDiff.
Microsoft kertoi asiasta Yhdysvaltain hallinnolle ja seulontaohjelmistojen tekijöille ennen tulosten julkistamista. Monet järjestelmät on jo paikattu, mutta tutkijat varoittavat, että korjaus on epätäydellinen ja uudet lähestymistavat muuttavat tilannetta nopeasti.
Geneeristen proteiinimallien ongelma on niiden kaksoiskäyttöisyys: samat mallit auttavat löytämään uusia lääkkeitä ja voivat samaan aikaan tuottaa haitallisia rakenne-ehdotuksia. Joidenkin asiantuntijoiden mukaan kaupallisen DNA-synteesin seulonta on yhä käytännöllinen tapa suojautua. DNA:n valmistus on useissa maissa keskittynyt muutamille toimijoille, jotka tekevät yhteistyötä viranomaisten kanssa.
Toiset asiantuntijat, kuten UC Berkeleyssä toimiva tutkija Michael Cohen, epäilevät, että seulonta ei pysy kehityksen perässä. Cohen sanoo, että sekvenssien naamiointi onnistuu helposti ja että bioturvallisuus tulisi rakentaa osaksi itse tekoälyjärjestelmiä.
Kuva: Midjourney