Huippusuosittu koneoppimisalusta Hugging Face julkaisi tällä viikolla uuden HUGS-nimisen ohjelmistopalvelun, joka helpottaa tekoälymallien viemistä tuotantoon. Palvelun ydin on tekoälysovellusten vaatimien manuaalisten askeleiden poistaminen ja optimoiminen.
Kehittäjien täytyy tavanomaisesti ymmärtää ohjelmointikirjastojen toimintaperiaatteita ja yhteensopivuuksia, konfiguroida malli toimimaan halutulla prosessorilla, asettaa parametreja, putsata dataa ja luoda virtuaaliympäristö, jossa mallia voi pyörittää.
Tämä kaikki tapahtuu HUGSin avulla automaattisesti.
Laskentatehon puutekaan ei ole uuden palvelun kohdalla ongelma. HUGS toimii pilvessä Nvidian, Googlen ja AMD:n tehokkailla prosessoreilla.
Hugging Facen mukaan HUGS on rakennettu niin, että OpenAI:n ohjelmointirajapinnasta voi siirtyä helposti avoimien tekoälymallien pariin. Siirtymistä pois ChatGPT-riippuvuudesta voi siis kokeilla jatkossa HUGSin kautta matalla kynnyksellä.
Poistuminen (yksityisen yrityksen omistaman) suljetun mallin käyttöympäristöstä tarkoittaa yrityksille ja itsenäisille kehittäjille myös lisääntynyttä yksityisyydensuojaa ja vapautta.
AWS:n ja Googlen markkinapaikoilla HUGSin pyörittämisen hinta alkaa yhdestä dollarista per tunti.
Vuonna 2016 perustettu Hugging Face, joka pitää päämajaansa New Yorkissa, on kehittänyt yhden tämän hetken kuumimmista tekoälyalustoista. Hugging Face tunnetaan etenkin sen transformer-kirjastosta, joka sisältää tuhansia eri malleja tekstin, kuvan ja äänen analysoimiseen.
Hugging Facen kautta voi pyörittää esimerkiksi Metan huippusuosittuja laamoja ja Mistralin sekä Googlen pienempiä (mutta silti virallisesti suuria) kielimalleja.
