Ranskalainen tekoäly-startup Mistral julkaisi tällä viikolla kaksi kielimallia, jotka on tarkoitettu edge-laskennan käyttökohteisiin. Mallit soveltuvat esimerkiksi omalla puhelimella tai tietokoneella ajettaviksi.
Syynä mallien edge-soveltuvuuteen on ennen kaikkea niiden pieni koko. Uudet 3 miljardin ja 8 miljardin parametrin mallit on huomattavasti helpompi tallentaa pienelle laitteelle kuin suuremmat mallit.
128 tuhannen tokenin kontekstilla varustettuja kielimalleja voi hienosäätää esimerkiksi usean tekoälyagentin prosesseihin ja spesifien työtehtävien automatisointiin.
Mistralin mukaan uusille 3 miljardin ja 8 miljardin parametrin malleille löytyy paljon kysyntää.
”Asiakkaamme ja kumppanimme ovat yhä useammin pyytäneet paikallista, yksityisyyden suojaa priorisoivaa inferenssiä kriittisiin sovelluksiin, kuten laitteessa tapahtuvaan kääntämiseen, ilman internetiä toimiviin älykkäisiin avustajiin, paikalliseen analytiikkaan ja autonomiseen robotiikkaan. [Uudet mallit] on rakennettu tarjoamaan laskennallisesti tehokas ja matalaviiveinen ratkaisu näihin tilanteisiin”, Mistral kirjoittaa tuoreessa tiedotteessaan.
Pariisissa majaansa pitävä Mistral pyrkii haastamaan OpenAI:n, Metan ja Anthropicin kaltaisten tekoälyjättien asemaa tekoälyn terävimpien mallien luojina. Yritys on sitoutunut ”avoimiin, siirrettäviin ja kustomoituihin ratkaisuihin” ja useiden kielten tukemiseen.
Metan ja Googlen entisten työntekijöiden perustama startup sulki kesällä noin 600 miljoonan euron rahoituskierroksen, jossa yrityksen arvoksi arvioitiin 5,8 miljardia euroa.
