Kun tänään kysyt jotain tekoälyltä, kysymyksesi ei käsitellä sinun koneellasi. Se matkustaa verkon yli konesaliin, usein toiselle puolelle maailmaa, jossa valtava tietokonefarmi laskee vastauksen ja lähettää sen takaisin. Tämä on ollut pakko: hyvät tekoälymallit ovat yksinkertaisesti olleet liian suuria mahtuakseen tavalliseen tietokoneeseen.
Viime viikolla tuo pakko alkoi murtua. Nvidia julkisti Computex-messuilla uuden RTX Spark -piirin, joka mahtuu kannettavaan tietokoneeseen ja pystyy silti ajamaan erittäin suurta tekoälymallia paikallisesti, ilman verkkoyhteyttä, ilman konesalia. Vielä pari vuotta sitten samaan tehtävään tarvittiin huoneellinen palvelimia. Ensimmäiset näillä piireillä varustetut koneet tulevat myyntiin syksyllä tutuilta valmistajilta: Microsoft, Dell, HP, Lenovo ja Asus.
Mitä paikallinen tekoäly tarkoittaa käytännössä?
Ajattele eroa näin: tähän asti tekoälyn käyttäminen on ollut kuin soittaisi joka kysymyksen kohdalla asiantuntijalle ulkomaille. Puhelu maksaa, vastaus kestää hetken, ja kaikki mitä kerrot, kulkee talon ulkopuolelle. Paikallinen tekoäly tarkoittaa, että sama asiantuntija istuu omassa työhuoneessasi. Kysyt suoraan, vastaus tulee heti, mitään ei lähde minnekään eikä kukaan laskuta puheluista.
Tästä seuraa kolme konkreettista asiaa:
Tietosi pysyvät sinulla. Kun tekoäly pyörii omalla koneella, asiakirjat, asiakastiedot ja luottamukselliset keskustelut eivät koskaan poistu laitteesta. Mikään ulkopuolinen palvelu ei näe niitä.
Kustannukset muuttuvat. Pilvipohjaiset tekoälypalvelut laskuttavat käytön mukaan, jokainen kysymys ja jokainen käsitelty dokumentti maksaa. Paikallinen malli maksaa kerran laitteen hinnassa, ja sen jälkeen käyttö on käytännössä ilmaista, käytit sitä sitten kymmenen kertaa päivässä tai kymmenentuhatta.
Verkkoyhteyttä ei tarvita. Tekoäly toimii lentokoneessa, laivalla, työmaalla ja mökillä, kaikkialla missä kone käynnistyy.
Missä tämä on oikeasti tärkeää? Neljä esimerkkiä
Terveydenhuolto ja hyvinvointiala. Potilastiedot ovat arkaluonteisinta dataa, mitä on olemassa. Lääkäriasema tai fysioterapeutti ei voi noin vain syöttää potilaskertomuksia ulkomaiseen pilvipalveluun. Mutta jos tekoäly pyörii vastaanoton omalla koneella, se voi auttaa kirjausten laatimisessa, yhteenvedoissa ja ajanvarauksen sujuvoittamisessa ilman että yksikään potilastieto poistuu talosta.
Tilitoimistot, lakitoimistot ja taloushallinto. Asiakkaiden sopimukset, palkkatiedot ja kirjanpito ovat luottamuksellisia. Paikallinen tekoäly voi käydä läpi satoja tositteita, etsiä poikkeamia tai luonnostella sopimustekstiä, ja kaikki tapahtuu toimiston omien seinien sisällä. Salassapitovelvollisuus ei vaarannu, koska data ei liiku mihinkään.
Pienyrittäjä ja kustannukset. Moni pieni yritys on kokeillut tekoälypalveluita ja huomannut, että aktiivisessa käytössä kuukausilaskut kasvavat yllättävän suuriksi. Kun malli on omalla koneella, yrittäjä voi antaa tekoälyn käsitellä koko asiakasrekisterin, kirjoittaa kaikki tarjoukset ja käydä läpi vuoden sähköpostit ilman että mittari raksuttaa taustalla.
Työ verkon katvealueilla. Suomessa on paljon työtä, jota tehdään siellä, missä verkko pätkii: metsäkoneessa, maatilalla, rakennustyömaalla, merellä. Paikallinen tekoäly kulkee mukana ja toimii, vaikka yhteyttä ei olisi lainkaan.
Mitä tämä tarkoittaa meille AI Generationilla
Meille tämä ei ole vain kiinnostava uutinen, vaan suunta, johon olemme jo matkalla. Aiomme hankkia näitä laitteita heti, kun niitä on saatavilla, ja ajaa niillä avoimen lähdekoodin tekoälymalleja, siis malleja, jotka ovat vapaasti kaikkien käytettävissä ilman lisenssimaksuja.
Yhdistelmä on asiakkaillemme arvokas: ei kuukausimaksuja ulkomaisille pilvipalveluille, ei käyttöön perustuvaa laskutusta, ja ennen kaikkea takuu siitä, että data pysyy sataprosenttisesti omassa hallinnassa. Erityisesti aloilla, joilla tietosuoja on tähän asti estänyt tekoälyn käytön kokonaan, ovi aukeaa nyt ensimmäistä kertaa kunnolla.
Rehellisyyden nimissä: pilvi ei katoa mihinkään. Kaikkein suurimmat ja kyvykkäimmät mallit pyörivät jatkossakin konesaleissa, ja joihinkin tehtäviin ne ovat edelleen paras valinta. Mutta raja siirtyy, ja se siirtyy juuri siihen kokoluokkaan, joka riittää valtaosaan arkisista työtehtävistä.
Kysymys, joka kannattaa esittää syksyllä
Jos yrityksessäsi on mietitty tekoälyn käyttöä mutta tietosuoja, kustannukset tai epävarmuus ovat jarruttaneet, syksy on hyvä hetki katsoa asiaa uudelleen. Moni este, joka vielä viime vuonna oli todellinen, on poistumassa.
Me autamme mielellämme arvioimaan, mitkä teidän työtehtävistänne voisi hoitaa paikallisella tekoälyllä: turvallisesti, ilman jatkuvia kuluja ja omalla kielellä. Ota yhteyttä, niin katsotaan yhdessä.