Kaikki tuijottavat mallien benchmarkeja, mutta käytännössä agentti kompastuu johonkin paljon arkisempaan: se ei muista, mitä viime viikolla sovittiin. Oikea agentti ei tyydy vastaamaan yhteen promptiin, vaan sen pitäisi pysyä kärryillä siitä, mitä ollaan rakentamassa ja mitä on jo päätetty, ketkä asiaan liittyvät ja mikä meni viimeksi pieleen, mitkä tiedot pätevät yhä ja mitkä vanhat muistiinpanot kannattaisi osata ohittaa.
Helpolta kuulostaa, kunnes sitä yrittää oikeasti rakentaa. Juuri nyt "muisti" on useimmiten sekalainen kasa chat-historiaa, tallennettuja faktoja, vektorihakua, projektitiedostoja, tiivistelmiä ja muutama käsin kirjoitettu sääntö. Se toimii juuri sen verran hyvin, että tekee vaikutuksen, ja pettää juuri sen verran usein, ettei siihen uskalla täysin nojata.
Vaikein osa ei ole tekstin tallentaminen. Vaikein osa on nopea, muokattava ja luotettava muistikerros, joka ymmärtää, mikä on olennaista juuri nyt. Ja yhtä tärkeää kuin muistaminen on osata unohtaa: ihmismuistikin toimii nimenomaan siksi, että se päästää suurimman osan irti ja pitää kiinni vain siitä, millä on merkitystä.
Hyvä esimerkki on OpenAI. Se kutsuu omaa taustaprosessiaan dreamingiksi ja julkaisi siitä kesäkuussa uuden version, jonka koko lupaus on juuri tämä: pidä konteksti tuoreena, anna käyttäjän nähdä ja korjata, mitä malli muistaa, ja tunnista, milloin vanha tieto on vanhentunut. Silti se muistaa yhtiön omien testien mukaan oikein monilla mittareilla vain noin kolme kertaa neljästä. Se kertoo ongelman vaikeudesta enemmän kuin mikään juhlapuhe.
Omassa työssämme OpenClaw’n, Hermeksen ja muiden agenttien parissa ero chatbotin ja agentin välillä ei ole se, että agentti kirjoittaa parempia kappaleita. Ero on siinä, että agentti voi palata projektiin päiviä myöhemmin ja muistaa päätökset, rajoitteet, ihmiset, linkit, tiedostot ja seuraavat askeleet. Kun se toimii, agentti tuntuu hyödylliseltä. Kun se ei toimi, se on kuin äärimmäisen itsevarma harjoittelija, joka kärsii muistinmenetyksestä.
Uskomme, että seuraavat vakavasti otettavat agenttituotteet eivät kilpaile pelkillä prompteilla tai mallivalinnoilla. Ne kilpailevat muistilla. Näkeekö käyttäjä, mitä agentti muistaa? Voiko hän korjata sitä? Osaako agentti unohtaa turvallisesti? Erottaako se vanhan kontekstin nykyhetken totuudesta? Löytääkö se oikean tiedon nopeasti ilman, että koko ullakko kaatuu niskaan?
Ennen kuin tämä kerros on luotettava, agentit jäävät helposti vaikuttaviksi demoiksi, joihin ei vielä uskalleta nojata 100 % ihan kaikessa. Muisti ei ole sivuominaisuus. Se on se kohta, jossa luottamus agenttiin joko syntyy tai kuolee.