AI memory
Wat is AI memory?
AI memory betekent dat een AI-systeem informatie uit eerdere interacties kan bewaren en opnieuw kan gebruiken. Een AI-agent kan daardoor bijvoorbeeld rekening houden met de voorkeuren van een gebruiker, de voortgang van een taak of afspraken die eerder zijn gemaakt. Zonder geheugen moet dezelfde context telkens opnieuw worden aangeleverd en begint iedere nieuwe interactie grotendeels vanaf nul.
Het geheugen is meestal geen onderdeel van de vaste kennis van het taalmodel. Relevante informatie wordt apart opgeslagen en op een later moment weer opgehaald. Het systeem voegt deze herinneringen vervolgens toe aan de context van een nieuwe opdracht. Google beschrijft bijvoorbeeld hoe opgeslagen herinneringen uit eerdere gesprekken kunnen worden teruggehaald en aan de prompt van een agent worden toegevoegd.
Kortetermijn- en langetermijngeheugen
Kortetermijngeheugen bevat informatie die tijdens één gesprek of sessie nodig is. Een agent kan hiermee bijhouden welke stappen al zijn uitgevoerd, welke gegevens de gebruiker heeft aangeleverd en wat het huidige doel is. Deze informatie hoeft niet altijd bewaard te blijven nadat de sessie is afgesloten. Ze is vooral bedoeld om het lopende proces samenhangend te laten verlopen.
Langetermijngeheugen blijft beschikbaar voor toekomstige sessies. Het kan bijvoorbeeld voorkeuren, eerdere resultaten of relevante gegevens over een terugkerende taak bevatten. Hierdoor kan een agent zijn antwoorden en acties beter laten aansluiten op eerdere interacties. Google maakt in zijn documentatie eveneens onderscheid tussen tijdelijke informatie binnen een sessie en herinneringen die over meerdere sessies blijven bestaan.
Niet alle beschikbare informatie hoeft als herinnering te worden opgeslagen. Een goed ingericht systeem selecteert alleen gegevens die later echt nuttig kunnen zijn. Bij het uitvoeren van een nieuwe taak worden vervolgens de meest relevante herinneringen opgehaald. Dit voorkomt dat de context window wordt gevuld met grote hoeveelheden oude of onbelangrijke informatie.
AI memory veilig en bruikbaar inzetten
AI memory kan een agent persoonlijker en efficiënter maken. Een klantenserviceagent kan bijvoorbeeld onthouden welke producten een klant gebruikt, terwijl een interne assistent eerdere projectbesluiten kan meenemen in een nieuw antwoord. ChatGPT gebruikt geheugen op een vergelijkbare manier om relevante voorkeuren en context uit eerdere gesprekken opnieuw toe te passen. Gebruikers kunnen deze geheugenfunctie beheren of uitschakelen.
Opgeslagen informatie moet wel correct, actueel en noodzakelijk zijn. Een verkeerde herinnering kan toekomstige antwoorden beïnvloeden en zich daardoor langer in een proces blijven herhalen. Er bestaat ook een risico op memory poisoning. Daarbij wordt onjuiste of kwaadaardige informatie in het geheugen opgeslagen, waarna een agent deze later als betrouwbare context gebruikt. Google adviseert onder meer toegangscontrole, veiligheidstests en menselijke beoordeling bij acties met grotere gevolgen.
Bepaal daarom vooraf welke informatie mag worden onthouden, hoe lang deze wordt bewaard en wie de gegevens kan bekijken of verwijderen. Laat gevoelige informatie niet automatisch opslaan en bouw controles in voor herinneringen die belangrijke beslissingen kunnen beïnvloeden. AI memory is het nuttigst wanneer het systeem relevante context kan bewaren zonder onnodig veel persoonlijke of verouderde gegevens mee te nemen.
