Bias
Wat is bias in AI?
Bias betekent vooringenomenheid of vertekening. Binnen kunstmatige intelligentie gaat het om terugkerende patronen waardoor een AI-model bepaalde uitkomsten vaker kiest of sommige groepen anders behandelt. Een model kan bijvoorbeeld sollicitanten met een bepaalde achtergrond onterecht lager beoordelen of bij beeldherkenning minder goed presteren voor specifieke huidskleuren.
Niet ieder verschil in een AI-uitkomst is automatisch bias. De term wordt vooral gebruikt wanneer de afwijking systematisch ontstaat en leidt tot onbetrouwbare, onvolledige of oneerlijke resultaten. Bias kan zichtbaar worden in een antwoord van een taalmodel, maar ook in classificaties, voorspellingen en automatische beslissingen.
Hoe ontstaat bias?
Bias kan al aanwezig zijn in de training data. Wanneer bepaalde groepen, situaties of perspectieven onvoldoende voorkomen, leert het model een eenzijdig beeld van de werkelijkheid. Ook historische gegevens kunnen bestaande ongelijkheid bevatten. Een AI-model dat op deze gegevens wordt getraind, kan zulke patronen overnemen en opnieuw toepassen.
De keuzes tijdens het ontwikkelen van het model spelen eveneens een rol. Ontwikkelaars bepalen welke gegevens worden gebruikt, welke kenmerken belangrijk zijn en hoe de kwaliteit van een uitkomst wordt gemeten. Daarnaast kan de prompt invloed hebben op het antwoord. Een sturende of onvolledige vraag kan ervoor zorgen dat het model een onderwerp vanuit een beperkte invalshoek behandelt.
Bias herkennen en beperken
Bias is niet altijd direct zichtbaar. Een AI-systeem kan gemiddeld goed presteren, terwijl de resultaten voor een bepaalde groep duidelijk slechter zijn. Test een model daarom met verschillende situaties, formuleringen en gebruikersgroepen. Kijk niet alleen naar de algemene nauwkeurigheid, maar ook naar terugkerende verschillen tussen de uitkomsten.
Een gevarieerde en zorgvuldig gecontroleerde dataset kan bias helpen beperken. Ook menselijke beoordeling, duidelijke richtlijnen en regelmatig testen zijn belangrijk. Leg vast welke gegevens en criteria worden gebruikt, zodat beslissingen achteraf beter te onderzoeken zijn. Bij toepassingen met grote gevolgen, zoals selectieprocedures, kredietbeoordeling of medische ondersteuning, blijft human-in-the-loop noodzakelijk.
Bias is niet altijd volledig te voorkomen. Menselijke taal, historische gegevens en maatschappelijke normen bevatten zelf ook vertekeningen. Het doel is daarom om risico’s vroeg te herkennen, gevolgen te beperken en transparant te zijn over de beperkingen van het AI-systeem.
