AI-ordboken

Bias

Bias betyr skjevhet. En AI-modell arver mønstrene i dataene den er trent på, også de skjeve, og kan derfor behandle like tilfeller ulikt.

Hva er bias i AI?

AI-modeller lærer av eksempler. Er eksemplene skjeve, blir modellen skjev. Hvis et rekrutteringsverktøy trenes på ti år med ansettelser der nesten alle som ble ansatt lignet på hverandre, lærer verktøyet at slike kandidater er de riktige. Skjevheten ligger ikke i ond vilje, men i historikken.

Bias kan også være språklig og kulturell. Modeller som i hovedsak er trent på engelsk tekst, bommer oftere på norske forhold. De kan kjenne amerikanske regler bedre enn norske, og treffe dårligere på nynorsk og dialekt enn på bokmål.

Skjevhet kan aldri fjernes helt, men den kan måles og dempes: bredere treningsdata, testing på ulike grupper, og mennesker som kontrollerer beslutningene som betyr noe.

Hvorfor det betyr noe for en mindre bedrift

Bruker du AI i beslutninger som gjelder mennesker, slik som ansettelser, kreditt eller prising, er skjevhet både en juridisk risiko og en omdømmerisiko. AI Act stiller strenge krav nettopp til slik bruk. Den praktiske regelen er enkel: la AI foreslå, la mennesker avgjøre, og ta jevnlige stikkprøver av resultatene.

Relaterte begreper

Vil du bruke AI uten å trå feil?

Vi hjelper dere å sette opp AI-bruk med kontrollpunkter der det trengs, og uten unødig byråkrati der det ikke gjør det.

Avtal en prat