Hva er hallusinasjon?
En hallusinasjon er et svar fra en KI-modell som høres troverdig ut, men som er feil eller rent oppdiktet. Modellen kan finne på kilder, tall, navn og lovhenvisninger, og den varsler ikke når den gjør det. Svaret kommer i samme selvsikre tone som når den har rett.
Årsaken ligger i hvordan språkmodeller virker. De skriver ved å forutsi neste ord ut fra mønstre i treningsmaterialet, ikke ved å slå opp i en fasit. Når modellen mangler kunnskap om noe, fyller den hullet med det som ligner mest på et riktig svar.
Nyere modeller hallusinerer mindre enn de første gjorde, og teknikker som kobler modellen til dokumenterte kilder hjelper mye. Men risikoen forsvinner ikke helt, og den må håndteres, ikke ignoreres.
Et hverdagseksempel
En HR-ansvarlig i en produksjonsbedrift ber en KI-assistent om reglene for gjennomsnittsberegning av arbeidstid. Svaret kommer velformulert, med paragrafhenvisning. Men paragrafen finnes ikke, og innholdet er delvis feil. Hadde svaret gått rett inn i en personalhåndbok, hadde bedriften hatt et problem. I stedet sjekker hun henvisningen mot Lovdata, oppdager feilen og bruker to minutter på å rette den.
Hvorfor det betyr noe for en mindre bedrift
Hallusinasjoner er ikke en grunn til å la være å bruke KI. De er en grunn til å bruke KI med riktige rutiner. Skillet går mellom oppgaver der feil er billige og oppgaver der feil er dyre. Et internt utkast tåler en glipp. Et svar til kunde, et tilbud eller noe juridisk gjør det ikke.