Frykten er kjent: en robot som lover bort ting dere ikke kan holde. Løsningen er ikke å la være, men å bygge rekkverkene før agenten slipper til.
Ja, med tre rekkverk: agenten svarer bare fra deres egen godkjente kunnskap, den har avgrensede fullmakter, og kunden kan alltid nå et menneske. I tillegg skal kunden vite at det er en maskin som svarer.
En språkmodell uten rammer finner på svar når den mangler kunnskap, det kalles hallusinasjon. I kundeservice betyr det oppdiktede åpningstider, feilaktige garantivilkår eller løfter om refusjon dere aldri har gitt. Det er ikke et teoretisk problem, det finnes eksempler på selskaper som er holdt ansvarlige for det roboten deres lovte. Derfor er spørsmålet ikke om KI kan svare kunder, men hvordan den settes opp.
Agenten svarer fra deres egne dokumenter, priser og vilkår, ikke fra det den «tror». Mangler svaret i kunnskapsgrunnlaget, sier den det ærlig og sender videre i stedet for å gjette.
Agenten kan svare, veilede og hente status, men ikke gi rabatter, endre avtaler eller slette noe. Handlinger med konsekvens krever et menneske, akkurat som med en ny vikar første uken.
Kunden skal alltid kunne be om et menneske og faktisk få det. Agenten skal selv sende videre ved klager, følsomme saker eller når kunden er tydelig frustrert.
KI-forordningen krever at folk skal vite når de snakker med en maskin. Det er også god folkeskikk og god forretning: kunder aksepterer en robot som er ærlig om hva den er og rask til å hente et menneske, men tilgir sjelden en som later som. Les mer om det i svaret om merking av KI, og om personvernsiden i svaret om kundedata i språkmodeller.
Riktig bygget tar en kundeserviceagent unna de vanligste spørsmålene døgnet rundt, mens folkene deres tar de vanskelige. Det er slik vi bygger AI-agenter: koblet til deres egne data, med fullmakter dere selv setter, og med logg over alt agenten svarer. Rammene rundt, fra risikovurdering til kjøreregler, legger vi i AI-strategien.
Vi viser dere gjerne hvordan en trygg agent ser ut i praksis, med deres egne spørsmål og svar. Første samtale er uforpliktende.