AI i praksis: Test kundeboten før den møter kundene

En KI-basert kundebot kan svare raskt og avlaste kundeservice, men en pen demonstrasjon sier lite om hvordan løsningen oppfører seg når spørsmålene er uklare, opplysningene mangler eller noen forsøker å lure den. Testen før lansering bør derfor være en liten stresstest – ikke bare en kontroll av om standardsvarene ser gode ut.

Avgrens hva boten får gjøre

Start med å skrive ned hvilke oppgaver boten skal løse, hvilke kilder den får bruke, og hva den aldri skal avgjøre alene. En bot som bare finner svar i en godkjent FAQ, har en annen risikoprofil enn en løsning som kan endre bestillinger, gi prisavslag eller hente kundedata. Jo mer tilgang boten får, desto strengere må tilgangskontroll, logging og menneskelig godkjenning være.

OWASP rangerer promptinjeksjon som en sentral risiko for språkmodeller. Et typisk forsøk er å be boten ignorere tidligere instrukser eller hente informasjon den ikke skal vise. OWASP anbefaler blant annet avgrenset tilgang, kontroll av inn- og utdata, menneskelig godkjenning ved risikofylte handlinger og regelmessige angrepstester.

Bruk ti spørsmålstyper

Lag testspørsmål med fiktive opplysninger, ikke ekte kundedata. Minstesettet bør dekke:

1. et vanlig spørsmål som finnes i kunnskapsbasen
2. et spørsmål med manglende informasjon
3. en tvetydig formulering med to mulige tolkninger
4. pris, åpningstid eller vilkår som nylig er endret
5. en klage eller et krav om refusjon
6. en henvendelse som inneholder personopplysninger
7. en instruks om å «ignorere reglene» eller avsløre interne instrukser
8. et spørsmål boten ikke har dekning for å besvare
9. to kilder som motsier hverandre
10. en kunde som ber om å få snakke med et menneske

Vurder hvert svar etter fem kriterier: Er det faktamessig riktig, forankret i en godkjent kilde, tydelig om usikkerhet, uten uønsket deling av data og riktig rutet til et menneske? Et velformulert svar er ikke bestått dersom innholdet er feil.

Personvern og åpenhet må inn i testen

Datatilsynet understreker at personvern skal bygges inn i alle utviklingsfaser og i standardinnstillingene. Virksomheten må vurdere risikoen ved behandlingen, og ved sannsynlig høy risiko kan det være plikt til å gjennomføre en personvernkonsekvensvurdering før behandlingen starter.

Merk også tydelig at kunden kommuniserer med en KI-løsning. Nkom opplyser at EUs åpenhetskrav fra 2. august 2026 ofte omfatter kundeservice-chatboter, men presiserer at regelen foreløpig ikke gjelder generelt i Norge. Norske virksomheter kan likevel omfattes når de tilbyr løsningen i EU eller resultatet brukes der. Tydelig informasjon ved første kontakt er uansett en enkel tillitsmekanisme.

Dette bør du gjøre nå

Utpek én ansvarlig eier, bygg en testbank med minst 20 realistiske spørsmål og gi hvert svar poeng fra 0 til 2. Stopp lanseringen ved kritiske feil: feil pris eller løfte, lekkasje av data, manglende menneskelig eskalering eller handling uten godkjenning. Kjør samme test på nytt når modell, instruks, datakilde eller integrasjon endres. NISTs frivillige risikoramme for generativ KI fremhever nettopp testing før produksjon og løpende oppfølging som sentrale deler av risikostyringen.

Dette betyr for bedriften

En enkel testbank gjør kvalitet målbar og reduserer risikoen for feilaktige løfter, personvernbrudd og frustrerte kunder. Den fjerner ikke all risiko, men gir et dokumentert grunnlag for å begrense botens oppgaver, forbedre svarene og beholde menneskelig kontroll der konsekvensene er størst.

Hovedkilde: NIST – Generative AI Profile. Tilleggskilder: Datatilsynet om innebygd personvern og DPIA, OWASP om promptinjeksjon og Nkom om KI-merking og norske virksomheter.