Nyhetsblink: Banker advarer mot KI-handel uten kontroll

KI-agenter er på vei fra produktjakt til å kunne velge og betale varer på kundens vegne. Tirsdag 22. september advarte NatWest, Bank of America, ING, ASB Bank, Capital One og Commonwealth Bank of Australia om at utviklingen går raskere enn standarder og forbrukervern.

Bankene peker særlig på agenter som ber om kortopplysninger, legger dem direkte inn på nettsteder eller styrer kunden mot betalingsmåter med svakere beskyttelse. Feilkjøp, for høyt forbruk, svindel og uklart ansvar dersom noe går galt er blant risikoene.

Dette bør nettbutikken avklare

Bankene foreslår blant annet at det skal fremgå når en KI-agent deltar i handelen, at beslutningene blir mer gjennomsiktige, og at kundedata får tydelige vern. Forslagene er prinsipper til videre dialog med myndigheter – ikke vedtatte norske krav.

For en liten nettbutikk er det likevel et praktisk signal: Logg om ordren kommer fra en agent, krev menneskelig godkjenning før store eller uvanlige kjøp, og test hvordan refusjon, reklamasjon og tilbakeføring fungerer når en maskin har initiert betalingen. Begrens samtidig hvilke kunde- og betalingsdata agenten får tilgang til.

EU-kommisjonens studie om KI-baserte kontrakter peker på den samme usikkerheten: autonome systemer kan skape utilsiktede avtaler, og det kan være uklart hvem som bærer ansvaret.

Kort fortalt

KI-handel kan gi nettbutikker nye kunder og mindre friksjon, men bør ikke slippes direkte inn i betaling og ordrebehandling uten sporbarhet, beløpsgrenser og menneskelig kontroll. Saken er en veiviser til kildene, ikke juridisk eller finansiell rådgivning.

Kilder

Hovedkilde: Reuters – banker advarer om risiko ved KI-agenter i netthandel.

Tilleggskilde: EU-kommisjonen – innovative teknologier og data i kontrakter.