Hvem bærer ansvaret for chatbotens feil?

E24¹ og flere internasjonale medier² har skrevet om flypassasjeren Jake Moffatt som vant en rettssak mot Air Canada etter å ha kjempet for refusjon i flere måneder. Samme dag som Moffatts bestemor døde besøkte han Air Canadas nettsted og spurte chatboten deres om rabatterte flybilletter dersom et familiemedlem dør. Han ble fortalt at han kunne få refusjon i ettertid i form av en «reduced bereavement rate». Basert på denne forsikringen bestilte Moffatt fullprisbilletter, men da han senere ba om refusjon ble han nektet av selskapet, som hevdet at sørgebillettprisene ikke gjelder for fullførte reiser - noe som ble forklart på en annen del av nettsiden deres. Air Canada mente at han ikke burde ha stolt på chatboten og at selskapet ikke kan ansvarliggjøres for chatbotens handlinger i en slik sammenheng. Retten i Canada avgjorde imidlertid at selskapet var ansvarlig for all informasjon på nettsiden sin, inkludert chatboten. Moffatt ble tilkjent en refusjon på rundt 6331 norske kroner, og chatboten er nå fjernet fra Air Canadas nettsider.

Det norske forbrukervernet

Selv om det kun er et tidsspørsmål før slike saker oppstår i Norge, har vi foreløpig ingen tilsvarende praksis om feil gjort av chatboter. Det er likevel ikke utenkelig at vårt sterke forbrukervern ville ha ledet til liknende resultater. Eksempelvis har Norske forbrukervernregler krav om at selskaper må gi nøyaktig og pålitelig informasjon til forbrukerne. I tillegg krever markedsføringsregelverket at selskaper gir korrekt informasjon om produktene og tjenestene sine, inkludert eventuelle rabatter eller tilbud som tilbys. Hvis et selskap gir feilaktig informasjon, kan det være i strid med forbrukervernet og markedsføringsretten, og dermed kunne føre til at selskapet blir holdt ansvarlig for eventuelle tap eller skader som forbrukeren lider som følge av den feilaktige informasjonen.

Sammenliknbar praksis og relevante lovendringer

Et overførbart eksempel gjelder feilprising på nett. Netthandel er blitt svært populært og utgjør en stor del av omsetningen til store kjeder. Samtidig blir kundeservice og markedsføring, med bla. prising av produktene, i stadig høyere grad automatisert. Forbrukere blir lokket med gode tilbud på nettet, men noen ganger kan tilbudet virke for godt til å være sant. I slike tilfeller kan selgeren hevde at den annonserte prisen var feil, og nekte å selge varen til den prisen, men som kjøper har du jo rett på å få varen til den annonserte prisen, selv om den er feil. Unntaket er når selgeren, eller chatboten, har gjort en skrivefeil i tilbudet, og kjøperen innså eller burde ha innsett at det var en feil. For å vurdere om kjøperen var i god tro, vektlegges prisen ved kjøpstidspunktet, prisdifferansen, om varen var oppført som en tilbudsvare, og kjøperens kunnskaper om produktet og markedspris. I en sak fra 2018 fastslo Forbrukerklageutvalget at Elkjøp hadde rett til å kansellere ordren og tilbakebetale pengene til kundene som kjøpte Macbook Air til en feilpris, da kundene burde ha forstått at det var en feilprising.³

Det andre eksempelet knytter seg til selgers adgang til å ta forbehold. Selgere tar ofte generelle forbehold i sine standardiserte kjøpsvilkår om at informasjon og særlig priser kan være feil. Forbrukertvistutvalget har fastslått at det ikke er lov å ta slike generelle forbehold, særlig dersom det gjelder prisen eller andre vesentlige deler av kjøpsavtalen. Standardiserte forbehold i salgsbetingelsene kan ikke medføre at selger ensidig kan endre innholdet av avtalen på et så vesentlig punkt som prisen. Forbrukertvistutvalget har bla. uttalt at selv korrigering av prisen kort tid etter bestillingen, og før varen er levert, heller ikke er tilstrekkelig til å hindre at avtalen er bindende med sitt opprinnelige innhold. Prisen er så sentral i enhver kjøpsavtale at forbrukeren må kunne stole på at den annonserte prisen er riktig.⁴

I denne sammenheng kan det vises til lovendringen som knytter seg til adgangen til å ta generelle forbehold på området for forbrukerkjøp. Med virkning fra 1. januar 2024 er det ikke lenger tillatt å selge en vare "som den er", eller å ta generelle forbehold om varens egenskaper. Forbrukerkjøpsloven stiller visse krav til varens egenskaper, hvis ikke annet er avtalt. For eksempel må tingen være egnet til de formålene som tilsvarende ting vanligvis brukes til. Etter lovendringen må selger eksplisitt informere forbrukeren om at en bestemt egenskap ved tingen vil avvike fra loven, og forbrukeren må uttrykkelig og særskilt godta dette avviket ved avtaleinngåelsen. Endringene anses for å gjennomføre EU direktiv om forbrukerkjøp 2019/771.

Overføringsverdi

Avgjørelsen fra Canada viser at selv om chatbots og andre AI-verktøy er nyttige for å automatisere kundeservice og annen informasjonsformidling, er det viktig å huske på at selskapene fortsatt har ansvar for nøyaktigheten og påliteligheten av informasjonen som blir gitt. Hvis kunden blir gitt feilaktig informasjon, er det ikke gitt at selskapet kan fraskrive seg all ansvar fordi det ble gitt av en chatbot som de ikke vil identifisere seg med. Dette gjelder særlig om informasjonen knytter seg til en betydningsfull del av en kjøpsavtale. Avgjørelsen understreker også viktigheten av å sjekke informasjonen som gis av chatbots og andre AI-verktøy, spesielt når det gjelder beslutninger av en viss betydning for forbrukeren.

Relevante lover

Vi nevner i denne artikkelen noen aktuelle lover som kan ha betydning for ansvarsfordelingen ved chatbotfeil.

For det første kan markedsføringsloven fremheves. Loven krever bla. at all markedsføring skal være sannferdig, ikke villedende eller urimelig. For det andre nevnes forbrukerkjøpslovens regler om kjøp av varer og tjenester av forbrukere, som deriblant krever at selgeren gir nøyaktig og pålitelig informasjon om produktene og tjenestene som tilbys. Videre nevnes også e-handelslovens regulering av elektronisk handel. Loven krever at selgeren gir klare og tydelige opplysninger om priser, betalingsmetoder, leveringsbetingelser og eventuelle gebyrer. Det kan dessuten tenkes at produktansvarsloven kan få relevans for skader som skyldes defekte produkter/chatboter. Loven gjelder for alle som produserer, importerer eller selger produkter i Norge, og pålegger produsentene et objektivt ansvar for skade som skyldes feil eller mangler ved produktene (sikkerhetsmangler). Dette betyr at produsentene er ansvarlige uavhengig av skyld, og uavhengig av om de har opptrådt uaktsomt eller ikke. Ikke minst vil avtalelovens regler ha betydning for når en avtale er bindende og når den kan settes til side. Vi viser særlig til bestemmelsene om avtalers gyldighet.

Til slutt fremhever vi den foreslåtte EU AI Act, som er en del av EUs digitale strategi. Den 8. desember 2023 kunngjorde EU-parlamentet at det er oppnådd foreløpig politisk enighet om EUs AI Act. Formålet med EU AI Act («KI-forordningen» på norsk) er å legge til rette for trygg, tillitsvekkende og etisk bruk av kunstig intelligens, samtidig som reglene skal fremme innovasjon og konkurranseevne i EU. Den nye forordningen skal for første gang gi en omfattende juridisk ramme for utvikling og bruk av kunstig intelligens.

Det er forventet at forordningen vil bli formelt godkjent før Europaparlamentsvalget i juni 2024. Regelverket vil begynne å gjelde to år etter at den trer i kraft, sannsynligvis i midten av 2026. Enkelte av kravene vil imidlertid trå i kraft ett år før dette. Lovforslaget er fortsatt i utviklingsfasen og noen av bestemmelsene kan derfor bli endret eller justert før loven blir vedtatt.

Vi har tidligere skrevet mer om hva du må vite og hvordan du kan forberede deg på KI-forordningen her.

Det er viktig å merke seg at relevansen av den overnevnte lovgivningen kan variere avhengig av omstendighetene i hver enkelt sak, og at andre lover og forskrifter dermed også vil kunne ha betydning.

¹Må betale etter at chatbot fant på regler – E24
²Air Canada found liable for chatbot's bad advice on plane tickets | CBC News
Airline held liable for its chatbot giving passenger bad advice - what this means for travellers - BBC Travel
³Forbrukerklageutvalget, FKU-2018-714
⁴Forbrukertvistutvalget, FTU-2011-688