Kunstig intelligens i Brønnøysundregistrene

Brønnøysundregistrene har som en av fire strategiske ambisjoner å «utforske og på en forsvarlig måte utnytte mulighetene kunstig intelligens gir.» Dette skal bidra til å oppfylle samfunnsoppdraget vårt, som er å “bidra til økt verdiskaping gjennom å forvalte registerdata på en trygg og oversiktlig måte, for å skape tillit og fornyelse av samfunnet.”

Kunstig intelligens er et område innenfor informasjonsteknologi som utvikler seg raskt.

Som offentlig etat er vi avhengig av at brukerne våre har høy tillit til tjenestene vi leverer. Det er derfor avgjørende å sikre at bruken av KI er lovlig, rettferdig og ansvarlig. Dette må vi aktivt følge opp og legge til grunn når vi vurderer hvordan vi skal bruke KI på en ansvarlig og transparent måte.

I Nasjonal strategi for kunstig intelligens peker regjeringen på at KI som blir utviklet og brukt i Norge skal bygge på etiske prinsipper, og respektere menneskerettighetene og demokratiet. Dette er også en reaksjon på et globalt fokus på etikkens rolle i KI, som blant annet også er fremhevet av OECD, FN og EU. Basert på dette, samt BRs egne verdier, har vi kommet frem til fem grunnleggende etiske prinsipper for utvikling og bruk av KI, som skal gi overordnede føringer for det som på sikt skal bli et helhetlig rammeverk for KI.

De fem grunnleggende etiske prinsippene er

• ansvarlighet
• åpenhet
• rettferdighet
• sikkerhet
• personvern

Formålet med policyen er å sørge for at alle som skal bruke KI-systemer i Brønnøysundregistrene gjør det på en lovlig og ansvarsfull måte.

Brønnøysundregistrene skal kunne utnytte potensialet i KI, uten at det skal gå på bekostning av den høye tilliten samfunnet har til oss. Derfor må alle ansatte opparbeide kompetanse i hva KI er, hvilke risikoer det medfører, og hvordan vi kan hente ut gevinst.

For å kunne ivareta formålet vil policyen oppdateres jevnlig i takt med teknologiutviklingen.

Denne policyen gjelder for alle i Brønnøysundregistrene som skal ta i bruk digitale verktøy med KI. Dette omfatter både ansatte og personer som er innleid eller utfører tjenester for oss. Som ansatt eller engasjert av Brønnøysundregistrene, må du gjennomgå denne policyen før du tar i bruk KI.

Policyen inneholder korte og konkrete retningslinjer som alle må forholde seg til. I tillegg er det utarbeidet egne retningslinjer for de som skal bruke KI til systemutvikling, og de som bruker KI i kommunikasjonssammenheng.

Per dags dato finnes det ikke et norsk lovverk som spesifikt regulerer verken bruk eller utvikling av KI. EU har imidlertid vedtatt AI Act (KI-forordningen), som kommer til å bli en del av norsk lov på sikt.

AI Act er en produktsikkerhetslov, som regulerer utviklingen av KI-systemer og integreringen av systemene inn i virksomheter.

Som offentlig etat er vi også bundet av annet lovverk, som er relevant når det gjelder bruk av KI, blant annet

• forvaltningsloven når det gjelder saksbehandling
• offentlighetsloven når det gjelder innsyn
• arkivlova for arkivering av offentlig informasjon
• personopplysningloven når det gjelder vern av personlige opplysninger

Det er viktig å huske at bruk av KI forutsetter at det norske regelverket blir fulgt, og at bruk av KI kan føre til større risiko innenfor noen lovområder, som personvern.

Algoritme

Algoritme et sett av trinnvise instruksjoner i en bestemt rekkefølge som er lagd for å oppnå noe.

Maskinlæring

Maskinlæring bruker matematiske og statistiske metoder for å lage algoritmer som er basert på analyse av data. Treningen av et system kan skje i veiledet læring, ikke-veiledet læring eller forsterket læring.

Kunstig intelligens

Kunstig intelligenshar flere ulike definisjoner, både vide og smalere. Felles for definisjonene er at det dreier seg om teknologi som er i stand til å systematisere og tolke data, for så å ta beslutninger og lære av erfaringene.

Det kan skilles mellom en KI-modell og et KI-system.

• En KI-modell er en matematisk eller algoritmisk struktur trenet på data for å løse spesifikke oppgaver.
• Et KI-systemer en komplett pakke. Den kan inneholde en eller flere KI-modeller, samt programvare for å implementere og bruke modellene i praksis, for eksempel en app. En KI modell er en del av et KI-system.

KI-verktøy

KI-verktøyet er et ferdig KI-system som tilbys på markedet og er laget av en leverandør.

Tradisjonell KI

Tradisjonell KI er basert på regler og logikk, og er avhengig av menneskelig definerte regler og programmering. Det er ofte fokusert på oppgaver som klassifisering, beslutningstaking og problemløsning.

Generativ KI

Generativ KI refererer til systemer som kan generere, eller skape, nytt innhold basert på eksisterende informasjon. Den er i stand til å generere tekst, bilder, musikk eller annen type innhold. ChatGPT er et eksempel på et generativt KI-system som kan generere tekst, men det finnes også eksempler på systemer som kan generere bilder og lyd som DALL-E og web tjenesten Suno.

KI-bruker

KI-bruker er en person som bruker (ferdigtrente) KI-tjenester til å løse en oppgave. KI-brukeren må sette seg inn i hvordan KI-systemet fungerer, og hvordan resultatet kan brukes.

KI-utvikler

KI-utvikler er en person som utvikler og trener nye KI-modeller til å løse en oppgave. Den som utvikler KI må forholde seg til flere faktorer som datakvalitet, datamengde, treffsikkerhet ved prediksjoner og liknende. Utviklere av KI har ansvar for at modellen er utviklet i henhold til de etiske prinsippene og lovkrav.

Språkmodell

Språkmodell er et dataprogram som har lært mønstre i tekst og derfor kan forstå og skape språk. Den foreslår rett og slett det mest sannsynlige svaret basert på alt den har lært.

Chatbot

Chatbot er en tjeneste som lar deg snakke med en språkmodell i et vanlig chattevindu. Den bruker språkmodellen til å svare på spørsmål og hjelpe deg med oppgaver.

Godkjente KI-verktøy

Godkjente KI-verktøy kan man dele åpen, intern og sensitiv informasjon med. Dette krever vurderinger av sikkerhet og personvern gjort internt på Brønnøysundregistrene. Eksempler på slike godkjente verktøy er Copilot Chat, Copilot M365 og Copilot Studio.

Ikke-godkjente KI-verktøy

Ikke-godkjente KI-verktøy kan man kun dele åpen informasjon med. Disse verktøyene er enten vurdert som ikke sikre nok til å bruke intern og sensitiv informasjon, eller har ikke blitt vurdert enda.

Med «dele» eller «overføre» mener vi alle måter du kan legge inn informasjon i løsninger med KI, som å kopiere tekst og lime inn i løsningen, laste opp dokumenter, lage koblinger mellom KI-verktøy osv.

6.1. Ansvarlighet

Bruk av KI skaper nye former for deling av data og nye risikoer for hvordan vi utfører jobbene våre. Det er vi som ansatte som er ansvarlig for det KI skaper og gjør. Det er derfor viktig å ha et kritisk blikk på resultatene KI gir, og faktasjekke resultater som virker tvilsomme. Utgangspunktet er at KI kun skal brukes som støtte, og vi skal ta den endelige avgjørelsen.

Husk også at hvis KI blir brukt som en del av grunnlaget for en beslutning i en sak, kan samhandlingsloggen med KI regnes som et internt dokument som andre kan be om innsyn i. Uansvarlig bruk av KI kan derfor bli offentlig kjent. Som offentlig etat har vi et stort ansvar for å opprettholde gode sikkerhetsrutiner.

Kravene som stilles til ansvarlighet varierer avhengig av hvilken rolle du har. Det stilles strengere krav til en utvikler, enn til en bruker, av KI. Samtidig har vi retningslinjer for bruk av KI i systemutvikling og kommunikasjonsarbeid, som stiller spesifikke krav innenfor disse områdene. Dersom Brønnøysundregistrene tilbyr egne interne KI-verktøy, skal brukerne få opplæring før de tar dem i bruk.

6.2. Åpenhet

Vi skal gi brukerne og ansatte trygghet og tillit gjennom å være åpne om hvordan vi bruker KI, som kan være en fremmed teknologi for mange. Det gir oss et ansvar for å opplyse og forklare hvilke konsekvenser det får for den enkelte.
Dersom vi tar i bruk KI direkte i kommunikasjonen vår med registerbrukere, for eksempel i veiledningstjenester, vil åpenhetskravene i forvaltningsretten og personvernregelverket gjelde. Det er spesielt viktig å legge til rette for at brukerne forstår at de kommuniserer med teknologi basert på KI. Dette er nødvendig for at mottaker skal kunne ivareta sine egne rettigheter, og for å kunne utfordre en avgjørelse. Dette gjelder også KI-systemer som blir brukt for å forbedre kvaliteten på registrene våre, for eksempel til å avdekke kriminalitet. Brønnøysundregistrene skal ikke ta i bruk KI-systemer til formål som kan påvirke brukernes rettigheter, uten at vi selv har innsikt i hvordan systemene kommer frem til beslutninger.

Åpenhet handler også om at vi som er ansatte ved Brønnøysundregistrene skal forstå hvordan KI-verktøyene vi bruker fungerer. KI-utviklere som utvikler systemer for Brønnøysundregistrene skal ha nok kunnskap om løsningene til å kunne forklare hvordan de fungerer og hva som ligger til grunn for resultatene de produserer.

6.3. Rettferdighet

For at vi skal kunne bruke KI på en rettferdig måte, i tråd med verdiene våre, er det viktig at vi er klar over de ulike risikoene som KI-systemene gir. Det er for eksempel viktig å være klar over at generative språkmodeller, som ChatGPT, kan komme med forutinntatte eller diskriminerende utsagn i tillegg til påstander som ikke stemmer.

Det er viktig å huske at KI-systemer ikke har menneskelige egenskaper som moral, fornuft og logisk vurderingsevne. De klarer derfor verken å tenke, reflektere eller vise empati – selv om det virker sånn. Dette påvirker kvaliteten på svarene KI produserer. Generative språkmodeller er sannsynlighetsmodeller, som betyr at hvert ord svarene inneholder, er basert på sannsynlighet og ikke fakta. Dersom KI ikke vet svaret på spørsmålet, vil den produsere et svar uansett, selv om det ikke stemmer.

For å minimere risikoene er det viktig med menneskelig kontroll og vurderinger av svarene KI gir. Det er spesielt viktig der KI blir brukt som del av oppgaveløsningen og der det kan få direkte konsekvenser for både fysiske og juridiske personers rettsstilling. Menneskelig oppfølgning og kontroll kan bidra til å sikre at et KI-system ikke undergraver menneskers autonomi eller forårsaker andre uforutsette negative virkninger.

6.4. Sikkerhet

Introduksjon av KI kan forsterke eksisterende sikkerhetsrisikoer, eller skape nye risikoer. Når vi bruker KI skal både sikkerhetsinstruksen, styringssystemet for sikkerhet og underliggende dokumentasjon knyttet til bruk av KI følges.

Dersom et KI-verktøy skal bli brukt til annet enn åpen data, må det gjennomføres nødvendige vurderinger. Dette omfatter blant annet teknisk arkitektur, dataflyt, tilgangsstyring, logging og sikkerhetsmekanismer. KI-verktøy skal være tilstrekkelig sikret for å hindre at uvedkommende får tilgang til våre data.

Flere av de godkjente KI-verktøyene er tilgangsstyrt, som gjør at ikke alle har tilgang til dem. Dette er et bevisst valg – alle ansatte skal ikke ha tilgang til alle godkjente KI-verktøy. Det er kun de som har påvist et behov, og som har fulgt nødvendig opplæring som får tilgang.

6.5. Personvern

Selv om åpenhet er et forvaltningsrettslig prinsipp, har alle mennesker rett til privatliv. Vi må sikre at personvern ivaretas når vi bruker KI.

Personopplysninger er alle opplysninger som kan knyttes til en fysisk person direkte eller indirekte. Dette kan inkludere blant annet navn, adresse, telefonnummer, e-post og fødselsnummer. Samtidig vil det også omfatte informasjon fra ulike kilder som alene ikke er nok til å identifisere en person, men som samlet sett er tilstrekkelig.

Vi har ikke lov til å dele personopplysninger uten særskilt hjemmel i lov. Personopplysninger kan deles i godkjente KI-verktøy, da vi har tilstrekkelige sikkerhetsgarantier om at informasjonen holder seg innenfor Brønnøysundregistrenes område.

Særlige kategorier av personopplysninger (sensitive personopplysninger) skal ikke brukes i noen KI-verktøy. Dette gjelder blant annet opplysninger om helse, fagforeningsmedlemskap, religion og etnisitet. Å inkludere særlige kategorier av personopplysninger i slike prosesser medfører økt risiko for at det skapes nye kombinasjoner av personopplysninger.

Samtidig har vi personopplysninger som anses som sensitiv informasjon i registre, som konkurs- eller utleggsopplysninger. Disse skal heller ikke deles med KI verktøy.

7.1. Hva kan vi dele og overføre til kunstig intelligens

KI-systemer lærer av data som tilføres. I generative KI-verktøy, som ChatGPT, vil alle spørsmål og instrukser gå inn som læringsdata for å kunne forbedre tjenesten. Dette innebærer at opplysninger som skrives inn i slike språkmodeller kan bli tilgjengelig for andre brukere av tjenesten, også utenfor vår virksomhet. Vi skal derfor ikke dele eller overføre informasjon som er, eller kan være, intern eller sensitiv til et KI-system som ikke er godkjent til intern bruk.

Interne opplysninger kan være regnskapstall, budsjett, notater eller referater fra møter, presentasjoner, avtaler osv. eller informasjon som gjelder andre, som brukere, samarbeidspartnere, osv. Det avgjørende er om den informasjonen som deles er informasjon vi ellers ikke ville ha delt med andre som vi ikke vet hvem er.

Sensitiv informasjon kan være sensitiv enten fordi det er informasjon som vi ikke ønsker andre skal få vite om vår virksomhet, eller det kan være informasjon som vi er forpliktet til å holde hemmelig etter lov. Regelverket for taushetsplikt skal sikre at slik informasjon ikke havner hos uvedkommende. Vi bør generelt utvise stor varsomhet ved bruk av gradert informasjon som input til KI-modeller. Deling av informasjon i slike KI-systemer kan også være irreversibelt. Dette kan påvirke rettigheter borgere har etter personopplysningloven, som retten til å få slettet personinformasjon. Retten til innsyn i hvilke data som er hentet inn og brukt kan også bli krenket, dersom vi ikke har kontroll på hvordan persondataen blir behandlet i KI-systemet.

Vi legger til grunn et forsiktighetsprinsipp: Er det tvil om informasjon er intern eller sensitiv, eller inneholder personopplysninger, deler vi ikke dette i ikke-godkjente KI-verktøy.

7.2. Bruk av resultater fra kunstig intelligens

KI som er basert på språkmodeller er trenet på store datamengder som ikke nødvendigvis er kvalitetssikret eller verifisert. Dette betyr at resultater fra bruk av KI-systemer kan være unøyaktig og enkelte ganger feil. Det er derfor viktig å være kritisk til resultatene og verifisere disse så langt det lar seg gjøre.
Dette er spesielt viktig å være klar over dersom KI blir brukt som hjelpemiddel til å fatte et vedtak som får konsekvenser for en person. KI skal ikke erstatte menneskelige vurderinger og beslutninger som lovverket krever.

Siden algoritmene til KI er trenet på eksternt materiale, kan resultatet du får være et brudd på opphavsrettighetene til andre. Dette kan gjelde tekst, bilder, lyder/musikk, filmer osv. Resultatet ved bruk av KI bør derfor ikke offentliggjøres uten at du er trygg på at det ikke krenker andres rettigheter. Resultater som er laget med KI, skal merkes tydelig. For eksempel skal du merke en tekst generert av KI med «denne teksten er laget med hjelp av KI». Du bør også nevne hvilket KI-verktøy du brukte.