Økende risiko og rettsliggjøring
I takt med den teknologiske utviklingen øker også det digitale trusselbildet, noe som stiller høyere krav til digital sikkerhet. Kunstig intelligens (KI) spiller en stadig større rolle i mange virksomheters IT-systemer, og mens disse teknologiene kan effektivisere og forbedre mange prosesser, introduserer de også nye sårbarheter. Disse sårbarhetene kan utnyttes av cyberkriminelle, noe som både skaper forretningsmessige og regulatoriske risikoer.
Cybersikkerhetsområdet er i økende grad rettsliggjort, både gjennom personvernreglene, sektorspesifikke tiltak og sektorovergripende regler. Nye og strengere lover og regler blir implementert for å håndtere de økende truslene. I tillegg er det en økende bevissthet rundt dette i verdikjeder og kontrakter. Konsekvensene av sikkerhetsbrudd blir høyere når kritiske systemer er avhengig av cybersikkerhet. Samtidig øker kravene til cybersikkerhet, både med tanke på hva som er bransjepraksis og regulatoriske krav.
I Norge er Digitalsikkerhetsloven allerede vedtatt og vil tre i kraft innen 2024/2025. Denne loven stiller strenge sikkerhetskrav til virksomheter innenfor visse sektorer, og flere vil følge etter når NIS 2-direktivet implementeres. Disse regelverkene er en del av et større europeisk skifte, hvor også personvernlovgivningen, som GDPR, spiller en kritisk rolle.
De nye reguleringene krever at virksomheter ikke bare må være proaktive i sin håndtering av cybersikkerhet, men også må kunne dokumentere og kontinuerlig oppdatere sine sikkerhetstiltak. Dette inkluderer alt fra risikovurderinger og sikkerhetsoppdateringer, til internkontrollsystemer som detaljert beskriver sikkerhetstiltakene som er på plass. Også virksomheter som ikke direkte er omfattet av slike regelverk berøres, eksempelvis vil leverandører til omfattede virksomheter indirekte kunne få tilsvarende krav til sine leveranser.
KI-systemer gir store fordeler for norske virksomheter, men introduserer også nye sårbarheter som krever grundige vurderinger og hensiktsmessig håndtering. I denne artikkelen vil vi utforske hvordan KI kan skape sårbarheter i IT-systemer og hvilke tiltak som kan implementeres for å motvirke disse risikoene, i lys av det økende juridiske presset og de strenge kravene til cybersikkerhet.
EUs kommende KI-forordning (også kjent som AI Act) vil på sikt også innføres i Norge, og denne kan også legge føringer for norske virksomheters bruk av KI i noen situasjoner. AI-Act er imidlertid ikke tema for denne artikkelen.
KI-systemer kan bidra til å skape sårbarheter i IT-systemer
Kunstig intelligens (KI) fases i disse dager inn som en integrert del av flere virksomhetrer IT-systemer. KI benyttes til å automatisere komplekse oppgaver, optimalisere ytelse og som grunnlag for beslutningstaking. Økt avhengighet av KI introduserer også nye sårbarheter som kan bidra til å kompromittere disse systemene. Sårbarhetene kan oppstå på basis av KI-algoritmenes iboende kompleksitet, dataene de behandler og trenes på, og måten KI integreres med eksisterende it-systemer. Nedenfor drøfter vi noen områder hvor KI i seg selv kan skape sårbarheter i en virksomhets IT-infrastrukturer.
Datamanipulasjon og forgiftningsangrep
KI-systemer, og da særlig de som er drevet av maskinlæring (ML), er avhengige av store datasett for trening og kontinuerlig forbedring. Kompromitteres disse datasettene så kan dette føre til betydelige sårbarheter. En angriper kan ved å manipulere treningsdataene og gi systemet feil eller unøyaktig informasjon (input), som igjen fører til at de svarene som systemet gir er feil. Dette er kjent som et dataforgiftningsangrep. For eksempel, i en cybersikkerhetskontekst, kan et KI-system som er designet for å oppdage innbrudd trenes med forfalskede data, slik at det feiltolker eller ignorerer visse typer trusler.
Utnyttelse av modeller og inferensangrep
KI-modeller kan bli omvendt konstruert eller utnyttet av angripere for å hente ut sensitiv informasjon. Et vanlig angrep på dette området er et modellinversjonsangrep, der en angriper bruker utdataene fra et KI-system til å rekonstruere inngangsdataene. På denne måten kan konfidensiell informasjon som personligopplysninger, bedriftshemmeligheter eller andre sensitive opplysninger rekonstrueres..
Adversarial-angrep
En av de mer tekniske utfordringene er KI-systemetens sårbarhet for såkalte adversarial-angrep. Dette er angrep som kan lede KI-modellen til gjør feil gjennom å gi systemet modifisert input. For eksempel kan et bildegjenkjenningssystem bli lurt til å klassifisere et objekt feil, ved at en angriper introduserer små, subtile endringer i bildet – endringer som ikke nødvendigvis er synlige for mennesker, men som kan forvirre KI-modellen. Denne svakheten kan eksempelvis utnyttes til å omgå sikkerhetssystemer som er avhengige av KI-basert ansiktsgjenkjenning eller andre former for automatisert klassifisering.
Skjevhet og utilsiktet diskriminering
KI-systemer kan også skape sårbarheter gjennom utilsiktet diskriminering. Dersom en KI-modell trenes på data med innebygget skjevhet, kan utdataene påvirkes eller til og med forsterke denne skjevheten. Dette kan føre til at en virksomhet fatter diskriminerende beslutninger. For det første kan dette skape juridiske og etiske sårbarheter, men kan også bidra til at sikkerhetssystemer har blindsoner som angripere igjen kan utnytte for å kompromittere virksomhetens infrastruktur.
«Black-box», manglende åpenhet
Mange KI-systemer, spesielt dype læringsmodeller, fungerer som «black boxes», altså systemer man ikke helt forstår virkemåte til. Dette innebærer gjerne at utviklerne ikke lett kan tolke hvordan systemer kommer frem til bestemte beslutninger. En slik mangel på åpenhet kan gjøre det vanskeligere å identifisere og rette opp sårbarheter. En mangel på transparens og forståelse av hvordan modellene fungerer, kan videre gjøre det vanskelig å spore hvorvidt et system er manipulert, og eventuelt årsaken til dette.
Utfordringer med integrasjon mot eksisterende it-systemer
KI-systemer må ofte integreres med eksisterende IT-infrastrukturer, som databaser, skyplattformer og brukergrensesnitt. Disse integrasjonspunktene kan introdusere sårbarheter hvis de ikke sikres riktig. For eksempel kan dårlig konfigurerte grensesnitt (API-er) eller utilstrekkelig beskyttelse av kommunikasjonskanaler bli inngangsporter for angripere som ønsker å få tilgang til virksomhetens it-systemer. I tillegg krever KI-systemer regelmessige oppdateringer og sikkerhetsoppdateringer, noe som, hvis det ikke utføres korrekt, kan gjøre dem sårbare for mulige trusler.
Ta grep nå!
Det vil i tiden fremover innføres strengere krav til sikkerhet for en rekke norske virksomheter, både på regulatorisk plan og med tanke på samhandling med andre virksomheter.
Digitalsikkerhetsloven er allerede vedtatt, og trer i kraft i Norge i løpet av 2024/2025. Her pålegges virksomheter innen en rekke samfunnskritiske sektorer regulatoriske krav til sikkerhet, med et sanksjonssystem som innebærer betydelig eksponering ved brudd. På sikt vil ytterligere virksomheter omfattes av NIS 2-regelverket, enten ved at virksomheten selv underlegges regelverket eller leverer tjenester til en slik virksomhet.
Etter vårt syn bør alle virksomheter kartlegge egne systemer, identifisere sårbarheter og gjennom risikovurderinger identifisere tiltak som kan bidra til å øke sikkerheten, uavhengig av om de selv er underlagt regelverket.
Det er også viktig å anerkjenne at mens KI kan optimalisere og automatisere mange aspekter ved virksomhetsdriften, må sikkerhetsaspektene ved disse systemene håndteres med stor forsiktighet. Virksomheter må derfor være proaktive og kontinuerlig oppdatere sine risikovurderinger og sikkerhetssystemer for å beskytte seg mot disse truslene. Dette må også gjenspeiles i virksomhetens retningslinjer og avtaler knyttet til bruk av slike systemer.
Vi i Hjort har lang erfaring med å utarbeide slike internkontrollsystemer, og bistår gjerne.
