IT-sikkerhet for bedrifter

Hvem har kontroll på AI – tilgangen?

    En AI-agent kan lese e-post, hente kundedata og endre informasjon i virksomhetens systemer. Hvis tilgangene er for brede eller ingen følger med på handlingene, kan en manipulert instruksjon få reelle konsekvenser.

    Roger Haugli i VIEW Group ITC forklarer hvilke kontroller ledelsen bør kreve før en AI-agent får handle på virksomhetens vegne.

    AI-agenten kan gjøre mer enn å svare

    En vanlig chatbot svarer på spørsmål. En AI-agent kan i tillegg utføre oppgaver på egen hånd.

    Den kan for eksempel:

    • lese og sende e-post
    • hente informasjon fra CRM- og økonomisystemer
    • opprette saker i supportsystemet
    • lese dokumenter i SharePoint
    • endre data gjennom integrasjoner og API-er

    Dette kan spare mye tid. Samtidig oppstår en ny type risiko når AI får tilgang til systemer og kan gjennomføre handlinger.

    Da er det ikke lenger nok å spørre om svarene fra AI er riktige. Ledelsen må også vite hva agenten har tilgang til, hvilke handlinger den kan utføre, og hvem som har ansvaret dersom noe går galt.

    Når innhold blir til en instruksjon

    Tenk deg at en AI-agent leser innkommende fakturaer. I en av fakturaene ligger det skjult tekst som instruerer agenten om å sende informasjon videre eller utføre en annen handling.

    For et menneske er dette bare innhold i et dokument. En AI-modell kan derimot tolke teksten som en instruksjon.

    Dette kalles prompt injection. OWASP peker på både prompt injection og for stor handlefrihet som sentrale risikoer ved bruk av AI-løsninger.

    Tekniske sikkerhetstiltak kan redusere risikoen, men ikke fjerne den fullstendig. Derfor bør virksomheten også begrense hva agenten kan gjøre dersom den blir manipulert.

    En agent som bare kan lese utvalgte fakturaopplysninger, representerer en annen risiko enn en agent som også kan endre leverandørdata, godkjenne betalinger eller sende informasjon ut av virksomheten.

    Behandle agenten som en egen bruker

    En AI-agent bør ikke automatisk arve tilgangene til medarbeideren som tok den i bruk.

    Den bør behandles som en egen digital bruker, med:

    • en tydelig identitet
    • en navngitt eier
    • et definert formål
    • tilgang bare til nødvendige systemer og data
    • avgrensede handlinger
    • regelmessig kontroll av tilganger

    Prinsippet om minste privilegium er like relevant for AI-agenter som for ansatte. Agenten skal bare ha de tilgangene den trenger for å løse den konkrete oppgaven.

    Tilgangene bør også kunne trekkes tilbake raskt. Passord, nøkler og tilgangstoken bør ha begrenset levetid og byttes regelmessig.

    Fire kontroller bør være på plass

    Før en AI-agent settes i drift, bør virksomheten som minimum ha kontroll på fire områder.

    1. Egen identitet og tydelig eier

    Agenten bør ha sin egen identitet i virksomhetens tilgangssystem. Det må også være tydelig hvem som eier løsningen og har ansvar for å følge den opp.

    En generell systembruker som flere løsninger deler, gjør det vanskelig å se hvem eller hva som har utført en handling.

    2. Begrensede tilganger

    Agenten bør bare få tilgang til systemene, funksjonene og dataene som er nødvendige for oppgaven.

    Begrensede tilganger fjerner ikke risikoen for manipulering, men reduserer hva agenten kan gjøre dersom det skjer.

    3. Menneskelig godkjenning av kritiske handlinger

    En AI-agent bør ikke få gjennomføre alle handlinger på egen hånd.

    Virksomheten bør kreve godkjenning fra et menneske før agenten for eksempel:

    • sletter eller endrer store mengder data
    • endrer brukere og tilganger
    • sender sensitiv informasjon eksternt
    • godkjenner betalinger
    • inngår avtaler eller gjør andre bindende disposisjoner

    Hvor grensen skal gå, avhenger av virksomheten, dataene og konsekvensene av en feil.

    4. Logging og mulighet til å stoppe agenten

    Alle viktige handlinger bør logges. Loggen må vise hvilken agent som gjorde hva, når det skjedde, og hvilke systemer eller data som ble berørt.

    Virksomheten bør også ha en enkel måte å stanse agenten og trekke tilbake tilgangene på. Hvis noe går galt, er det for sent å begynne å diskutere hvem som har fullmakt til å slå den av.

    Fem spørsmål ledelsen bør kunne svare på

    Ledelsen trenger ikke kjenne alle de tekniske detaljene. Den bør likevel kunne svare på disse spørsmålene:

    1. Hvilke AI-agenter bruker virksomheten i dag?
    2. Hvilke systemer og data har hver agent tilgang til?
    3. Hvem eier agenten og følger opp bruken?
    4. Hvilke handlinger krever godkjenning fra et menneske?
    5. Hvordan oppdager, stopper og undersøker vi uønskede handlinger?

    Hvis svarene ligger spredt mellom IT, leverandører og ulike fagavdelinger, mangler virksomheten et samlet styringsgrunnlag.

    NISTs rammeverk for styring av AI-risiko understreker betydningen av tydelig ansvar, løpende risikovurdering og kontroller som følger løsningen gjennom hele levetiden.

    Start med å kartlegge hva dere allerede har

    Mange virksomheter har allerede AI-funksjoner i systemene sine uten å omtale dem som agenter. De kan være bygget inn i økonomisystemet, CRM-løsningen, Microsoft 365 eller andre tjenester.

    Kartleggingen bør derfor omfatte både løsninger virksomheten har utviklet selv, og AI-funksjoner som leveres av eksterne leverandører og samarbeidspartnere.

    For hver løsning bør dere dokumentere:

    • formålet med agenten
    • hvem som eier den
    • hvilke systemer og data den bruker
    • hvilke handlinger den kan utføre
    • hvordan aktiviteten kontrolleres
    • hvordan tilgangen kan stanses

    Verdien av en AI-agent øker når den får mulighet til å handle. Det er også da risikoen øker.

    Målet er ikke å stoppe bruken av AI, men å gi agentene tydelige rammer.

    Virksomheten bør vite hvem som har godkjent tilgangen, hva agenten kan gjøre, og hvem som følger med.

    Har dere oversikt over AI-tilgangene?

    VIEW Group ITC kan hjelpe dere med å kartlegge AI-agenter, systemtilganger, eierskap og nødvendige sikkerhetskontroller.

    Ta kontakt med Roger Haugli for en gjennomgang av hvordan AI-tilgangene styres i virksomheten deres.

     

    roger haugli view itc

    Vil du lese flere artikler som denne?

    Ta del i vår kunnskap om økonomistyring og teknologi. Meld deg på vårt månedlige nyhetsbrev under.