• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

STUDIE: Svårt för myndigheter att använda AI på ett lagligt sätt

AIhar stor potential att effektivisera den offentliga sektorn, men med möjligheterna kommer också utmaningar. En ny studie från Högskolan i Skövde visar hur svenska myndigheter, genom att använda lösningar med AI-funktionalitet, riskerar att röja känsliga uppgifter och därmed ta stora säkerhetsrisker samtidigt som de förlorar kontrollen över hur data används och delas.

-

Björn Lundell. professor i datavetenskap vid Högskolan i Skövde

I Sverige har debatten kring användningen av molntjänster och lösningar med AI-funktionalitet i offentlig sektor varit omfattande. Den svenska sekretesslagstiftningen har nyligen ändrats för att göra det lättare för myndigheter att använda molntjänster, men i praktiken får ändringarna inte den effekt lagstiftaren hoppats på. Det gäller särskilt när myndigheter behandlar uppgifter med extern drift och det blir ett ännu större problem när lösningarna innehåller AI-funktionalitet. Det menar Björn Lundell, professor i datavetenskap vid Högskolan i Skövde.

I en ny studie visar han och de andra forskarna bakom studien att det finns stora problem med hur denna lagändring är utformad och hur den tillämpas. Många myndigheter använder lösningar under okända villkor för att behandla sina uppgifter och de gör det utan att bedöma om den externa molninfrastrukturen är lämplig att använda.

– Lagstiftaren ställer stora krav på hur enskilda myndigheter får behandla uppgifter och det betonas särskilt att uppgifter endast får lämnas ut om det med hänsyn till omständigheterna inte bedöms vara olämpligt, men vår forskning visar att det för varje myndighet i praktiken är omöjligt att göra en sådan bedömning då alla myndigheter vi undersökt använder lösningar under okända villkor, säger Björn Lundell, som menar att myndigheter och politiska beslutsfattare är ivriga med att nyttja fördelarna med att använda AI-lösningarna utan att förstå de juridiska komplikationerna.

Under flera år arbetade it-driftsutredningen med frågor om säker och kostnadseffektiv it-drift och under 2021 publicerades två betänkanden som ledde fram till den nya lagstiftningen. Tanken med den förändrade lagen var att om en myndighet i sin analys kommer fram till att det inte är olämpligt att lämna ut uppgifter till exempelvis ett externt företag för endast teknisk bearbetning eller teknisk lagring ska detta kunna ske. Men i praktiken blir det i många fall omöjligt eftersom behandling och förvaltning av en myndighets uppgifter under okända villkor gör att det inte går att göra en sådan bedömning.

– När många lösningar dessutom innehåller AI-funktionalitet som tillhandahålls under okända villkor blir det ett än större problem för en myndighet att genomföra en sådan bedömning. Många myndigheter förefaller helt ha gett upp och försöker inte ens ta reda på vilka villkor som gäller, säger Björn Lundell.

Det finns alltså en påtaglig risk att myndigheter kan komma att använda AI på sätt som strider mot lagstiftningen, vilket potentiellt kan leda till problem med sekretess och säkerhet. Mathias Lindroth är jurist och har specialiserat sig på policyfrågor inom det IT-rättsliga området, han menar att det dessutom kan drabba den enskilda medarbetaren som oreflekterat skickar in uppgifter från en myndighet in i en externt tillhandahållen molntjänst med AI-funktionalitet.

– Om en myndighet obehörigt röjer uppgifter som omfattas av sekretess kan det orsaka betydande skada och leda till straffrättsliga påföljder för enskilda medarbetare, säger Mathias Lindroth som också är en av författarna bakom studien.

Björn Lundell menar att det behövs mer forskning och mer ändamålsenlig lagstiftning för att säkerställa att AI används på ett säkert och lagligt sätt i offentlig sektor. Regeringen måste se till att lagarna i praktiken är möjliga att tillämpa och myndigheterna behöver förstå och följa dem, för att verkligen skydda den känsliga information de hanterar. Myndigheter och aktörer inom offentlig sektor behöver utveckla nya riktlinjer för att säkerställa att AI-system används på ett säkert och effektivt sätt.

– Det handlar bland annat om att få kontroll över hur data samlas in, lagras och används. För att lyckas med detta krävs utbildning och kompetens. Offentlig sektor behöver utbilda sin personal i AI-teknologi och vilka konsekvenser användandet kan få. Samtidigt behöver myndigheterna arbeta nära ansvarstagande teknologileverantörer för att säkerställa att AI-lösningarna uppfyller lagstiftningens krav och är anpassade till deras specifika behov.

REKLAMSAMARBETE

Cybersäkerhetslagen: ”Små företag måste agera nu”

Med cybersäkerhetslagen tar Sverige viktiga kliv framåt för att skydda kritisk infrastruktur och samhällsfunktioner från cyberhot. Antalet sektorer som omfattas ökar och det är...

FLER NYHETER

Ryssland laddar för OS i Paris med påverkanskampanj 

– Jag tror nästan säkert att vi kommer att få se rysk inblandning i sommar-OS. Allt sedan 2016 då Ryssland förbjöds att tävla under...

REKLAMSAMARBETE

”Generativ AI är fullkomligt avgörande för effektiv cybersäkerhet – både nu och i framtiden”

Den 13 juni, klockan 9.30, bjuder Aktuell Säkerhet och SentinelOne in till ett frukostwebinar om hur du kan använda generativ AI för effektivare cybersäkerhet,...

Han blir ny affärsområdeschef för Security hos Enaco

Rickard Hammarberg kommer närmast från en tjänst inom affärsutveckling hos Caverion. Med sin omfattande kunskap och expertis kommer Rickard att spela en central roll...

REKLAMSAMARBETE

Regeringen har presenterat ny nationell säkerhetsstrategi

– När regeringen tillträdde för snart två år sedan var det med ett tydligt mandat att ta tag i Sveriges inre och yttre säkerhet....

Ny generaldirektör för IMY

Eric Leijonram är för närvarande chefsjurist på Finansinspektionen. Han har en bakgrund från bland annat domstol, Regeringskansliet och Kriminalvården. Utöver detta har Eric Leijonram...

REKLAMSAMARBETE

Offentliga sektorn måste lära sig att hantera cyberattacker

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Sedan början av 2024 har flera svenska organisationer fallit offer för cyberattacker utförda av...

ASIS-sommarmingel med historiskt säkerhetsföretag

Jessica Fixelius bjöd på en kort presentation av Pinkerton som grundades i USA redan 1850 av Allan Pinkerton som världens första privatägda detektivbyrå. Företaget...

Uppdrag att utveckla samverkan med civilsamhället i det brottsförebyggande arbetet

– Brottsligheten måste bekämpas och förebyggas med hela samhällets samlade förmåga. Det civila samhällets organisationer erbjuder viktiga insatser på området och bidrar med erfarenheter...

Debatt: Cybersäkerhet måste bli en central fråga för verksamhet och affär

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.För ja, det är dyrare att bygga ett robust heltäckande system än att lappa...

Secify och Säkerhetsbranschen inleder samarbete

– Tillsammans med Säkerhetsbranschen ser vi fram emot att föra fram vårt perspektiv på informationssäkerhet i debatten. Med vår filosofi ”No nonsense security” vill...

Starkt andra kvartal för Junglemap – ökar nyförsäljningen med 35 procent

Junglemap inledde 2024 starkt med en 20-procentig ökning av antalet kunder under Q1 jämfört med föregående år. Den positiva trenden håller i sig och...

Tempest tecknar avtal om personskydd med Stockholms stad

– Att vi har fått förtroendet att leverera personskyddstjänster till denna kund är ett tydligt erkännande av vår kompetens och pålitlighet inom personsäkerhet. Detta...

RAPPORT: It-säkerheten i vården under fortsatt hård press

Enligt undersökningen växer oron kring datasäkerhet bland de it-ansvariga i den svenska vården. I årets rapport uttrycker 21 procent oro över datasäkerheten, en betydande...

Säkerhetsarenan gjorde sitt andra år i Almedalen

SäkerhetsföretagenSäkerhetsföretagen deltog i Almedalen hela veckan där de anordnade ett flertal seminarier och rundabordssamtal med syftet att lyfta det viktiga arbete som sker i...

REPLIK: “Vi måste våga prata om mänskliga beteenden”

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.Replik på Martin Kramers debattartikel från 2026-06-24: Att peka ut människan som den svagaste...

Offentliga sektorn måste lära sig att hantera cyberattacker

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Sedan början av 2024...