I takt med att AI blir allt mer avancerad förändras också synen på tekniken. Från att ha varit ett verktyg för automatisering talas det nu om AI-agenter som självständiga aktörer som kan utföra arbetsuppgifter, samordna processer och i vissa fall fatta beslut på egen hand.
För säkerhetssektorn – där riskhantering, kontroll och tillit är centrala frågor – innebär det både nya möjligheter och nya sårbarheter.
– Det är enormt intressant att se den snabba utvecklingen inom AI. Allt fler använder AI för att förbättra, effektivisera och hitta nya sätt att arbeta på – och förhoppningsvis också göra saker bättre än tidigare, säger Jeanette Lesslie Wikström, chef för Säkerhetsbranschen.
AI kräver ett nytt slags ledarskap
Men enligt Jeanette Lesslie Wikström räcker det inte att organisationer investerar i teknik. Ledarskapet måste utvecklas i samma takt.
Hon menar att AI-frågorna behöver bli en naturlig del av företagens strategiska styrning – på samma sätt som säkerhetsarbete och riskhantering redan är idag.
– Framgångsrika ledare framåt kommer inte bara behöva förstå människor och affärer – utan också förstå hur AI-system används, styrs och kontrolleras, säger hon.
Det yttersta ansvaret kommer dessutom fortsatt att ligga hos människan och ledningen, betonar hon. Därför behöver företag bygga strukturer, rutiner och kontrollfunktioner som gör AI-användningen säker och ansvarsfull.
”Mer en ledarskapsfråga än en teknikfråga”
Frågan om svenska ledningsgrupper verkligen är redo för att AI inte längre bara assisterar – utan faktiskt utför arbete – är enligt Jeanette Lesslie Wikström avgörande.
Hennes svar är tydligt: utvecklingen handlar i första hand inte om teknik.
– Ja, det är i grunden mer en ledarskapsfråga än en teknikfråga, säger hon.
Utan tydlig styrning, ansvar och ramar riskerar organisationer att skapa nya sårbarheter – både för den egna verksamheten och för samhället i stort. Därför behöver AI bli en självklar punkt på ledningsgruppens agenda, menar hon, i nivå med cybersäkerhet och annan riskhantering.
AI-agenter behöver mandat – och begränsningar
När AI-system i allt högre grad kan boka möten, analysera information, interagera med andra system och automatisera processer aktualiseras en ny fråga: Ska företag börja se AI-agenter som medarbetare?
I vissa avseenden, ja, menar Jeanette Lesslie Wikström.
Precis som mänskliga medarbetare behöver AI-system tydliga mandat, uppföljning och begränsningar. Det handlar om att definiera vem som får styra systemen, var information lagras och vilka befogenheter tekniken ska ha.
– Ansvarfull utveckling är ett viktigt ledord framåt, säger hon.
Samtidigt understryker hon att utvecklingen inte bör beskrivas som ett skifte från människa till maskin – utan snarare som ett sätt att komplettera människors arbete med nya verktyg och möjligheter.
Människan måste behålla kontrollen
Var går då gränsen för vad en AI-agent ska få göra autonomt?
Enligt Jeanette Lesslie Wikström bör graden av mänsklig kontroll avgöras av vilka konsekvenser ett beslut kan få.
Ju större påverkan på människor, säkerhet eller integritet – desto viktigare blir mänskligt godkännande.
Samtidigt lyfter hon fram att AI redan idag används framgångsrikt inom exempelvis prediktiva analyser för säkerhet, brottsförebyggande arbete och brandskydd. Men tekniken innebär också risker, såsom felaktiga slutsatser eller användning utan tillräckliga kontrollfunktioner.
– Därför behöver ansvar, etik, säkerhet och integritet alltid finnas med i utvecklingen och användningen av AI, säger hon.
Tillit blir avgörande på framtidens arbetsplats
När digitala kollegor blir en del av arbetsvardagen påverkas också arbetsmiljö och organisationskultur.
Tillit mellan människa och AI kommer inte att byggas genom att människor ersätts, utan genom att tekniken upplevs som ett stöd, menar Jeanette Lesslie Wikström.
Om AI uppfattas som otydligt eller okontrollerbart riskerar det istället att skapa osäkerhet bland medarbetare.
Därför blir transparens, kunskap och tydliga kontrollfunktioner avgörande – tillsammans med frågor om governance och compliance.
Framtidens ledare måste kunna leda i förändring
AI väntas samtidigt frigöra tid för mer strategiskt och kreativt arbete – men det ställer också nya krav på chefer och ledare.
– Chefer och ledare kommer behöva bli ännu bättre på förändringsledning, kompetensutveckling och att skapa trygghet i förändring, säger Jeanette Lesslie Wikström.
När något går fel är ansvarsfrågan dessutom tydlig, enligt henne.
– Ledningsfråga, säger hon om vem som bär ansvar om en AI-agent fattar ett dåligt beslut eller orsakar en incident.
På tre till fem års sikt tror Jeanette Lesslie Wikström att AI-agenter kommer att vara en naturlig del av många svenska arbetsplatser. Men framtidens viktigaste ledaregenskaper blir fortfarande mänskliga.
– Omdöme, ansvarstagande, trygghet och förmågan att leda i förändring, säger hon.
