AI-agenter är på väg att bli digitala medarbetare med makt att godkänna, genomföra och påverka verksamhetskritiska beslut. Men medan tekniken springer framåt försöker många organisationer fortfarande styra den med regler anpassade för en tid då människor alltid satt bakom spakarna. Det är dags att införa tydliga gränser för när AI får agera autonomt, skriver Sheryl Chamberlain, senior vice president för affärsutveckling på Yubico.
Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.
AI-agenter blir en alltmer integrerad del av organisationers arbetsflöden. De fungerar som digitala medarbetare med förmåga att använda API:er, starta arbetsflöden, påverka produktionssystem och fatta egna beslut. Det synliggör också var ansvar och styrning av AI riskerar att brista, och var mänsklig tillsyn inte längre kan tas för given.
Inom EU har DORA-förordningen gällt för finansiella aktörer sedan den 17 januari 2025. NIS2 har utvidgat kraven på hantering av cyberrisker till 18 kritiska sektorer och tydligt placerat ansvaret för cyberrisker hos den högsta ledningen. Den 2 augusti 2026 går dessutom EU:s AI-förordning in i sin huvudsakliga genomförandefas, med regler för högrisk-AI-system och en bredare tillämpning av regelverket.
World Economic Forum uppger att 94 procent av de tillfrågade i en undersökning förväntar sig att AI blir den viktigaste drivkraften för förändring inom cybersäkerhet under det kommande året. Samtidigt identifierar 87 procent AI-relaterade sårbarheter som den snabbast växande cyberrisken under 2025. Organisationen konstaterar också att 54 procent av de stora företagen ser sårbarheter hos tredje part och i leverantörskedjan som sitt största hinder för cyberresiliens.
Den sista punkten är särskilt relevant i Europa, där organisationer är beroende av långa digitala kedjor: molnplattformar, SaaS-verktyg, betalningssystem, outsourcade verksamheter, integrationer mellan offentlig och privat sektor samt internationella leveranskedjor för programvara.
Ändå försöker de flesta organisationer fortfarande styra dessa nya arbetsflöden med en modell som är byggd för en äldre digital verklighet: en människa loggar in, ett system beviljar åtkomst, en åtgärd utförs och loggarna förklarar i efterhand vad som hände. Det räcker inte när programvara kan initiera en betalning, godkänna en leverantör, distribuera kod till produktion, få tillgång till känsliga data eller utlösa en säkerhetsåtgärd som påverkar tillgängligheten.
I dessa situationer är den avgörande frågan inte om systemet autentiserades vid någon tidpunkt. Frågan är om åtgärden överhuvudtaget borde ha fått utföras autonomt. Det kräver en auktoriseringsmodell där mänsklig inblandning byggs in i rätt skeden — och där organisationen tydligt definierar vilka kategorier av åtgärder som alltid kräver mänskligt godkännande.
Jag menar att styrelser redan nu bör anta en enkel princip: alla AI-beslut behöver inte ha en människa bakom sig, men varje AI-driven högriskåtgärd bör kunna kopplas till ett bevisbart mänskligt beslut. Det innebär att organisationen sätter tydliga trösklar innan AI-agenter får agera. Det kan handla om en överföring över ett visst belopp, en betalning till en ny motpart, åtkomst till känslig immateriell egendom eller reglerade data, en produktionssättning i en kritisk miljö eller en säkerhetsåtgärd som kan ta tjänster offline.
”Human-in-the-loop” bör därför inte ses som en allmän bromskloss, utan som en kontrollmekanism: policystyrd, kontextbunden och reserverad för de situationer där ansvar faktiskt spelar roll. Rätt utformad hindrar den inte automatisering. Tvärtom gör den det möjligt att automatisera där risken är låg, samtidigt som verifierad mänsklig auktorisering reserveras för den mindre grupp av åtgärder där konsekvenserna kan bli betydande.
För ledningsgrupper är agendan mycket konkret. Vilka åtgärder får en AI-agent utföra på egen hand? Vilka beslut kräver mänskligt godkännande? Och hur ska organisationen kunna visa vem som godkände vad, enligt vilken policy och med vilken säkerhetsnivå? Det är frågor som ledningsgrupper behöver besvara om de vill använda agentbaserad AI på ett ansvarsfullt sätt.
Jag menar att nästa fas av AI-införandet därför inte kommer att definieras av vem som automatiserar mest. Den kommer att definieras av vem som kan automatisera mest ansvarsfullt: med hög hastighet när risken är låg, och med tydligt mänskligt ansvar när risken är hög.
Sheryl Chamberlain
Senior vice president för affärsutveckling på Yubico
Verksamhet: Cybersäkerhetsföretag med fokus på säker identitets- och åtkomsthantering.
Grundat: 2007 i Sverige.
Känt för: Uppfinnaren av säkerhetsnyckeln YubiKey, som används för phishing-resistent multifaktorautentisering (MFA) och lösenordsfri inloggning.
Erbjudande: Hårdvarubaserad autentisering för företag och privatpersoner samt lösningar för säkra digitala identiteter.
Global närvaro: Kunder i över 160 länder och användning inom både offentlig och privat sektor.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
