AI agenter är på väg att gå från verktyg vid sidan av organisationen till operativa aktörer i hur verksamheter faktiskt styrs. När det sker räcker det inte längre att fråga hur mycket som kan automatiseras. Den avgörande frågan är hur mycket autonomi ledningen kan verifiera och fortfarande stå bakom.
I vår egen organisation är skiftet inte längre teoretiskt. I Navis Mater, koncernen vi bygger, arbetar i dag fler än 25 AI agenter. Det är fler än antalet anställda. Inte i en labbmiljö. I drift.
Navis Mater är byggt AI first från grunden, med resiliens, cybersäkerhet och regelverk som del av strategin från dag ett. Det gör att detta inte är skrivet ur teorin, utan från praktisk drift. Efter snart 30 år inom cybersäkerhet har jag lärt mig att det sällan är tekniken i sig som avgör om ett tekniksprång blir säkert och skalbart. Det är styrningen runt den.
Några agenter förbereder beslutsunderlag och granskar säkerhetsläget. Andra analyserar marknad och förvärv, följer regelefterlevnaden eller bevakar vad själva agentinfrastrukturen kostar. Och en oberoende agent granskar de andra och flaggar när någon går utanför sitt mandat. Det viktiga är inte att vi har många agenter. Det viktiga är att organisationen måste ledas på ett annat sätt när agenterna blir fler än människorna.
Det här är ett teknikskifte, men ett annorlunda sådant. Det flyttar inte bara verktygslådan. Det flyttar gränsen för vad organisationen faktiskt består av. Och svenska ledningar är på väg att fastna i fel debatt.
Från verktyg till operativa aktörer
För de flesta handlar frågan fortfarande om man överhuvudtaget vågar släppa in agenter i skarp drift. Det är en rimlig oro, och rätt fråga att ställa tidigt. Diskussionen om AI agenter handlar ofta om huruvida de ska få agera. Vilka behörigheter är rimliga, var ska människan sitta i loopen, hur förhindrar vi att agenter manipuleras eller går utanför sitt uppdrag. Jag har själv drivit den debatten och står fast vid varje ord: mandat utan motsvarande kontroll är en operativ risk.
Men de frågorna är inträdesbiljetten, inte målet. Agenterna blir fler, mandaten bredare och tempot högre. Då räcker det inte att avgöra om en enskild agent ska få agera. Den avgörande frågan är en annan: hur leder man en organisation där agenterna är fler än människorna?
Det är inte bara en riskfråga. Och det är inte främst en teknikfråga. Företag kommer inte att konkurrera med AI. De kommer att konkurrera med olika sätt att organisera AI. Samma modeller och samma verktyg finns i stort sett tillgängliga för alla samma dag de släpps. Skillnaden blir vad ledningen klarar att organisera, kontrollera och verifiera.
Det mesta av det vi kallar ledarskap är byggt runt människor: rekrytering, motivation, utveckling och kultur. Ledaren slutar inte leda människor. Men när majoriteten av de operativa aktörerna inte är människor flyttar en större del av arbetet från individledning till systemdesign.
En agent behöver ingen motivation. Den behöver ett tydligt uppdrag, ett exakt mandat, en egen identitet, spårbara handlingar och en tydlig väg att eskalera. Den behöver, kort sagt, organisation. Vi har länge byggt struktur runt människor eftersom förtroende kräver struktur: roller, attestordningar, firmateckning, revision. En agentisk organisation behöver samma sak, men innan agenten börjar arbeta, inte efter hand.
En människa kan ibland hantera ett otydligt uppdrag genom omdöme och erfarenhet. En agent skalar upp otydligheten. Den gör inte bara fel snabbare. Den gör fel på ett sätt som kan se korrekt ut tills någon försöker följa spåret bakåt.
Verifierad autonomi
Alla mandat är inte lika. En agent som analyserar och föreslår kräver en sorts styrning. En agent som utför och koordinerar kräver en annan. En agent som fattar avgränsade operativa beslut inom sitt mandat kräver ytterligare mognad: tydliga gränser, spårbarhet, eskalering och en namngiven människa som ansvarar för mandatet.
Hos oss är detta inte en framtida princip. Agenter får fatta avgränsade operativa beslut inom sina mandat. Poängen är att mandatets bredd alltid måste följa styrningens bevisade mognad, aldrig tvärtom.
Varje agent har därför ett skrivet mandat: vilka beslut den får fatta själv, vilka åtgärder den får utföra utan att fråga, vad som alltid kräver godkännande och vilken människa som äger mandatet. Grundprincipen är enkel: en agent kan ha behörigheter och beslutsmandat, men aldrig ansvar. Ansvaret ligger alltid hos en namngiven människa.
Det låter som en begränsning. Det är motsatsen. Just vissheten om var ansvaret ligger gör det försvarbart att delegera fler mandat till maskiner, inför styrelsen, revisorn och tillsynsmyndigheten. Otydligt ansvar skalar inte. Tydligt ansvar gör det.
Det är här ledningsförmågan prövas. När agenterna blir fler än människorna kan ingen ledning längre följa varje enskild handling. Den uppgiften är förlorad. Det är inte ett misslyckande. Det är förutsättningen.
Det som ersätter den är inte mindre kontroll, utan en annan sorts kontroll. Framåt handlar det om att i förväg sätta tydliga grindar och röda linjer: vad en agent får göra själv, vad som alltid kräver godkännande och vad den aldrig får göra. Bakåt handlar det om att i efterhand kunna verifiera att grindarna hölls och att de röda linjerna inte korsades. Den nya ledningsförmågan handlar därför inte om att automatisera mest. Den handlar om att kunna bära mest verifierad autonomi.
Bygg styrningen först
Detta är inte byråkrati som bromsar. Det är det som gör hastighet möjlig. Den insikten är skillnaden mellan organisationer som lyckas skala och organisationer som fastnar i pilotprojekt.
Hos oss fungerar en koordinerande agent som ett nav mellan ledningen och de specialiserade agenterna. Den följer upp uppdrag, fångar avvikelser och ser till att bara det som kräver mänskligt omdöme når rätt person. I praktiken förändrar det vad en ledare hinner leda.
Runt navet arbetar specialiserade agenter, var och en med sitt mandat och sin mänskliga ägare. Det avgörande är inte att varje steg är automatiserat. Det avgörande är att varje steg går att förstå i efterhand.
Vem gjorde vad? På vems uppdrag? Med vilket mandat? Vilken regel gällde? Fanns det en röd linje, och hölls den?
Tre enkla principer bär systemet. Varje agent har en egen identitet, så att varje handling kan härledas till en aktör. Ingen åtgärd sker utan att den först loggas, så att det alltid finns ett spår. Och varje initiativ har en hälsosignal, grönt, gult eller rött, så att ledningen kan läsa läget som en driftorganisation läser sin övervakning.
NIS2, DORA och EU AI Act pekar, på olika sätt, åt samma håll: ledningsansvar, riskklassning, spårbarhet och kontroll. Den som redan har register, mandat och ansvar per agent behöver inte bromsa när kraven skärps. Den kan delegera mer, snabbare, med bibehållen kontroll och säkerhet. Den som bara ser regelverken som en broms har sannolikt byggt styrningen för sent.
För styrelser räcker det inte längre att fråga om bolaget använder AI. Den relevanta frågan blir hur AI:n är organiserad, vem som äger mandaten, vilka röda linjer som gäller och hur ledningen ser när systemet är på väg åt fel håll. Det är inte detaljstyrning. Det är bolagsstyrning i en ny operativ verklighet.
Mitt råd från bygget hittills är kontraintuitivt: börja inte med agenterna. Börja med organisationen. Definiera nivåerna av mandat, skriv dem, etablera loggning och statussignaler, utse ansvariga människor. Sätt sedan agenter i drift, en i taget, och låt strukturen bevisa sig innan nästa får sitt mandat. Vi gör fortfarande misstag på vägen. Skillnaden är att strukturen är byggd för att fånga dem.
Det här är inte en fråga för en avlägsen framtid. Hos oss har skiftet redan skett. Hos många andra kommer det snabbare än deras styrmodeller hinner med. Då räcker det inte att ha köpt rätt teknik eller valt rätt leverantör. Ledningen måste ha byggt en organisation som klarar fler mandat, högre tempo och tydligare ansvarsfördelning.
Frågan är inte om agenterna blir fler än människorna. Frågan är om ledningen hinner bygga den styrning som gör autonomin möjlig att lita på.
Emanuel Lipschütz
Grundare och styrelseordförande, Navis Mater
