Utvecklingen av AI-drivna cyberhot har passerat en viktig tröskel. Hotaktörer använder i allt högre grad agentbaserade ramverk som kan planera, genomföra och anpassa delar av ett cyberangrepp med begränsad mänsklig styrning. Det framgår av Google Threat Intelligence Groups, GTIG, senaste rapport, som publicerades den 16 november.
Tillsammans med Mandiant beskriver Google hur generativ AI har blivit en del av den operativa verktygslådan hos cyberkriminella, spionagegrupper och aktörer som bedriver informationspåverkan. Syftet är bland annat att korta tiden mellan olika steg i ett angrepp, öka omfattningen och automatisera arbetsmoment som tidigare krävde betydande teknisk kompetens.
Enligt rapporten har flera aktörer börjat använda öppna ramverk för agentbaserad penetrationstestning och offensiv säkerhet. Bland verktygen finns ARTEX, CAIRN, CyberStrikeAI och PentAGI. De kan bland annat identifiera sårbarheter, generera anpassade attackkoder och justera angrepp utifrån återkoppling från systemen de riktar sig mot.
GTIG har sett sådana verktyg användas i verkliga intrång, inte enbart i experimentella miljöer. Bland annat har CAIRN observerats i aktivitet riktad mot mål inom den amerikanska flyg- och rymdsektorn. Google beskriver också hur en aktör använt en anpassad version av PentAGI för systematisk kartläggning och sårbarhetsskanning mot organisationer i Asien.
Sårbarheter kan utnyttjas snabbare
Ett av de mest betydelsefulla områdena i rapporten är automatiseringen av sårbarhetsanalys och exploatering. Google beskriver hur AI-agenter kan jämföra programkod före och efter en säkerhetsuppdatering, identifiera vad som har förändrats och analysera om ändringen avslöjar en sårbarhet.
Genom att automatisera den processen kan angripare snabbare utveckla fungerande exploateringskod för redan kända sårbarheter – så kallade n-day-sårbarheter – och rikta angrepp mot system som ännu inte har uppdaterats.
Under det senaste kvartalet identifierade GTIG för första gången hotaktörer som automatiserat hela kedjan från sårbarhetsupptäckt till exploatering utan mänsklig inblandning. Ett exempel var ett ramverk kallat exploit_agent, som kunde analysera förändringar i källkod, identifiera potentiella säkerhetsbrister, skapa exploateringskod och sedan köra den automatiskt.
Google pekar också på att det samlade antalet offentliggjorda sårbarheter och exploateringar nästan fördubblades mellan januari och augusti 2026. Antalet zero-day-exploateringar ökade däremot mer begränsat under samma period, från ett genomsnitt på åtta per månad 2025 till elva per månad 2026. I augusti noterades dock 22 sådana exploateringar.
Den snabbare utvecklingen innebär att tiden mellan publiceringen av en säkerhetsuppdatering och ett fungerande angrepp kan krympa. Samtidigt skapar AI-genererade exploateringsförsök som inte fungerar merarbete för säkerhetsforskare och försvarare, som måste verifiera vilka angrepp som faktiskt är genomförbara.
AI används för att skala informationspåverkan
Rapporten visar också att AI har gått från experimentell användning till en etablerad del av flera aktörers informationsoperationer. Statsstödda grupper med kopplingar till Ryssland, Kina och Iran använder språkmodeller för att producera syntetiskt innehåll, skapa trovärdiga digitala identiteter och automatisera publicering och spridning.
Google beskriver hur kommersiella aktörer erbjuder så kallade Influence-as-a-Service-plattformar, där hela processen för en påverkanskampanj kan automatiseras. Det kan handla om att skapa lokalt anpassade personas, generera bilder och annat multimodalt innehåll samt distribuera inlägg och kommentarer över flera plattformar.
I en undersökning från augusti 2026 identifierade GTIG en plattform som använde Gemini API tillsammans med AI-tjänster från andra leverantörer. Systemet var utformat för att automatisera hela kampanjförloppet, från skapandet av digitala personas till innehållsproduktion och publicering. Prompterna visade bland annat hur aktörerna försökte efterlikna organiskt engagemang och undvika plattformarnas upptäcktssystem.
Google har även identifierat en separat plattform som utvecklades för att hantera över 100 000 konton på större sociala medieplattformar. Den kombinerade AI-agenter med verktyg för att dölja identiteter och automatisera kontohantering.
Rapporten understryker samtidigt att högre kvalitet och större volym inte automatiskt innebär att en påverkanskampanj får större genomslag. Men automatiseringen gör det enklare att producera och sprida innehåll i stor skala, vilket kan försvåra arbetet med att identifiera samordnade och falska aktiviteter.
Stulna AI-konton blir en handelsvara
Ett annat växande hot som Google lyfter är LLMJacking. Det innebär att angripare tar över organisationers molnkonton, API-nycklar eller inloggningsuppgifter för att använda deras AI-modeller och beräkningsresurser utan tillstånd.
Under 2026 har Mandiant hanterat flera incidenter där angripare komprometterat molnmiljöer för att utnyttja organisationers AI-kapacitet. I vissa fall har de bedrägliga kostnaderna överstigit 100 000 dollar under ett enda dygn. I de allvarligaste fallen har den sammanlagda resursförbrukningen uppgått till en miljon dollar innan intrånget åtgärdats.
Google beskriver också hur en illegal marknad för så kallade LLM Mixers har vuxit fram. Tjänsterna säljer obehörig åtkomst till AI-modeller genom en pool av stulna inloggningsuppgifter och kapade beräkningsresurser. På så sätt kan köpare få tillgång till avancerade modeller utan att själva behöva stå för kostnaderna eller registrera egna konton.
Angriparna använder bland annat stulna sessionstoken och API-uppgifter för att ta sig in i organisationers miljöer. Väl inne kan de skapa nya tjänstekonton, höja behörigheter och använda organisationens resurser för egna AI-operationer.
AI-verktyg blir en del av leveranskedjeangrepp
Google pekar även på en utveckling där organisationers egna AI-verktyg och kodassistenter utnyttjas som en väg in i interna system.
I ett fall som beskrivs i rapporten riktades ett angrepp mot kryptovalutaföretag i Nordamerika och Europa. Angriparna använde falska rekryterarprofiler och manipulerade mötesplattformar för att få måltavlor att köra skadliga skript. Efter att ha fått tillgång till miljön ändrade de konfigurationsfiler i organisationens kodarkiv.
Ändringen gjorde att en bakdörr laddades ned automatiskt när användare startade Claude Code. Därmed blev en konfiguration för en AI-baserad kodassistent en del av angreppets spridningsväg.
Det illustrerar hur AI-agenter och deras integrationspunkter kan bli en ny del av organisationers attackyta. Säkerhetsarbetet behöver därför omfatta inte bara själva AI-modellerna, utan också behörigheter, konfigurationer, kodarkiv och de system som agenterna kan interagera med.
Google: Angreppen är ännu inte helt autonoma
Trots den ökande automatiseringen finns det begränsningar. Google konstaterar att flera av de offensiva ramverken fortfarande prioriterar hastighet framför diskretion. Automatiserad aktivitet kan generera stora mängder trafik och lämna tydliga spår i kod och systemloggar, vilket ökar möjligheterna att upptäcka angreppen.
Språkmodeller kan dessutom producera felaktiga uppgifter och hitta på detaljer eller mål som inte existerar. Det gör att aktörer som är beroende av långvarig och diskret närvaro i en organisation fortfarande kan behöva begränsa användningen av automatiserade verktyg.
GTIG bedömer dock att utvecklingen kommer att fortsätta mot mer autonoma angrepp, med mindre mänsklig inblandning och ökad förmåga att undvika upptäckt.
I samband med rapporten beskriver Google även sina egna motåtgärder, däribland modellskydd, övervakning av misstänkt användning och automatiserad sårbarhetshantering. Företaget lyfter bland annat fram Google AI Threat Defense, som kombinerar AI-baserad analys, prioritering av risker och automatiserad åtgärdshantering.
Rapporten publicerades dagarna kring Googles Sovereign AI Summit i Bryssel, där frågor om europeisk kontroll över AI, data och digital infrastruktur stod i centrum. Den pekar på en säkerhetsutmaning som följer med den snabba AI-utvecklingen: samma teknik som kan stärka organisationers försvar kan också ge angripare större räckvidd, högre tempo och möjlighet att automatisera allt fler delar av ett intrång.