AI används redan för att automatisera och skala upp cyberattacker i en omfattning som tidigare inte varit möjlig. Det framgår av en ny global cybersäkerhetsrapport från KPMG, som samtidigt pekar ut kompetensbrist och okontrollerade AI-agenter som växande säkerhetsrisker för företag och organisationer.
Rapporten bygger på flera globala undersökningar bland företagsledare och IT-chefer samt analyser från experter hos bland andra Google, Microsoft, Palo Alto Networks och ServiceNow.
Enligt rapporten använder hotaktörer redan AI för att genomföra automatiserade attacker i stor skala, där flera AI-agenter kan arbeta parallellt för att identifiera sårbarheter, genomföra intrång och skala operationer snabbare än tidigare.
Ett område som särskilt lyfts fram är framväxten av så kallade ”shadow agents” – autonoma AI-agenter som används inom organisationer utan säkerhetsteamens kännedom.
Enligt rapporten kan dessa i vissa fall även skapa ytterligare AI-agenter på egen hand, vilket riskerar att göra organisationers AI-miljöer betydligt svårare att överblicka och kontrollera.
– Utvecklingen kring kraftfulla AI-modeller visar hur snabbt hotbilden förändras. Det här handlar inte om en framtida risk – utan om förmågor som redan i dag kan utnyttjas för att skala och automatisera cyberangrepp i en takt vi aldrig sett tidigare, säger Visar Lapashtica.
Samtidigt pekar rapporten på att samma teknik också kan stärka organisationers försvarsförmåga. AI kan användas för att analysera stora datamängder, identifiera hotmönster och automatisera delar av säkerhetsarbetet dygnet runt.
– Användningen av AI och automation kommer att vara helt avgörande för att hantera den växande attackytan, säger Visar Lapashtica.
Enligt KPMG uppger 92 procent av de teknikchefer som deltagit i bolagets globala techrapport att förmågan att hantera AI-agenter kommer att vara en central kompetens inom fem år.
I rapporten pekar KPMG ut tre områden där organisationer behöver agera snabbt.
Det första handlar om att bygga in säkerhet direkt i AI-system från början, snarare än att lägga till skydd i efterhand. Organisationer rekommenderas att införa tydliga ramverk för hur AI-agenter får agera samt kontinuerlig övervakning av deras beteende.
Det andra området gäller hantering av så kallade icke-mänskliga identiteter, exempelvis AI-agenter, maskiner och servicekonton. Enligt rapporten överstiger dessa redan mänskliga användare i många miljöer, samtidigt som tredjepartsintrång pekas ut som en av de största globala säkerhetsriskerna.
Det tredje området handlar om kompetensförsörjning. Rapporten beskriver hur cyberhotens komplexitet växer snabbare än tillgången till rätt säkerhetskompetens, vilket gör att många organisationer tvingas fokusera på akuta incidenter istället för långsiktig motståndskraft.
– Bristen på rätt kompetens är redan i dag ett av de största hindren för att hantera en mer avancerad och AI-driven hotbild, säger Visar Lapashtica.
Han menar att cybersäkerhet inte längre kan betraktas som en isolerad teknikfråga.
– De organisationer som kombinerar teknik med rätt människor, styrning och externa partners kommer stå starkast framåt, säger han.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
