AI används i allt större utsträckning för att automatisera cyberattacker. Nu presenterar säkerhetsföretaget Tracebit en metod som ska få AI-drivna angripare att stoppa sig själva. Genom så kallade context bombs utnyttjas språkmodellernas egna säkerhetsspärrar – en teknik som i tester kraftigt minskade antalet lyckade intrång.
Autonoma AI-agenter blir allt bättre på att genomföra cyberattacker. Nu presenterar säkerhetsföretaget Tracebit en metod som utnyttjar AI-modellernas egna säkerhetsbegränsningar för att stoppa attackerna innan de når sina mål. I tester minskade antalet lyckade intrång med omkring 90 procent.
När AI-agenter används för offensiva cyberoperationer kan de på några minuter kartlägga en molnmiljö, eskalera sina behörigheter och exfiltrera känslig information. Tidigare forskning har visat att så kallade canaries – falska resurser som fungerar som lockbeten – kan ge försvarare en tidig varning om att en attack pågår.
Tracebits nya forskning går ett steg längre.
Metoden bygger på att en kort textsträng, en så kallad context bomb, placeras i ett lockbete, exempelvis en falsk hemlighet i AWS Secrets Manager. När en AI-agent läser innehållet aktiveras modellens egna säkerhetsspärrar, vilket gör att agenten avbryter sitt uppdrag eller vägrar fortsätta attacken.
I studien testades fem ledande språkmodeller i en simulerad AWS-miljö med flera möjliga attackvägar. Enligt Tracebit sjönk andelen attacker som lyckades nå administratörsbehörighet från i genomsnitt 57 till 5 procent när context bombs användes. Andelen fullständiga komprometteringar minskade från 36 till 1 procent.
Forskarna konstaterar samtidigt att samma context bomb inte fungerar mot alla modeller. Västerländska modeller som Claude Opus och Gemini reagerade främst på känsliga biologiska ämnen, medan kinesiska modeller i större utsträckning stoppades av politiskt känsligt innehåll skrivet på kinesiska.
Metoden bygger alltså på att försvararen känner till vilken typ av AI-modell angriparen sannolikt använder.
Tracebit betonar att tekniken inte eliminerar hotet från AI-drivna attacker. Angripare kan på sikt anpassa sina verktyg eller använda modeller utan motsvarande säkerhetsbegränsningar. Företaget ser därför context bombs som ett komplement till befintliga skyddsåtgärder, där lockbetet både kan ge en tidig varning och i bästa fall avbryta attacken.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
