AI-agenter kan förändra säkerhetslandskapet genom att fatta beslut och genomföra åtgärder i IT-miljöer med en hastighet som traditionella säkerhetskontroller inte är byggda för. Det var ett av huvudbudskapen när HYCU presenterade sin nya satsning på AI-resiliens under IT Press Tour i Ljubljana i början av september.
Hycu har länge fokuserat på backup, data protection och återställning för moln- och SaaS-miljöer. Nu vill företaget ta nästa steg och rikta samma säkerhetstänk mot AI-agenter, som snabbt blir en del av företagens applikationsmiljöer.
På plats i Ljubljana presenterade bland andra Goran Garevski, CTO på Hycu, Andy Fernandez, GM för AI & Cyber på HYCU, och Don Jennings, senior director för global communications and PR på Hycu, företagets syn på hur den snabba utvecklingen av AI förändrar riskbilden.
Hycu beskriver utvecklingen som övergången från cyberresiliens till vad företaget kallar AI-resiliens. En central del är att kunna upptäcka vilka AI-agenter som finns i organisationen, vilka system de har tillgång till och vilka rättigheter de har – men också att kunna återställa data om en agent gör något fel.
Problemet, enligt Hycu, är inte bara att organisationer använder allt fler AI-agenter. Det är också att agenterna kan agera med en hastighet och omfattning som traditionella säkerhets- och styrningsmodeller inte är byggda för.
En människa kan exempelvis av misstag radera eller förändra information i ett system. En AI-agent med motsvarande behörighet kan däremot utföra samma typ av åtgärd mot stora mängder data på mycket kort tid. Eftersom åtgärden dessutom kan vara fullt autentiserad och auktoriserad kan traditionella kontroller ha svårt att avgöra om det som sker faktiskt är legitimt eller skadligt.
Goran Garevski lyfte under presentationen fram flera möjliga felkällor, bland annat hallucinationer, felaktiga instruktioner och så kallade stående autentiseringsuppgifter. En felaktig instruktion kan därmed få konsekvenser som blir betydligt större när den utförs av en agent i stället för av en människa.
Det innebär också att det inte går att lösa problemet enbart genom att lägga till fler människor som övervakar systemen. AI-agenter kan förändra och påverka miljöer i en takt där manuell övervakning snabbt blir otillräcklig.
En central del av Hycu nya satsning är Air Graph, ett verktyg som ska ge organisationer en visuell bild av deras AI- och SaaS-miljöer.
Tanken är att organisationen först måste förstå vad som faktiskt finns i miljön. Air Graph kan kopplas till bland annat identitetsplattformar och applikationer och används för att kartlägga vilka applikationer som används, vilka AI-verktyg som finns och vilka agenter som har tillgång till dem.
I demonstrationen visade Hycu hur systemet kan identifiera olika applikationer och servicekonton och visualisera hur de är sammankopplade. Det ska också gå att se vilka AI-agenter som används, vilka behörigheter de har och vilka risker som är förknippade med dessa behörigheter.
Det är ett försök att skapa synlighet i en miljö som annars snabbt kan bli svåröverskådlig. En organisation kan ha hundratals SaaS-tjänster och samtidigt få tusentals AI-agenter som interagerar med dessa system.
Hycus budskap är att problemet redan finns i organisationerna och inte är något som ligger flera år framåt i tiden.
Men Air Graph är bara den första delen. HYCU grundidé är att kartläggning måste kombineras med möjligheten att återställa.
Om en agent exempelvis raderar eller förändrar stora mängder information behöver organisationen kunna återgå till ett läge innan händelsen inträffade. Därför kopplas AI-resiliensen till HYCU befintliga backup- och återställningsfunktioner.
Hycu har i dag 106 integrationer för SaaS- och molntjänster och använder dessa som grund för data protection, backup och recovery. När en risk identifieras i exempelvis GitHub, Jira eller Salesforce ska organisationen kunna använda integrationen för att skydda och återställa informationen.
Företaget presenterade också Flight Recorder, en kommande funktion som ska gå ännu längre genom att göra det möjligt att återställa till tidpunkten precis innan en AI-agent genomförde en felaktig åtgärd.
Det innebär att backup i Hycu modell får en större roll än att enbart vara en försäkring mot ransomware, driftstörningar eller mänskliga misstag. Backupdata kan också användas för att förstå vad som har hänt i organisationens miljö och ge en historisk bild av förändringar.
Hycu ser samtidigt backupdata som en betydligt större resurs än en ren återställningskopia. Eftersom säkerhetskopiorna innehåller historisk information om data, metadata och loggar kan de användas för att analysera vad som har hänt över tid.
Det öppnar enligt Hycu för funktioner där AI kan användas för att ställa frågor mot backupinformationen och exempelvis identifiera avvikelser eller undersöka ett potentiellt insiderhot. I stället för att en säkerhetsanalytiker manuellt behöver gå igenom flera olika system kan historiken i backupmiljön användas som underlag för analys.
Hycu beskriver det som en utveckling där data protection blir en plattform för flera säkerhetsrelaterade användningsområden. AI kan då användas ovanpå den data som redan samlats in genom backup och återställning.
Det är också en del av företagets bredare ambition att flytta kategorin från traditionell data protection mot AI-resiliens. Hycu pekar bland annat på data classification, DSPM, kontextuell cyberintelligens och naturligt språk som funktioner som kan byggas ovanpå den befintliga datan.
AI-utvecklingen förändrar också synen på vilka data som behöver skyddas. Under presentationen lyfte HYCU särskilt fram utvecklingsmiljöer och kodarkiv.
GitHub och andra repositories har blivit centrala system för många organisationer, samtidigt som AI-verktyg nu används för att producera och förändra kod i en helt annan takt än tidigare. Det ökar behovet av backup och återställning, men också av att förstå vilka AI-agenter som har tillgång till koden.
Hycu beskriver utvecklingen som ett skifte där säkerhetsgränsen flyttar från användaren och identiteten till själva agenten. En agent kan vara autentiserad och ha rätt behörigheter, men ändå utföra en åtgärd som organisationen inte avsåg. Därför behöver frågan förändras från om en åtgärd var tillåten till om den faktiskt var korrekt och normal.
Hycu meddelade samtidigt att stödet för Azure DevOps nu är allmänt tillgängligt. Det omfattar enligt företaget bland annat pipelines, testplaner, artefakter, säkerhetsrelaterade objekt, användar- och gruppmedlemskap samt agent- och deploymentverktyg.
När AI ökar hastigheten i utvecklings- och förändringsarbetet förändras också kraven på backup.
En daglig säkerhetskopia kan vara otillräcklig i en miljö där AI-genererad kod och andra förändringar sker i betydligt högre takt än tidigare. HYCU pekar därför på behovet av tätare återställningspunkter och lyfter fram 30 minuter som ett exempel på en betydligt tätare skyddsnivå än traditionell daglig backup. Det finns också möjlighet att ta backup på begäran inför större förändringar.
Samtidigt konstaterar Hycu att hela branschen ännu inte har anpassat sig till den nya hastigheten. SaaS-plattformarnas egna möjligheter till kontinuerlig förändringsspårning och skydd är fortfarande varierande.
Det gör att återställningsförmågan blir en allt viktigare del av motståndskraften när AI-agenter får större åtkomst till organisationernas data och system.
Hycu presenterade även RServ, en funktion som tar sikte på en annan del av resiliensproblemet: vad som händer när själva molntjänsten blir otillgänglig.
I stället för att enbart återställa data när tjänsten är tillbaka ska RServ kunna tillhandahålla en replika av applikationens information så att användarna kan fortsätta komma åt den även vid ett avbrott hos den underliggande moln- eller SaaS-leverantören.
Hycu visade bland annat hur lösningen kan användas för applikationer som Confluence. Informationen hålls tillgänglig i en separat miljö och åtkomsten ska följa de behörigheter som gäller i den ursprungliga applikationen.
Det innebär ett bredare synsätt på backup. Målet är inte bara att kunna återställa efter en incident, utan att kunna fortsätta ha tillgång till verksamhetskritisk information medan incidenten pågår.
För Hycu är utvecklingen från traditionell backup till AI-resiliens inte ett avsteg från företagets tidigare verksamhet, utan en utvidgning av den.
Företaget beskriver själv förändringen som en förflyttning från cyberresiliens till AI-resiliens. Den befintliga infrastrukturen för backup och återställning ligger kvar, men kompletteras med möjligheten att kartlägga AI-agenter, förstå deras relationer till organisationens system och använda backupdata för analys och återställning.
Det centrala problemet som Hycu försöker adressera är därmed inte att organisationer ska sluta använda AI-agenter. Tvärtom är budskapet att produktivitetsvinsterna gör att användningen kommer att fortsätta öka. Utmaningen blir i stället att skapa tillräcklig insyn och återställningsförmåga för att organisationen ska kunna dra nytta av tekniken utan att samtidigt göra sig sårbar för dess hastighet.
Hycu ambition är därför att göra backupen till mer än en sista utväg när något redan har gått fel. I den nya modellen ska den också ge organisationen en karta över den växande agentvärlden, en historisk bild av vad som har hänt – och möjligheten att backa tillbaka när en maskin har gått för långt.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
