En ny internationell undersökning från Cisco visar att flera av dagens mest populära öppna AI-modeller fortfarande går att manipulera trots ökade säkerhetsåtgärder. Forskarnas stresstest av åtta öppna plattformar visade att endast ett fåtal kunde stå emot mer avancerade försök att kringgå säkerhetsregler.
Generativ AI har på kort tid blivit en naturlig del av både arbetsliv och vardag. Enligt rapporten Svenskarna och Internet 2025 använder fyra av tio tjänstemän AI-verktyg i sitt arbete – ofta för textbearbetning, sammanfattningar och analys av källmaterial. Samtidigt innebär användningen av öppna modeller att känsliga uppgifter kan hamna i system som inte är fullt skyddade.
För att undersöka säkerheten genomförde Ciscos forskarteam ett stresstest med verktyget Cisco AI Validation. De analyserade åtta öppna så kallade Open Weight-modeller, där AI-systemens parametrar är offentligt tillgängliga och kan laddas ned, anpassas och byggas vidare på. Testet genomfördes i två steg: dels med en serie förutbestämda, manipulerande kommandon (single turn), dels genom längre dialoger där modellen gradvis pressades att bryta mot sina egna begränsningar (multi turn).
Resultaten visade stora skillnader mellan modellerna. Endast tre av plattformarna lyckades stå emot fler än hälften av de avancerade multi turn-attackerna. Microsoft Phi-4 och OpenAI GPT-OSS-20b klarade sig bäst vid enklare attacker, medan Googles Gemma-3-1B-IT stod emot 74 procent av de mer komplexa försöken. Flera modeller lät dock igenom mer än tre fjärdedelar av attackerna.
– Att mata in information i en öppen AI-modell innebär att man släpper en del av kontrollen över den informationen. Testet visar att dagens öppna plattformar fortfarande inte är vattentäta. Det sker fortfarande mängder av incidenter och misstag dagligen, säger Henrik Bergqvist, cybersäkerhetsexpert på Cisco Sverige.
Henrik Bergqvist framhåller också att företag som bygger egna AI-lösningar baserade på öppna modeller behöver vara extra försiktiga.
– Genom att ändra vikter och parametrar riskerar man att oavsiktligt försämra säkerheten. I många fall läggs ansvaret över på användaren. Därför är det viktigt att kunna göra egna stresstester och att utbilda personalen i ansvarsfull AI-användning, säger han.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
