Biden är AI-genererad.

Bakgrunden är en hotbild i förändring, där angripare i ökande grad använder AI för att manipulera människor snarare än system. Realistiska röstkloner, manipulerade videor och trovärdiga identiteter gör det svårare än någonsin att avgöra vad som är äkta.

Social manipulation med AI i fokus

Den nya kursen fokuserar på hur deepfakes används i social engineering-attacker – en metod som länge varit effektiv, men som nu förstärks kraftigt av AI-teknik.

Deltagarna får en genomgång av hur manipulationen går till steg för steg, vilka varningssignaler som finns och hur medarbetare bör agera när något inte stämmer. Särskild vikt läggs vid kritiskt tänkande och praktisk igenkänning, snarare än enbart teoretisk förståelse.

Personlig deepfake ska öka medvetenheten

Ett centralt inslag i utbildningen är ett inledande exempel där en deepfake av Junglemaps vd används för att illustrera hur övertygande tekniken kan vara. Kursen erbjuder även organisationer möjligheten att skapa en egen version – exempelvis med en AI-genererad video av den egna vd:n eller en annan nyckelperson.

Syftet är att skapa igenkänning och öka genomslaget internt.

Växande risk för säkerhetsbranschen

För den svenska säkerhetsbranschen är utvecklingen särskilt relevant. AI-baserade angrepp flyttar fokus från traditionella tekniska sårbarheter till människan som angreppspunkt – vilket ställer nya krav på utbildning och beteendeförändring.

Kursinnehållet omfattar bland annat:

  • hur deepfakes skapas och används i attacker
  • hur AI förstärker social manipulation
  • konkreta sätt att identifiera manipulerat innehåll
  • realistiska exempel på deepfake-videor

Sammantaget speglar lanseringen en tydlig trend: att cybersäkerhet i allt högre grad handlar om att stärka organisationers motståndskraft mot psykologisk påverkan – där AI nu blivit angriparens kanske mest kraftfulla verktyg.