Deepfakes hotar tilliten – men det största vapnet är osäkerheten

Utvecklingen inom generativ AI har gjort det enklare än någonsin att skapa realistiskt innehåll. Bilder, röster, videor och text kan idag produceras i stor skala och riktas mot specifika målgrupper med hög precision.

Men enligt Andreas Edevald, senior analytiker med särskilt fokus på AI ur ett hot- och sårbarhetsperspektiv inom ramen för Sveriges psykologiska försvar, handlar hotet om långt mer än spektakulära deepfake-klipp.

– Vi behöver bredda perspektivet. Det handlar inte bara om deepfakes utan om generativ AI i stort – AI-genererad text, materialinsamling och möjligheten att målgruppsanpassa och skala upp informationspåverkan, säger han.

Informationspåverkan ”på steroider”

Enligt Andreas Edevald använder statliga hotaktörer redan AI för att effektivisera påverkansoperationer.

Framför allt pekar han på hur Ryssland använder tekniken för att skala upp sin informationspåverkan mot västvärlden.

– AI gör informationspåverkan som på steroider. Det blir billigare och enklare att producera stora mängder innehåll och rikta det mot olika målgrupper, säger han.

Det handlar samtidigt sällan om helt nya metoder. Snarare används etablerade tekniker för propaganda och påverkan – men nu i betydligt större skala och med högre precision.

Samtidigt visar svenska tillitsnivåer fortsatt motståndskraft. Sverige hör fortfarande till de länder där tilliten till både samhällsinstitutioner och andra människor är hög, även efter AI-boomen.

När misstanken blir vapnet

Men det är inte bara falskt material som utgör ett hot.

Ett växande problem är att själva misstanken om manipulation kan börja undergräva förtroendet för verkliga händelser. Fenomenet beskrivs ibland som att människor börjar avfärda allt som potentiellt falskt.

Här lyfter Andreas Edevald vikten av att förstå syftet bakom många påverkansoperationer.

– Vi måste vara vaksamma på polarisering och försök att skapa ett ”vi och dom”. Det handlar om att få människor att tappa tillit till varandra och till samhället, säger han.

Han betonar samtidigt att motståndskraft inte enbart handlar om förtroende för staten, utan också om det han beskriver som ”källtillit” – till etablerad media, faktagranskande journalistik, lokaljournalistik och utbildningssystemet.

Hotet är inte bara lögnen – utan osäkerheten

Historiskt har desinformation ofta handlat om att få människor att tro på något falskt. Men enligt Andreas Edevald kan det större hotet idag vara att skapa osäkerhet – att människor inte längre vet vad de ska tro på överhuvudtaget.

Han pekar på att ryska påverkansstrategier länge byggt på att skapa splittring och misstro.

– Vi får inte glömma att alla som bor här bor i Sverige och i grunden vill det bästa för vårt land. Att ställa människor mot varandra är ett centralt mål i många påverkansoperationer, säger han.

Begreppet ”liar’s dividend” beskriver samtidigt en utveckling där förekomsten av deepfakes gör det lättare att hävda att verkliga händelser aldrig ägt rum – eftersom allt kan avfärdas som manipulerat. Andreas Edevald pekar också på äldre ryska strategier där stora mängder motsägelsefull information används för att skapa kognitiv utmattning och ett slags ordnat kaos.

Sverige är rustat – men AI gör det svårare

Hur sårbart är då Sverige om deepfakes används i samband med en kris, ett val eller en säkerhetspolitisk händelse?

Enligt Andreas Edevald är Sverige relativt väl rustat för att stå emot informationspåverkan och inte någon primär måltavla i nuläget.

– Sverige är relativt väl rustat för att stå emot informationspåverkan och vi befinner oss långt ifrån något worst case-scenario. Generellt är Sverige bra på att hantera ryska påverkansförsök, säger han.

Samtidigt gör AI-genererat material det svårare att avgöra vad som är äkta.

Undersökningar visar att många tror sig kunna identifiera AI-genererat innehåll, men i praktiken är människor ofta ungefär lika träffsäkra som slumpen, beroende på materialets utformning.

Källkritik räcker inte ensam

När AI-genererat innehåll blir mer avancerat krävs därför bredare motåtgärder än traditionell källkritik.

Andreas Edevald efterlyser ett mer holistiskt samhällsperspektiv där medier, skolor, myndigheter och teknikföretag samverkar.

Han pekar bland annat på tekniska lösningar som vattenmärkning av AI-genererat material, där exempelvis stora teknikföretag försöker bygga in spårbarhet i sina system. Men han varnar samtidigt för att teknik aldrig ensam kan lösa problemet.

Framtidens större hot: perfekta botnätverk

Trots riskerna beskriver Andreas Edevald sig inte som alarmistisk.

Den största långsiktiga oron handlar snarare om nästa steg i utvecklingen – avancerade autonoma botnätverk som kan efterlikna mänskligt beteende på ett trovärdigt sätt.

– När vi får illasinnade, avancerade botnätverk som kan imitera människor nästan perfekt blir det svårare att förhålla sig till sociala medier som helhet. Men vi är inte där just nu, säger han.

”Öva, öva, öva”

Hans råd till svenska organisationer, myndigheter och medier är samtidigt konkret: vänta inte.

Rutiner, beredskap och sårbarheter behöver ses över redan nu – samtidigt som medvetenheten om hotet måste öka.

– Öva, öva, öva så att det sitter i ryggmärgen. Reflektera innan man reagerar känslostyrt och fundera på om något faktiskt verkar rimligt, avslutar Andreas Edevald.