AI gör det möjligt att skapa trovärdiga personer, livsöden och berättelser i en takt som gör gamla bedrägerimetoder betydligt svårare att upptäcka. En granskning av Karl Emil Nikka och Dagens Nyheter visar hur AI-genererade personer används för att lura användare på TikTok – samtidigt som plattformen släpper igenom innehållet.
På TikTok möter användarna personer som ser verkliga ut och berättar personliga historier. Problemet är att personerna inte finns. De är skapade med AI och används för att sälja produkter och driva trafik till andra tjänster.
Granskningen är gjord av Karl Emil Nikka tillsammans med Dagens Nyheter. Karl Emil Nikka är it-säkerhetsexpert och bland annat krönikör för Aktuell Säkerhet.
Karl Emil Nikka
Falska identiteter är inget nytt. Det nya är hur enkelt och billigt de kan produceras. Med generativ AI kan bedragare skapa bilder, berättelser och innehåll som bygger upp en trovärdig persona – utan att personen bakom kontot behöver existera.
Det förändrar spelplanen. Det som tidigare krävde tid och manuellt arbete kan nu massproduceras.
Och ju mer övertygande det ser ut, desto svårare blir det för användaren att själv avgöra vad som är äkta.
Granskningen pekar samtidigt på en större säkerhetsfråga: vad händer när plattformarnas kontroller inte stoppar uppenbara bluffar?
Det är orimligt att lägga hela ansvaret på användaren när AI gör det möjligt att skapa hundratals falska identiteter och berättelser i hög takt. Plattformarna har både tekniken och datan för att upptäcka mönster som en enskild användare aldrig kan se.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
