• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

ChatGPT håller redan på att ändra marknaden för cyberbrottslighet

Vi står på tröskeln till AI-eran, där artificiell intelligens kommer att bli en permanent del av vår vardag – på gott och ont. Redan nu ser vi exempel på hur IT-kriminella utnyttjar chattboten ChatGPT för att skapa övertygande nätfiskemejl. Det skriver Jelle Wieringa, security awareness advocate hos KnowBe4.

-

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.

Man behöver inte ha läst många science fiction-historier för att ha stött på beskrivningar av hur en artificiell intelligens (AI) inte alltid tar hänsyn till mänsklighetens välbefinnande.

Redan 1983 berättade WarGames om hur en artificiell intelligens höll på att starta ett tredje världskrig eftersom etik och moral inte var en del av dess programmering. Det är en berättelse som sedan dess har upprepats många gånger som fiktion, men som också har använts som en påminnelse om att vi bör vara försiktiga med utvecklingen av AI i den verkliga världen.

Fram till nyligen var AI ett abstrakt begrepp för de flesta. Det har mest synts till i vardagen genom berättelser som den ovan nämnda science fiction-klassikern eller som en del av marknadsföringsjargong om nya smarta programvarufunktioner i din mobiltelefon eller bil, vilket sällan har något med egentlig AI att göra.

Men så kom Midjourney, en intelligent bildbehandlingsprogramvara. Och plötsligt kunde vem som helst med hjälp av ledord få otroligt fantasifulla målningar, som skapats av en artificiell intelligens med förvånansvärt självförtroende – några verk har till och med har vunnit konstutställningar, där domarna inte känt till ”konstnären”. Och så har vi chattboten ChatGPT, som på skrämmande kort tid har blivit fascinerande duktig på att förstå och besvara alla slags frågor, men kanske desto mer imponerande är kreativ och ger ifrån sig relativt välskrivna formuleringar så länge användaren göder dess fantasi.

Tyvärr har medaljen en baksida. Även om det ännu inte finns några tecken på att Skynet är redo att ta över världen så använder hackare redan AI för att förfina sina metoder och bli bättre på att undvika att bli stoppade av den mjukvara och mänskliga logik som vanligtvis fungerar som det bästa försvaret mot hackerattacker.

Mejl från nigerianska prinsar blir övertygande
Ett av de största problemen är att ett program som ChatGPT är en självklar utgångspunkt för alla IT-kriminella, eftersom det med en relativt liten mängd indata kan skriva personliga e-postmeddelanden som har en mycket mer specifik ton och struktur som vänder sig specifikt till mottagaren – och på en mycket mer korrekt svenska än Google-översatt text.

Det är alltså inte längre lika lätt att upptäcka nätfiske eftersom mejlet kanske inte längre kommer från exotiska prinsar i Centralafrika som skriver om dolda förmögenheter, utan i stället innehåller något mycket mer jordnära och är skrivet på trovärdig svenska.

Här är det viktigt att påpeka att OpenAI, företaget bakom ChatGPT, har byggt in begränsningar i programmets kod som är utformade just för att motverka skadlig användning. Men flera artiklar tyder på att de mest kreativa bedragarna kan gå runt dessa begränsningar. Vi har redan sett framgångsrika försök, där kombinationen av automatiserade robotar och ChatGPT resulterat i en automatiserad rutin som kan skriva verklighetstrogna meddelanden till intet ont anande offer.

AI skriver skadlig malware
Möjligheterna för skadlig användning av program som ChatGPT är dock större än så, eftersom programvaran inte bara kan användas för att komponera texter utan även kod. På samma sätt som för text har OpenAI byggt in olika instanser i ChatGPT:s källkod som är avsedda att förhindra skapandet av skadlig kod.

Trots detta har man redan observerat de första angreppen av skadlig kod som delvis programmerats av den artificiella intelligensen. Och även om det knappast är förvånande att cyberbrottslingar försöker utnyttja AI:n på ett skadligt sätt, och att det fungerar, så är det otroligt fascinerande – och framkallar kalla kårar längs ryggraden – att AI:n ens kan skriva kod som faktiskt är funktionell.

Man får förmoda att OpenAI håller på att förbättra säkerheten i ChatGPT, men det ändrar inte det faktum att det redan nu finns exempel på hur tillgänglig artificiell intelligens kan användas för att skapa sofistikerade digitala attacker. AI är en transformativ utveckling inom tekniken. Och trots allt det goda den kan göra finns det gott om skadliga scenarier som den kan användas till.

Så vad gör man när nätfiskemejl inte längre avslöjar sig själva genom dåligt språk, konstiga historier eller löften om astronomiska summor? Det bästa stället att börja på är att se till att man har koll på IT-hygienen – och allt börjar med en god portion sund skepsis.

Visa tillit, men kom ihåg att bekräfta
Först och främst bör du vara skeptisk: de flesta av oss skulle inte ta emot erbjudanden från slumpmässiga förbipasserande på gatan, och därför finns det heller någon anledning att göra det med slumpmässiga e-postmeddelanden eller SMS från avsändare du aldrig har hört talas om.

Tänk också över säkerheten du använder på dina digitala enheter varje dag. Starka lösenord och tvåfaktorsautentisering är alltid en bra början och ger ett extra skyddslager om olyckan är framme.

Även om det numera är en gammal sanning när det gäller förebyggande av cyberbrott så gäller det fortfarande att man aldrig ska ladda ner, klicka på eller aktivera filer som man inte vet varifrån de kommer. Många kanske tycker att det är en självklarhet, men aktiveringen av skadliga filer blir alltmer sofistikerad, så det är alltid en god idé att vara försiktig, hur IT-erfaren man än är på användarnivå.

Det kan verka som en självklarhet för dig, men tänk på alla i din närhet som inte nödvändigtvis kan lika mycket och hjälp dem att förstå riskerna för IT-säkerheten med att lita blint på webben.

Jelle Wieringa, security awareness advocate hos KnowBe4

Rent allmänt är det bästa skyddet mot attacker fortfarande sunt förnuft, att vara lite skeptisk och tänka efter innan man klickar – och ha en allmän nyfikenhet att undersöka saker och ting innan man betraktar dem som ofarliga. Och sådant kan mycket väl behövas ännu mer i framtiden, nu när IT-kriminella överallt försöker ta hjälp av artificiell intelligens.

REKLAMSAMARBETE

Cybersäkerhetslagen: ”Små företag måste agera nu”

Med cybersäkerhetslagen tar Sverige viktiga kliv framåt för att skydda kritisk infrastruktur och samhällsfunktioner från cyberhot. Antalet sektorer som omfattas ökar och det är...

FLER NYHETER

Efter kriget i Ukraina: Cyberrevanschism

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Ryssland har tagit rejält med stryk i kriget även om de ryska styrkorna lärde...

REKLAMSAMARBETE

”Generativ AI är fullkomligt avgörande för effektiv cybersäkerhet – både nu och i framtiden”

Den 13 juni, klockan 9.30, bjuder Aktuell Säkerhet och SentinelOne in till ett frukostwebinar om hur du kan använda generativ AI för effektivare cybersäkerhet,...

Ryssland laddar för OS i Paris med påverkanskampanj 

– Jag tror nästan säkert att vi kommer att få se rysk inblandning i sommar-OS. Allt sedan 2016 då Ryssland förbjöds att tävla under...

REKLAMSAMARBETE

Han blir ny affärsområdeschef för Security hos Enaco

Rickard Hammarberg kommer närmast från en tjänst inom affärsutveckling hos Caverion. Med sin omfattande kunskap och expertis kommer Rickard att spela en central roll...

Regeringen har presenterat ny nationell säkerhetsstrategi

– När regeringen tillträdde för snart två år sedan var det med ett tydligt mandat att ta tag i Sveriges inre och yttre säkerhet....

REKLAMSAMARBETE

Ny generaldirektör för IMY

Eric Leijonram är för närvarande chefsjurist på Finansinspektionen. Han har en bakgrund från bland annat domstol, Regeringskansliet och Kriminalvården. Utöver detta har Eric Leijonram...

Offentliga sektorn måste lära sig att hantera cyberattacker

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Sedan början av 2024 har flera svenska organisationer fallit offer för cyberattacker utförda av...

ASIS-sommarmingel med historiskt säkerhetsföretag

Jessica Fixelius bjöd på en kort presentation av Pinkerton som grundades i USA redan 1850 av Allan Pinkerton som världens första privatägda detektivbyrå. Företaget...

Uppdrag att utveckla samverkan med civilsamhället i det brottsförebyggande arbetet

– Brottsligheten måste bekämpas och förebyggas med hela samhällets samlade förmåga. Det civila samhällets organisationer erbjuder viktiga insatser på området och bidrar med erfarenheter...

Debatt: Cybersäkerhet måste bli en central fråga för verksamhet och affär

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.För ja, det är dyrare att bygga ett robust heltäckande system än att lappa...

Secify och Säkerhetsbranschen inleder samarbete

– Tillsammans med Säkerhetsbranschen ser vi fram emot att föra fram vårt perspektiv på informationssäkerhet i debatten. Med vår filosofi ”No nonsense security” vill...

Starkt andra kvartal för Junglemap – ökar nyförsäljningen med 35 procent

Junglemap inledde 2024 starkt med en 20-procentig ökning av antalet kunder under Q1 jämfört med föregående år. Den positiva trenden håller i sig och...

Tempest tecknar avtal om personskydd med Stockholms stad

– Att vi har fått förtroendet att leverera personskyddstjänster till denna kund är ett tydligt erkännande av vår kompetens och pålitlighet inom personsäkerhet. Detta...

RAPPORT: It-säkerheten i vården under fortsatt hård press

Enligt undersökningen växer oron kring datasäkerhet bland de it-ansvariga i den svenska vården. I årets rapport uttrycker 21 procent oro över datasäkerheten, en betydande...

Säkerhetsarenan gjorde sitt andra år i Almedalen

SäkerhetsföretagenSäkerhetsföretagen deltog i Almedalen hela veckan där de anordnade ett flertal seminarier och rundabordssamtal med syftet att lyfta det viktiga arbete som sker i...