• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

ChatGPT håller redan på att ändra marknaden för cyberbrottslighet

Vi står på tröskeln till AI-eran, där artificiell intelligens kommer att bli en permanent del av vår vardag – på gott och ont. Redan nu ser vi exempel på hur IT-kriminella utnyttjar chattboten ChatGPT för att skapa övertygande nätfiskemejl. Det skriver Jelle Wieringa, security awareness advocate hos KnowBe4.

-

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.

Man behöver inte ha läst många science fiction-historier för att ha stött på beskrivningar av hur en artificiell intelligens (AI) inte alltid tar hänsyn till mänsklighetens välbefinnande.

Redan 1983 berättade WarGames om hur en artificiell intelligens höll på att starta ett tredje världskrig eftersom etik och moral inte var en del av dess programmering. Det är en berättelse som sedan dess har upprepats många gånger som fiktion, men som också har använts som en påminnelse om att vi bör vara försiktiga med utvecklingen av AI i den verkliga världen.

Fram till nyligen var AI ett abstrakt begrepp för de flesta. Det har mest synts till i vardagen genom berättelser som den ovan nämnda science fiction-klassikern eller som en del av marknadsföringsjargong om nya smarta programvarufunktioner i din mobiltelefon eller bil, vilket sällan har något med egentlig AI att göra.

Men så kom Midjourney, en intelligent bildbehandlingsprogramvara. Och plötsligt kunde vem som helst med hjälp av ledord få otroligt fantasifulla målningar, som skapats av en artificiell intelligens med förvånansvärt självförtroende – några verk har till och med har vunnit konstutställningar, där domarna inte känt till ”konstnären”. Och så har vi chattboten ChatGPT, som på skrämmande kort tid har blivit fascinerande duktig på att förstå och besvara alla slags frågor, men kanske desto mer imponerande är kreativ och ger ifrån sig relativt välskrivna formuleringar så länge användaren göder dess fantasi.

Tyvärr har medaljen en baksida. Även om det ännu inte finns några tecken på att Skynet är redo att ta över världen så använder hackare redan AI för att förfina sina metoder och bli bättre på att undvika att bli stoppade av den mjukvara och mänskliga logik som vanligtvis fungerar som det bästa försvaret mot hackerattacker.

Mejl från nigerianska prinsar blir övertygande
Ett av de största problemen är att ett program som ChatGPT är en självklar utgångspunkt för alla IT-kriminella, eftersom det med en relativt liten mängd indata kan skriva personliga e-postmeddelanden som har en mycket mer specifik ton och struktur som vänder sig specifikt till mottagaren – och på en mycket mer korrekt svenska än Google-översatt text.

Det är alltså inte längre lika lätt att upptäcka nätfiske eftersom mejlet kanske inte längre kommer från exotiska prinsar i Centralafrika som skriver om dolda förmögenheter, utan i stället innehåller något mycket mer jordnära och är skrivet på trovärdig svenska.

Här är det viktigt att påpeka att OpenAI, företaget bakom ChatGPT, har byggt in begränsningar i programmets kod som är utformade just för att motverka skadlig användning. Men flera artiklar tyder på att de mest kreativa bedragarna kan gå runt dessa begränsningar. Vi har redan sett framgångsrika försök, där kombinationen av automatiserade robotar och ChatGPT resulterat i en automatiserad rutin som kan skriva verklighetstrogna meddelanden till intet ont anande offer.

AI skriver skadlig malware
Möjligheterna för skadlig användning av program som ChatGPT är dock större än så, eftersom programvaran inte bara kan användas för att komponera texter utan även kod. På samma sätt som för text har OpenAI byggt in olika instanser i ChatGPT:s källkod som är avsedda att förhindra skapandet av skadlig kod.

Trots detta har man redan observerat de första angreppen av skadlig kod som delvis programmerats av den artificiella intelligensen. Och även om det knappast är förvånande att cyberbrottslingar försöker utnyttja AI:n på ett skadligt sätt, och att det fungerar, så är det otroligt fascinerande – och framkallar kalla kårar längs ryggraden – att AI:n ens kan skriva kod som faktiskt är funktionell.

Man får förmoda att OpenAI håller på att förbättra säkerheten i ChatGPT, men det ändrar inte det faktum att det redan nu finns exempel på hur tillgänglig artificiell intelligens kan användas för att skapa sofistikerade digitala attacker. AI är en transformativ utveckling inom tekniken. Och trots allt det goda den kan göra finns det gott om skadliga scenarier som den kan användas till.

Så vad gör man när nätfiskemejl inte längre avslöjar sig själva genom dåligt språk, konstiga historier eller löften om astronomiska summor? Det bästa stället att börja på är att se till att man har koll på IT-hygienen – och allt börjar med en god portion sund skepsis.

Visa tillit, men kom ihåg att bekräfta
Först och främst bör du vara skeptisk: de flesta av oss skulle inte ta emot erbjudanden från slumpmässiga förbipasserande på gatan, och därför finns det heller någon anledning att göra det med slumpmässiga e-postmeddelanden eller SMS från avsändare du aldrig har hört talas om.

Tänk också över säkerheten du använder på dina digitala enheter varje dag. Starka lösenord och tvåfaktorsautentisering är alltid en bra början och ger ett extra skyddslager om olyckan är framme.

Även om det numera är en gammal sanning när det gäller förebyggande av cyberbrott så gäller det fortfarande att man aldrig ska ladda ner, klicka på eller aktivera filer som man inte vet varifrån de kommer. Många kanske tycker att det är en självklarhet, men aktiveringen av skadliga filer blir alltmer sofistikerad, så det är alltid en god idé att vara försiktig, hur IT-erfaren man än är på användarnivå.

Det kan verka som en självklarhet för dig, men tänk på alla i din närhet som inte nödvändigtvis kan lika mycket och hjälp dem att förstå riskerna för IT-säkerheten med att lita blint på webben.

Jelle Wieringa, security awareness advocate hos KnowBe4

Rent allmänt är det bästa skyddet mot attacker fortfarande sunt förnuft, att vara lite skeptisk och tänka efter innan man klickar – och ha en allmän nyfikenhet att undersöka saker och ting innan man betraktar dem som ofarliga. Och sådant kan mycket väl behövas ännu mer i framtiden, nu när IT-kriminella överallt försöker ta hjälp av artificiell intelligens.

REKLAMSAMARBETE

Landets IT-chefer överens – säkerheten har högsta prioritet 

I en rapport från Voister CIO Analytics 2023 anger landets it-beslutsfattare, både i privat och offentlig sektor, att säkerheten har högsta prioritet och säkerhetsexperter...

FLER NYHETER

Ny tjänst för att hantera cyberattacker och återstarta verksamheter

– För svenska kunder gör vi på Kyndryl Sverige först en genomgång av kundens cybersäkerhetsarbete, sätter upp kontakten med det globala CSIRF-teamet och hjälper...

REKLAMSAMARBETE

A proactive approach to cyber and physical security 

When choosing a physical security system, organizations must also consider cybersecurity and the security of their security. This article looks at the importance of...

Safello och Tullverket ingår avtal

Avtalet ingås till följd av att Safello vunnit Polismyndighetens offentliga upphandling och omfattar tre myndigheter - Polismyndigheten, Tullverket samt Ekobrottsmyndigheten.Enligt avtalet, som nu har...

REKLAMSAMARBETE

Säkra upp företagets digitala resa med Knowit och SSF

I en tid av konstant förändring, digitalisering och snabb teknologisk utveckling är kunskap om säkerhetslagar och regelverk en kritisk fråga för företag. Ett av...

Ny försäljningsdirektör på Securitas Technology Sverige

Thomas Ekfeldt kommer närmast från rollen som nationell försäljningschef regioner. Han har arbetat på Securitas Technology i 13 år, i olika ledande befattningar inom...

Sommarstormarna drabbar även cyberrymden

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Du har knappast missat att Sverige har drabbats av en våg DDoS-attacker (Distributed Denial-of-Service)....

REKLAMSAMARBETE

En ny era med säkra identiteter 

Har du kollegor som du aldrig har träffat personligen? Började de i ditt team under pandemin och fortfarande arbetar hemifrån? Distansarbete har många fördelar,...

Han är ny regionchef på SafeTeam

Johan Gustafsson Möller kommer senast från GK Sverige, ett installationsföretag i byggbranschen där han ansvarade för verksamheten inom fastighetsautomation i Sverige. Han har även...

Kicki Björklund ny styrelseledamot i styrelsen för Tryggare Sverige

Kicki Björklund har varit affärsområdeschef i det privatägda företaget John Mattson samt vd i de allmännyttiga bostadsbolagen SigtunaHem och Göteborgs Stads Bostadsaktiebolag.– I mitt...

Digitalt passersystem ger säkrare depåer

– Som fastighetsägare tänker vi ständigt framåt. Nu är vår ambition att få en molnbaserad plattform, för att oberoende av plats kunna administrera fastigheter över...

Stor satsning på militärt försvar i regeringens höstbudget

Ökningen innebär att anslagsnivån har fördubblats sedan 2020 och att Sverige redan 2024 kommer att uppfylla målsättningen om att försvarsutgifterna ska uppgå till två...

Structor Riskbyrån växer inom krisberedskap och riskhantering

Anders Rosqvist är även ordförande för arbetsgruppen Kontinuitetshantering och resiliens inom SIS tekniska kommitté Samhällssäkerhet.– Min ambition är att utveckla mer resilienta samhällen. Pandemin,...

UNDERSÖKNING: Delade åsikter om hurvida cybersäkerhet är en ledningsfråga

I en ny undersökning från det globala cybersäkerhetsföretaget Palo Alto Networks anser 42 procent av svenska vd:ar att cybersäkerhet inte hör hemma på styrelsenivå....

MW Group skriver avtal med FMV

MW Groups lösning Cleamix är en dekontamineringsanordning, byggd på en innovation för förångning av väteperoxid. Den kan användas för att dekontaminering av logistikanläggningar, transportfordon och...

OneMore Secure och Svensk Handel inleder samarbete

– För oss är det en självklarhet att samarbeta med Svensk Handel som är en av de största branschorganisationerna i Sverige. När det kommer...

Banksektorn behöver hantera ökade hot från digitala bedrägerier

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Brottslingar anpassar sig snabbt till den tekniska utvecklingen, vilket gör att traditionella åtgärder för...

Tempest Security skriver avtal med Göteborgs stad gällande larm- och skyddstjänster

Avtalen har en gemensam takvolym om 700 miljoner kronor under avtalsperioden och ger Tempest Security möjlighet att delta i kommande avrop i konkurrens med...