Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.

Man behöver inte ha läst många science fiction-historier för att ha stött på beskrivningar av hur en artificiell intelligens (AI) inte alltid tar hänsyn till mänsklighetens välbefinnande.

Redan 1983 berättade WarGames om hur en artificiell intelligens höll på att starta ett tredje världskrig eftersom etik och moral inte var en del av dess programmering. Det är en berättelse som sedan dess har upprepats många gånger som fiktion, men som också har använts som en påminnelse om att vi bör vara försiktiga med utvecklingen av AI i den verkliga världen.

Fram till nyligen var AI ett abstrakt begrepp för de flesta. Det har mest synts till i vardagen genom berättelser som den ovan nämnda science fiction-klassikern eller som en del av marknadsföringsjargong om nya smarta programvarufunktioner i din mobiltelefon eller bil, vilket sällan har något med egentlig AI att göra.

Men så kom Midjourney, en intelligent bildbehandlingsprogramvara. Och plötsligt kunde vem som helst med hjälp av ledord få otroligt fantasifulla målningar, som skapats av en artificiell intelligens med förvånansvärt självförtroende – några verk har till och med har vunnit konstutställningar, där domarna inte känt till ”konstnären”. Och så har vi chattboten ChatGPT, som på skrämmande kort tid har blivit fascinerande duktig på att förstå och besvara alla slags frågor, men kanske desto mer imponerande är kreativ och ger ifrån sig relativt välskrivna formuleringar så länge användaren göder dess fantasi.

Tyvärr har medaljen en baksida. Även om det ännu inte finns några tecken på att Skynet är redo att ta över världen så använder hackare redan AI för att förfina sina metoder och bli bättre på att undvika att bli stoppade av den mjukvara och mänskliga logik som vanligtvis fungerar som det bästa försvaret mot hackerattacker.

Mejl från nigerianska prinsar blir övertygande
Ett av de största problemen är att ett program som ChatGPT är en självklar utgångspunkt för alla IT-kriminella, eftersom det med en relativt liten mängd indata kan skriva personliga e-postmeddelanden som har en mycket mer specifik ton och struktur som vänder sig specifikt till mottagaren – och på en mycket mer korrekt svenska än Google-översatt text.

Det är alltså inte längre lika lätt att upptäcka nätfiske eftersom mejlet kanske inte längre kommer från exotiska prinsar i Centralafrika som skriver om dolda förmögenheter, utan i stället innehåller något mycket mer jordnära och är skrivet på trovärdig svenska.

Här är det viktigt att påpeka att OpenAI, företaget bakom ChatGPT, har byggt in begränsningar i programmets kod som är utformade just för att motverka skadlig användning. Men flera artiklar tyder på att de mest kreativa bedragarna kan gå runt dessa begränsningar. Vi har redan sett framgångsrika försök, där kombinationen av automatiserade robotar och ChatGPT resulterat i en automatiserad rutin som kan skriva verklighetstrogna meddelanden till intet ont anande offer.

AI skriver skadlig malware
Möjligheterna för skadlig användning av program som ChatGPT är dock större än så, eftersom programvaran inte bara kan användas för att komponera texter utan även kod. På samma sätt som för text har OpenAI byggt in olika instanser i ChatGPT:s källkod som är avsedda att förhindra skapandet av skadlig kod.

Trots detta har man redan observerat de första angreppen av skadlig kod som delvis programmerats av den artificiella intelligensen. Och även om det knappast är förvånande att cyberbrottslingar försöker utnyttja AI:n på ett skadligt sätt, och att det fungerar, så är det otroligt fascinerande – och framkallar kalla kårar längs ryggraden – att AI:n ens kan skriva kod som faktiskt är funktionell.

Man får förmoda att OpenAI håller på att förbättra säkerheten i ChatGPT, men det ändrar inte det faktum att det redan nu finns exempel på hur tillgänglig artificiell intelligens kan användas för att skapa sofistikerade digitala attacker. AI är en transformativ utveckling inom tekniken. Och trots allt det goda den kan göra finns det gott om skadliga scenarier som den kan användas till.

Så vad gör man när nätfiskemejl inte längre avslöjar sig själva genom dåligt språk, konstiga historier eller löften om astronomiska summor? Det bästa stället att börja på är att se till att man har koll på IT-hygienen – och allt börjar med en god portion sund skepsis.

Visa tillit, men kom ihåg att bekräfta
Först och främst bör du vara skeptisk: de flesta av oss skulle inte ta emot erbjudanden från slumpmässiga förbipasserande på gatan, och därför finns det heller någon anledning att göra det med slumpmässiga e-postmeddelanden eller SMS från avsändare du aldrig har hört talas om.

Tänk också över säkerheten du använder på dina digitala enheter varje dag. Starka lösenord och tvåfaktorsautentisering är alltid en bra början och ger ett extra skyddslager om olyckan är framme.

Även om det numera är en gammal sanning när det gäller förebyggande av cyberbrott så gäller det fortfarande att man aldrig ska ladda ner, klicka på eller aktivera filer som man inte vet varifrån de kommer. Många kanske tycker att det är en självklarhet, men aktiveringen av skadliga filer blir alltmer sofistikerad, så det är alltid en god idé att vara försiktig, hur IT-erfaren man än är på användarnivå.

Det kan verka som en självklarhet för dig, men tänk på alla i din närhet som inte nödvändigtvis kan lika mycket och hjälp dem att förstå riskerna för IT-säkerheten med att lita blint på webben.

Jelle Wieringa, security awareness advocate hos KnowBe4

Rent allmänt är det bästa skyddet mot attacker fortfarande sunt förnuft, att vara lite skeptisk och tänka efter innan man klickar – och ha en allmän nyfikenhet att undersöka saker och ting innan man betraktar dem som ofarliga. Och sådant kan mycket väl behövas ännu mer i framtiden, nu när IT-kriminella överallt försöker ta hjälp av artificiell intelligens.

  • #ai
  • #chatgpt
  • #cybersäkerhet

Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik

Sponsrat innehåll från SSF
ANNONS

Undersökning visar: Små företag behöver hjälp med cybersäkerheten

Små företag är dåligt förberedda för att möta cyberattacker samtidigt som kraven från kunder ökar.