• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

Chat GPT används för nätfiskeangrepp

Chattboten Chat GPT som utvecklats av det ideella forskningsbolaget OpenAI förväntas skapa en ny våg av AI-baserade nätfiskeangrepp.

-

Utvecklingen går snabbt och vi läser dagligen om hur Chat GPT gjort om spelplanen genom att skapa välskriven text på bara ett ögonblick. På samma gång förväntas verktyg som med olika metoder identifierar och varnar för AI-genererat innehåll införlivas i plattformar som ska motverka nätfiske.

Ett par exempel på motmedel som är under utveckling är GPT-2 Output Detector och vattenmärkning. 

I en online-demo av GPT-2 Output Detector kan användaren klistra in text i en ruta och omedelbart se sannolikheten att texten är skriven av AI. Enligt forskning från OpenAI har verktyget en relativt hög upptäcktsgrad, men behöver kombineras med metadatabaserade metoder och mänskligt omdöme för att bli mer effektivt.

Ett annat sätt att ta sig an problemet är att vattenmärka all Chat GPT-text. Enligt OpenAI-forskaren Scott Aaronson har ingenjörer redan byggt en fungerande prototyp som vattenstämplar all text som skapas av Open AI. För att klara det använder verktyget vad han kallar en ”kryptografisk pseudoslumpfunktion.” Och bara OpenAI har tillgång till nyckeln.

– Om OpenAI-ingenjörer lyckats skapa en bot som kan skriva lika bra som eller bättre än den genomsnittliga människan, så är det naturligt att de också kan skapa en bot som bättre än genomsnittet upptäcker när en text har genererats av AI, säger Peter Graymon, ansvarig för Barracuda Networks i Norden. 

– Just nu måste vi utgå från att nätfiskeattackerna snart kommer att öka både vad gäller volym och trovärdighet. Många digitala processer kommer sannolikt att behöva omvärderas helt enkelt därför att den nuvarande nivån av tillit inte längre är möjlig när AI-genererad text och e-post blivit ett verktyg för cyberkriminella. Möjligheterna för olika aktörer att utnyttja Chat GPT och liknande verktyg för påverkansoperationer bidrar också till att vi måste ompröva vårt sätt att ta till oss och värdera innehåll som kan se mycket trovärdigt och välskrivet ut, avslutar Peter Graymon.

REKLAMSAMARBETE

Säkra leverantörskedjan

Hot och risker kopplat till leverantörskedjan är ett gissel som går tillbaka många år. Många är de incidenter där just underleverantören och deras bristande...

FLER NYHETER

Sofistikerade DDoS-attacker överlistar statiska skydd – nu krävs uppdaterade försvarstekniker

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.DDoS-attacker, distribuerade överbelastningsattacker, är enkla att förstå i stora drag. Det handlar om att...

REKLAMSAMARBETE

Nyckelfri vardag för din bostadsrättsförening

– I en bostadsrättsförening finns det många fysiska nycklar, där förvaltaren måste låsa upp för de boende när de tappat bort sina nycklar. Detta...

Cyberhot mot sjukvården fortsätter öka

Under det senaste året har attackerna ökat med 78 procent och stigit till ett genomsnitt på 1 426 attacker per organisation och vecka, en...

REKLAMSAMARBETE

Teknik för en säkrare energibransch

Ett ställverk på en avlägsen plats. En transformatorstation djupt inne i skogen. Mängder av viktiga – och geografiskt spridda – byggnader. Så ser verkligheten...

Ny försäljningschef på Basalt

Ulrika Wergens har under många år arbetat med försäljning, ledning, förändringsledning och affärsutveckling inom bland annat IT- säkerhets- och utbildningssektorn.– Att få arbeta...

CSG får fortsatt förtroende som trygghetsvärdar av SL

Uppdraget, som startade den 1 oktober 2020, innefattar en löptid om totalt tre år med en option på ytterligare två plus ett år. Trafikförvaltningen...

REKLAMSAMARBETE

Vem, mot vem – och hur? En kategorisering av cyberkriminella, deras offer och deras...

Året började med en internationellt uppmärksammad attack mot en oljetank, tätt följt av hackergruppen Lapsus$s angrepp mot Samsung – då en hel del konfidentiella...

OneMore Secure ingår partnerskap med norskt investeringsföretag

OneMore Secure grundades 2022 och släppte i januari 2023 sin Saas-tjänst med en säkerhetsdeklaration, baserad på 40 verifierade kontrollpunkter som visar på företags motståndskraft...

Så kan självkörande bilar bli säkrare

Avancerade förarassistanssystem (ADAS) och automatiserad körning (AD) förbättrar körkomforten och gör trafiken säkrare genom att antalet olyckor på våra vägar minskas. Om man utvecklar...

Utbyggnad av fiber och 5G minskar bredbandsklyftan

Utbyggnaden av fibernät utanför tätort driver på den ökade bredbandstäckning som PTS redovisar i sin årliga kartläggning. Täckningen av 5G-nät har också ökat betydligt...

Möt den grävande journalisten Tom Burgis under Penningtvättsdagarna

Tom Burgis är författare till den storsäljande boken Kleptopia: How Dirty Money Is Conquering the World och kommer att rapportera för den brittiska dagstidningen...

Tempest Security inför AI-driven larmfiltrering

– U-Filter visade sig vara upp till tre gånger mer effektivt vid filtrering av falsklarm än andra lösningar. Vi använder U-filter i skarp drift i...

Ny HR-chef på Heras

Maria Mäki tillträde sin nya roll som HR-chef för Heras AB i november 2022. Huvudkontoret har sitt säte i Helsingborg, men rollen innebär ansvar...

IMY startar innovationshub

I april 2021 fick Integritetsskyddsmyndigheten (IMY) i uppdrag av regeringen att genomföra metod- och kunskapsutvecklande insatser för att höja kunskapen om integritets- och dataskyddsfrågor...

Technopolis signerar långsiktigt avtal med Rapid Säkerhet

– Det som avgjorde vårt val av Technopolis är helheten. Det finns mycket bra här – närhet till våra kunder, lokalernas utformning och potential,...

Du kan aldrig skydda det du inte vet finns

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Tyvärr finns det inga tecken på att cyberattackerna minskar. Faktum är att de viktiga...

Advenica blir medlem i forskningssamarbetet Software Center

Software Center har som mission att avsevärt förbättra Software Engineering-kapaciteten och digitaliseringsförmågan hos mjukvaruintensiv industri. Forskningen handlar därför om hur digital transformation påverkar ett...

Sofistikerade DDoS-attacker överlistar statiska skydd – nu krävs uppdaterade försvarstekniker

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.DDoS-attacker, distribuerade överbelastningsattacker, är...