• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

Säkerhetsexpert om ChatGPT: ”Det finns goda skäl till oro”

OpenAI:s chatbot ChatGPT har varit på mångas läppar den senaste tiden - men vad innebär tjänsten för säkerheten? Vi fick ett snack med Nathan Howe, säkerhetsexpert på Zscaler för att reda ut saken.

-

Nathan Howe, säkerhetsexpert på Zscaler

Vilka säkerhetsrisker innebär ChatGPT?

Den stora risken är att data sprids. I samma ögonblick som du exponerar något på internet så förlorar du kontrollen över det. En chatbot som ChatGPT kan ta din information ur sitt ursprungliga sammanhang och montera ihop den på ett nytt sätt. Det är inte säkert att du gillar hur informationen sedan används, och du har inget inflytande över detta.

Informationssäkerhetsansvariga måste därför se till att verksamhetens data hanteras på ett ansvarsfullt sätt när den exponeras på internet. Om vi vill att ChatGPT inte ska ha samma dåliga inflytande som en del tidigare chatbotar måste vi helt enkelt bli bättre på att ha kontroll över var och hur vår data lagras.

Så – är inte ChatGPT en bra tjänst?

ChatGPT är en inspirerande företeelse, men det finns goda skäl till att ha en viss oro. Det var trots allt bara sex år sedan som Microsofts Tay-chatbot stängdes av efter 16 timmar, efter att den upprepade gånger använt sig av aggressivt och stötande innehåll som den samlat in från Twitter. Varför gjorde Tay detta? Eftersom dess data var förorenad och saknade kontexten. Därför förstod Tay inte att den gjorde något fel.

Oavsett om det handlar om ett Instagram-inlägg eller data som sparats i molntjänster kan någon kopiera informationen, och därefter kan ett ChatGPT-liknande program använda datan. Vi ska dessutom inte glömma att ChatGPT bara är ett exempel bland många. Det finns andra AI, och även sådana som samlar in data för mer elakartade användningsområden.

Årtiondets fråga är denna: hur utformas och används AI och chatbotar på ett ansvarsfullt sätt, som en bra och användbar tjänst?

Vad kan göra AI-tjänster som ChatGPT ofarliga?

För att en AI som ChatGPT över huvud taget ska kunna fungera på ett ansvarstagande sätt behöver den få veta vad som är information den får använda och vad som inte är det – till exempel personers namn, telefonnummer, personliga beskrivningar eller kanske bilder.

För företag och andra verksamheter är faran framför allt att deras data kommer spridas och användas av chatbotar, utan deras tillåtelse. De som är ansvariga för att skydda verksamheters information, t.ex. IT-säkerhetsansvariga och HR-avdelningar, måste därför göra det med stor försiktighet. Varje data har ett helt annat värde idag än den skulle ha haft för några år sedan och därför måste den skyddas bättre.

Förhoppningsvis blir uppmärksamheten kring ChatGPT en väckarklocka för företag att börja titta på hur de behandlar sin data, så att de börjar aktivt bestämma vilken data de ska samla in och behålla i sina system samt hur den kan användas och skyddas.

Vad behöver företagen göra för att skydda känsliga data från en chatbot?

För att undvika att data används på sätt som den inte borde användas på är det viktigt att kategorisera data och sätta kontroller kring känslig information. Som ett första steg måste IT-ansvariga få fullständig synlighet över all data som lagras i deras IT-system, så att de kan vidta åtgärder för att klassificera den.

Dessutom måste data kategoriseras bortom bara personlig kontra offentlig. Det måste vara en djupare segmentering – är uppgifterna personliga, identifierbara, konfidentiella? Utan sådana distinktioner kommer riskerna för att AI-verktygen missbrukar informationen när de blir intelligentare bara bli större och större.

REKLAMSAMARBETE

Visste du detta om Ransomware?

Ransomware har blivit en alltmer akut fråga som berör företag i alla storlekar och ingen organisation är immun mot dess följder. Vad som kanske inte är lika känt är att Ransomware omfattar flera olika typer av attacker. Samtidigt fortsätter Ransomware-incidenter att utvecklas och anpassa sig till nya förhållanden. Från krypteringsbaserad Ransomware till dubbel och nu till och med trippel utpressning. Trots att vi har nått år 2024 är det många organisationer som fortfarande förlitar sig på föråldrade anti-ransomware-kontroller och tankesätt.

FLER NYHETER

Atea lanserar två nya säkerhetstjänster

– Cyberhotet fortsätter att tillta och vi vet från Nordeuropas största CIO-undersökning Voister CIO Analytics för 2024 att svenska it-beslutsfattare har säkerhet som sitt främsta fokus....

REKLAMSAMARBETE

RAPPORT: Svenska företag saknar strategier för att implementera AI

De svenska siffrorna visar, att trots det höga trycket på att företag måste arbeta aktivt med AI, är majoriteten av företagen i Sverige fast...

REKLAMSAMARBETE

Hon blir ansvarig för Norden och Kina för Orange Cyberdefense

Kaja Narum har under de senaste ett och ett halvt åren arbetat som senior vice president global service lines på Orange Cyberdefense och antar...

Trend Micro lanserar nytt partnerprogram för att optimera partners intäkter

I samband med att cyberriskerna eskalerar och IT-miljöer och lösningar blir alltmer komplexa ökar kunders behov av att ha en IT-partner som verkar som...

REKLAMSAMARBETE

Stora brister i cybersäkerheten hos bilverkstäder

Våra bilar kan idag beskrivas som uppkopplade, avancerade datorer på hjul och dessa datorer hanterar allt från antisladdsystem till adaptiva farthållare. På senare tid...

It-total anställer agent till sin servicedesk workplace-avdelning

– Tedros kom väldigt snabbt in i både gemenskapen och arbetsuppgifterna. Med en positiv inställning och ett härligt driv så lyckades han komma igång...

Så här skyddar vi vår supply chain – nyckelfrågor för en säkrare framtid

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Att digitala leveranskedjor är en kritisk svag punkt i vår cybersäkerhet är välkänt. Den...

Nato beställer kommunikationslösning av Sectra

– Nato har använt Sectras lösningar för avlyssningssäker kommunikation i många år och vi har samarbetat med alliansen i över 20 år. Vi är...

Nytt virtuellt utbildningsverktyg ska öka personsäkerhet i industrin

Åkerströms egenutvecklade VR-simulatorer erbjuder en realistisk och säker träningsmiljö för kranoperatörer, utformade enligt svensk industris krav och tillämpliga standarder. Genom att kombinera företagets radiostyrningssystem...

Pr-byrå satsar på cybersäkerhet

– Företagen behöver öka sin digitala motståndskraft. Cybersäkerhet är en fråga som sträcker sig långt bortom it-avdelningen och handlar lika mycket om kommunikation och...

Ny endagskonferens under Skydd

Besökarna kommer att få uppleva hur respektive fas i händelsen analyseras och kommenteras av de personer som i verkligheten är involverade. Steg för steg...

”Det råder högkonjunktur för cyberkrigföring”

Behöver svenska företag vara förberedda på att drabbas av attacker liknande de som nyligen drabbade Systembolagets leverantör Skanlog och Umeå universitet? Om ja, varför?–...

Cybersäkerhet som kunskapsområde: En lösning på kompetensbristen

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.Även regeringen har sedan flera år tillbaka identifierat behovet att höja den grundläggande nivån...

Enaco lanserar nytt affärsområde inom säkerhet

– Genom att lansera Enaco Security svarar vi på den ökande efterfrågan på säkra och anpassade säkerhetslösningar som skyddar viktiga tillgångar och data i...

Så här skyddar vi vår supply chain – nyckelfrågor för en säkrare framtid

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Att digitala leveranskedjor är...