• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

Risk att vi sveps med i AI-hajpen och bortser från mänsklig kompetens

I november släppte AI-kommissionen sin omfattande rapport, som bland annat tar upp hur Sverige halkat efter i utvecklingen kring artificiell intelligens men också ger flera tydliga punkter på hur vi bör vända trenden för att framöver bli ett föregångsland på området. Det är välkommet att det riktas krav för att utbilda och öka kunskapen om AI. Det skriver Sandra Gaverud på Fortinet.

-

Inom cybersäkerhet har AI länge varit ett kritiskt redskap, som också väntas bli alltmer bärande framöver i takt med att fler organisationer och myndigheter implementerar proaktiva försvar. 

Samtidigt väcker hajpen en kritisk fråga: utnyttjar vi kraften i artificiell intelligens, eller sveps vi bara med i en flodvåg av modeord?

Just modeord behöver vi inte leta länge efter. Att bara klistra på etiketten ”AI-driven” på en produkt garanterar inte dess effektivitet. Verkligheten är mer nyanserad än så, och framför allt innebär inte AI någon magisk trollstav för ett vattentätt cyberförsvar.

I dag har AI en rad fördelar inom cybersäkerhet; tekniken kan snabbt analysera enorma datamängder, identifiera mönster och automatisera svar. Däremot kan AI inte ensamt lösa alla problem som säkerhetsavdelningar kämpar med. Snarare hänger effektiviteten på två avgörande faktorer: kvaliteten på de data AI tränas på och den kontinuerliga förbättringen av modeller. En modell tränad på otillräckliga eller irrelevanta data är som en kraftfull motor som går på tomgång. 

Ett samarbetsinriktat tillvägagångssätt

Där ligger också problemet som den kanske mest utbredda missuppfattningen bygger på: att AI är på väg att ersätta mänsklig expertis. Även om AI kan automatisera uppgifter och förstärka mänskliga förmågor, kan den inte helt ersätta det kritiska tänkandet, intuitionen och den kontextuella förståelsen som utbildad säkerhetspersonal bidrar med.

Framtiden inom cybersäkerhet ligger i ett samarbetsinriktat tillvägagångssätt, där människor och teknik arbetar tillsammans och utnyttjar varandras styrkor. Därför behöver vi fortsatt säkra upp kompetens och locka talanger till branschen. Detta parallellt med att nya lösningar implementeras och befintliga uppdateras.

Tyvärr råder ett stort underskott av kompetens. Den ideella medlemsorganisationen ISC2 uppskattar att det globalt saknas 4,8 miljoner personer med cybersäkerhetskompetens. Inför detta växande kompetensgap kan AI ses som en av lösningarna. Risken är dock att AI betraktas som en ersättare snarare än en brygga mellan mänsklig och artificiell interaktion. I värsta fall leder det till att organisationer använder AI-modeller som inte fullt ut är redo för sina uppgifter. Det lär hämma utvecklingen snarare än att föra den framåt.

Risk för dataförgiftning

Det vore en farlig utveckling givet att cybersäkerhetslandskapet ständigt förändras och kräver ett dynamiskt tillvägagångssätt, där AI-modeller regelbundet uppdateras och anpassas till en dynamisk hotmiljö. En statisk modell blir snabbt föråldrad och lämnar organisationer sårbara. Dessutom finns risken för dataförgiftning, där angripare injicerar skadliga data för att manipulera inlärning, vilket skapar behov av ständig vaksamhet och robusta valideringsmekanismer. Det här är bara en del av AI där vi ser ett ökat behov av mänsklig kompetens framöver.

I en tid då AI toppar agendan, bland annat tack vare den diskussion som följt efter AI-kommissionens rapport, gäller det bara att ta vara på möjligheterna som en ökad dialog innebär för att kunna möta framtidens krav på bästa sätt.

Följande fyra punkter är extra brådskande att börja arbeta med redan nu:

Investera i kompetens: 

AI kan inte ses som ett substitut för mänsklig expertis. Här behövs satsningar på att utbilda och rekrytera kompetent personal som kan hantera, övervaka och utveckla AI-lösningar.

Prioritera cybersäkerhetsutbildning: 

Sverige behöver aktivt satsa på utbildning inom cybersäkerhet på alla nivåer, från grundskola till högre utbildning och yrkesutbildningar. Detta är avgörande för att möta den växande efterfrågan på kompetens inom området. Samarbete mellan utbildningsinstitutioner, näringsliv och offentlig sektor är nyckeln till att skapa relevanta och framtidssäkra utbildningsprogram.

Ha en realistisk syn på AI: 

Förstå att AI kräver högkvalitativa data, kontinuerlig uppdatering och mänsklig övervakning för att fungera effektivt. Undvik att falla för hajpen och implementera AI-lösningar utan en tydlig strategi och förståelse för dess begränsningar.

Sandra Gaverud, Sverigechef Fortinet

Bygg en samarbetsstruktur: 

Definiera tydliga roller och ansvarsområden för att säkerställa ett smidigt samarbete mellan AI-system och cybersäkerhetspersonal. Detta inkluderar att implementera processer för datahantering, modellvalidering och kontinuerlig förbättring.

REKLAMSAMARBETE

Informationssäkerhet måste skapas längs hela leverantörskedjan

I en tid av ökad digitalisering och allt mer komplexa hotbilder är kontroll av leverantörskedjor kritiskt för att skydda samhällsviktig verksamhet. Eftersom dagens tekniska...

FLER NYHETER

Smart integration – en underskattad del i säkerhetsarbetet

En ofta förbisedd men viktig komponent i säkerhetsarbetet är integrationen av it-system. Genom smart integration kan företag minska sårbarheter och stärka sitt försvar mot...

REKLAMSAMARBETE

Kurs i NIS2 förbereder företag för kommande cybersäkerhetskrav

Från tisdag till torsdag vecka 6 och vecka 11 erbjuds två tredagars distanskurser med fokus på det kommande NIS2-direktivet, som väntas bli lag i...

Nya metoder att arkivera material

På Riksarkivets hemsida står att myndighetens handlingar ”under hela bevarandetiden” ska hanteras, förvaras och skyddas så att den fysiska och logiska kvaliteten bibehålls. För...

REKLAMSAMARBETE

6 Reasons to choose Milestone XProtect

In today’s dynamic world, basic video recording barely scratches the surface of what your security system needs. You require a vigilant security posture, capable...

Växande oro bland chefer – säkerhetshot på arbetsplatser ökar

Chefsorganisationen Ledarna inom Privat Tjänstesektor (LPT), har låtit göra en omfattande undersökning bland över 2000 medlemmar, med syfte att belysa de säkerhetsutmaningar som chefer...

Säkerhet och innovation i Norden ligger högt på prioriteringslistan för AWS

Aktörer i Norden som använder sig av AWS molnlösningar är flera, däribland DNB i Norge, Danske Bank i Danmark och Postnord i Sverige. Kellen...

REKLAMSAMARBETE

”Vi delar syfte – stärka Sveriges förmåga att hantera komplexa säkerhetsutmaningar”

Hallå där Pernilla Hörnfeldt, Mötesplats Samhällssäkerhet, i år är ni med som sponsor av Säkerhetsgalan som går av stapeln den 30 september i Stockholm...

Hackerdriven filosofi ska hjälpa svenska företag med cybersäkerhet

David Jacoby, nytillträdd strategichef för Syndis, kommenterar satsningen:– Vår strategi är att inte fokusera på de hundra största bolagen i Sverige – vi vill att...

Cybersäkerhetsnod Norr bjuder in till seminarium 

Hallå där Karl Andersson, professor vid Luleå Tekniska Universitet och ämnesföreträdare i cybersäkerhet,Ni anordnar ett evenemang om cybersäkerhet den 26 februari - berätta!–...

Hackare, AI och Digitala Blodkroppar: Dags att Bygga Cybernetiska Djungler

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Kaffet var kallt och klockan för mycket när en fråga dök upp i huvudet:...

Kampen fortsätter

Under de senaste åren har vi sett en dramatisk ökning av cyberbrottslighet. Stora dataintrång, som drabbar allt från små företag till globala koncerner, leder...

Fyra gripna i Europol-lett tillslag mot ransomwareliga

I samband med tillslaget kunde 27 servrar som var kopplade till det kriminella nätverket kopplas ner.De fyra personer som blivit frihetsberövade är alla...

Säkerhetsindex 2025: Allt fler upplever en allvarlig hotbild mot Sverige

Trots en växande upplevd hotbild har allmänhetens tilltro till beslutsfattares förmåga att skydda samhällsviktig infrastruktur minskat. I dag uppger 29 procent att de har...

Ny vd och koncernchef för Omegapoint

Jonas Hasselberg kommer närmast från rollen som koncernchef för det börsnoterade Proact AB, ett ledande it-företag som levererar affärskritiska molnlösningar till storbolag i Europa....

Ny affärsområdeschef inom Human Risk Management på 2Secure

– Personalsäkerhet och insiderprevention har blivit en allt viktigare fråga givet samhällsutvecklingen och omvärldsläget. Oskar har lång erfarenhet och har jobbat med olika typer...

Strategiskt partnerskap ska leverera heltäckande molnsäkerhet

Samarbetet syftar till att möta de växande utmaningar företag ställs inför vid säkerställandet av hybridmolnsmiljöer genom en sömlös integration av molnnätverkssäkerhet och Cloud Native...

AI-driven lösning ska bidra till säker maskning

Pixedit använder avancerad AI-teknologi för att automatiskt identifiera och maskera sekretessbelagd information såsom personnummer, namn och e-postadresser.Teknologin säkerställer att alla konfidentiella uppgifter fångas upp...