• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

EU AI Act är nödvändig – men måste itereras snabbt

EU står inför risken att halka efter USA och Kina i den globala kapplöpningen om AI-utveckling, där foundation models – AI-modeller för språkbehandling tränade på stora datamängder – utgör en viktig grundkomponent i många AI-tillämpningar. Inom EU är det redan få företag som utvecklar dessa modeller, och omfattande regleringar riskerar att göra det ännu mindre attraktivt och hållbart att bedriva sådan verksamhet här. Det skriver David Wallén, CEOr på Intric.

-

Nyligen uttryckte Börje Ekholm, vd för Ericsson, oro över att Europa riskerar att hamna efter i utvecklingen av egna AI-system på grund av omfattande regelverk. Han anser att AI på sikt kommer att behöva regleras, men motsätter sig idén att vi kan leda genom reglering, då det begränsar innovation alltför mycket. Om det blir ofördelaktigt att bygga modellerna inom Europa, kommer utvecklingen istället att förläggas till andra länder – något som skulle göra EU beroende av länder utanför unionen och samtidigt försätta sig i en strategiskt riskfylld position. Men även om utvecklingen av modeller flyttas utanför EU kvarstår problem. Vi har redan idag sett exempel på utvecklare av foundation models som väljer att inte tillåta användning i EU, just på grund av rättsliga konsekvenser. Jag syftar på Metas restriktioner av sin senaste modell. Detta är revolutionerande tekniska framsteg som vi inom EU nu går miste om.

För att AI Act ska kunna säkerställa säkra och rättvisa system inom EU utan att hämma vår
globala konkurrenskraft, behövs justeringar. Ett tydligt exempel är kravet på upphovsrättslig attribution, som på pappret verkar bra men är svårgenomförbart och kostsamt i praktiken. Eftersom datainsamling för träning av modellerna ofta sker från en mängd olika källor på internet, som till exempel forum, blir det svårt och kostsamt att säkerställa korrekt upphovsrättslig attribution. Upphovsrätt är naturligtvis viktigt, men jag tror att få vill hävda upphovsrätt för något de skrev på ett forum om husbygge eller på ett debattforum för fem år sedan. Det var av just denna anledning som Meta valde att inte släppa sin senaste modell inom EU.

Trots risken att halka efter i utvecklingen är regleringen av AI viktig för att skydda oss som
individer. Det ursprungliga syftet med lagstiftningen var att säkerställa att teknologin används på ett säkert och ansvarsfullt sätt, vilket ofta glöms bort i debatten. Många kritiserar EU AI Act, men jag tror att få faktiskt vill leva i en värld där AI används utan reglering och tillsyn. Lagstiftningen skyddar även vår rätt att veta om en text eller video är AI-genererad, eller om vi interagerar med en människa eller en maskin. Jag tror att ingen vill leva i ett samhälle där AI släpps helt fritt och utan kontroll, där man experimenterar sig fram i allt ifrån rekryteringsprocesser och robotkirurgi till nyhetssändningar, utan översikt eller noggrann testning.

Vad bör regleras?

Det ursprungliga huvudsyftet med EU AI Act var att reglera högrisk-AI som omfattar
områden där människors liv och hälsa står på spel, till exempel i transportsektorn och kritisk infrastruktur. Den täcker även utbildningssektorn, som vid bedömning av provresultat, samt säkerhetsfunktioner i produkter som AI-styrd robotkirurgi, och rekryteringsprocesser. Dessa restriktioner ska skydda individers integritet och säkerställa att AI inte missbrukas, något som är ytterst nödvändigt. En sak att komma ihåg är att generativ AI är icke-deterministisk, vilket innebär att samma inmatning kan resultera i olika utfall. Detta lämpar sig inte, utan genomtänkt översyn och kvalitetsgranskning, för funktioner där pålitlighet och säkerhet är viktigt. Jag tror att dessa områden fortfarande mår bra av att styras av regleringar.

Det finns även andra, lite mindre uppenbara områden där det är viktigt att vi sätter tydliga
riktlinjer, till exempel när det gäller AI genererat innehåll på hemsidor. Idag är det otroligt
enkelt att skapa trovärdigt AI-genererat innehåll – vare sig det gäller text, video eller bild –
vilket ger utrymme för aktörer med illvilliga avsikter att sprida desinformation. Jag tror att om vi vill att internet ska fortsätta vara en plats dit man går för att hitta tillförlitlig information är det viktigt att vi har någon form av särskiljningsförmåga kring AI-genererat innehåll. Där kan reglering spela en viktig roll för att sätta en standard.

Lagen behöver revideras

EU står inför ett avgörande val: Antingen utformar vi ett regelverk som främjar både säkerhet och innovation, eller så ser vi passivt på medan företag som Meta väljer bort vår marknad och framtidens teknologiska utveckling flyttar någon annanstans. Vi har inte råd att riskera vår teknologiska självständighet eller vårt inflytande över hur AI utvecklas och används globalt.

David Wallén, Intric

Högrisk-AI måste regleras, men till exempel osäkerheter kring hur upphovsrättslig attribution ska efterlevas och regleringen genomdrivas i praktiken medför stora konsekvenser. Detta har gjort att vi nu missar kritiska framsteg i öppna modeller, där Meta är ett bra exempel. Samt att många företag flyttar sin utveckling utanför EU. Detta hämmar vår konkurrenskraft, vilket knappast var EU:s avsikt. Vad vi behöver är ett regelverk som fokuserar på högrisk-AI, där säkerhet och ansvarsfull användning garanteras utan att utesluta oss från viktiga framsteg – något som är fullt möjligt om man samverkar med tekniska experter när man skapar regleringar. Detta måste itereras och revideras snabbt.

REKLAMSAMARBETE

Informationssäkerhet måste skapas längs hela leverantörskedjan

I en tid av ökad digitalisering och allt mer komplexa hotbilder är kontroll av leverantörskedjor kritiskt för att skydda samhällsviktig verksamhet. Eftersom dagens tekniska...

FLER NYHETER

Smart integration – en underskattad del i säkerhetsarbetet

En ofta förbisedd men viktig komponent i säkerhetsarbetet är integrationen av it-system. Genom smart integration kan företag minska sårbarheter och stärka sitt försvar mot...

REKLAMSAMARBETE

Kurs i NIS2 förbereder företag för kommande cybersäkerhetskrav

Från tisdag till torsdag vecka 6 och vecka 11 erbjuds två tredagars distanskurser med fokus på det kommande NIS2-direktivet, som väntas bli lag i...

Nya metoder att arkivera material

På Riksarkivets hemsida står att myndighetens handlingar ”under hela bevarandetiden” ska hanteras, förvaras och skyddas så att den fysiska och logiska kvaliteten bibehålls. För...

REKLAMSAMARBETE

6 Reasons to choose Milestone XProtect

In today’s dynamic world, basic video recording barely scratches the surface of what your security system needs. You require a vigilant security posture, capable...

Växande oro bland chefer – säkerhetshot på arbetsplatser ökar

Chefsorganisationen Ledarna inom Privat Tjänstesektor (LPT), har låtit göra en omfattande undersökning bland över 2000 medlemmar, med syfte att belysa de säkerhetsutmaningar som chefer...

Säkerhet och innovation i Norden ligger högt på prioriteringslistan för AWS

Aktörer i Norden som använder sig av AWS molnlösningar är flera, däribland DNB i Norge, Danske Bank i Danmark och Postnord i Sverige. Kellen...

REKLAMSAMARBETE

”Vi delar syfte – stärka Sveriges förmåga att hantera komplexa säkerhetsutmaningar”

Hallå där Pernilla Hörnfeldt, Mötesplats Samhällssäkerhet, i år är ni med som sponsor av Säkerhetsgalan som går av stapeln den 30 september i Stockholm...

Hackerdriven filosofi ska hjälpa svenska företag med cybersäkerhet

David Jacoby, nytillträdd strategichef för Syndis, kommenterar satsningen:– Vår strategi är att inte fokusera på de hundra största bolagen i Sverige – vi vill att...

Cybersäkerhetsnod Norr bjuder in till seminarium 

Hallå där Karl Andersson, professor vid Luleå Tekniska Universitet och ämnesföreträdare i cybersäkerhet,Ni anordnar ett evenemang om cybersäkerhet den 26 februari - berätta!–...

Hackare, AI och Digitala Blodkroppar: Dags att Bygga Cybernetiska Djungler

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Kaffet var kallt och klockan för mycket när en fråga dök upp i huvudet:...

Kampen fortsätter

Under de senaste åren har vi sett en dramatisk ökning av cyberbrottslighet. Stora dataintrång, som drabbar allt från små företag till globala koncerner, leder...

Fyra gripna i Europol-lett tillslag mot ransomwareliga

I samband med tillslaget kunde 27 servrar som var kopplade till det kriminella nätverket kopplas ner.De fyra personer som blivit frihetsberövade är alla...

Säkerhetsindex 2025: Allt fler upplever en allvarlig hotbild mot Sverige

Trots en växande upplevd hotbild har allmänhetens tilltro till beslutsfattares förmåga att skydda samhällsviktig infrastruktur minskat. I dag uppger 29 procent att de har...

Ny vd och koncernchef för Omegapoint

Jonas Hasselberg kommer närmast från rollen som koncernchef för det börsnoterade Proact AB, ett ledande it-företag som levererar affärskritiska molnlösningar till storbolag i Europa....

Ny affärsområdeschef inom Human Risk Management på 2Secure

– Personalsäkerhet och insiderprevention har blivit en allt viktigare fråga givet samhällsutvecklingen och omvärldsläget. Oskar har lång erfarenhet och har jobbat med olika typer...

Strategiskt partnerskap ska leverera heltäckande molnsäkerhet

Samarbetet syftar till att möta de växande utmaningar företag ställs inför vid säkerställandet av hybridmolnsmiljöer genom en sömlös integration av molnnätverkssäkerhet och Cloud Native...

AI-driven lösning ska bidra till säker maskning

Pixedit använder avancerad AI-teknologi för att automatiskt identifiera och maskera sekretessbelagd information såsom personnummer, namn och e-postadresser.Teknologin säkerställer att alla konfidentiella uppgifter fångas upp...