Artificiell intelligens för det möjligt att snabbt och med hög precision bearbeta stora mängder data, vilket även gör den till ett värdefullt verktyg inom cybersäkerhetsområdet. En utmaning är att angripare kan få tillgång till liknande verktyg och teknik för att skapa automatiserade, anpassningsbara och effektiva cyberattacker. Hur kan då cybersäkerheten förbättras och garanteras? Detta var […]
Artificiell intelligens för det möjligt att snabbt och med hög precision bearbeta stora mängder data, vilket även gör den till ett värdefullt verktyg inom cybersäkerhetsområdet. En utmaning är att angripare kan få tillgång till liknande verktyg och teknik för att skapa automatiserade, anpassningsbara och effektiva cyberattacker.
Hur kan då cybersäkerheten förbättras och garanteras? Detta var en av frågorna som diskuterade under Digitalize in Stockholm, Sveriges största konferens om hur digitaliseringen påverkar vårt sätt att leva, som genomfördes torsdag den 17 oktober.
– För att vi ska kunna känna oss säkra på AI-baserade tjänster är lagstiftning viktig i sig, men också bättre kontroll och skyddsmekanismer, ”law in action”, med starka myndigheter och domstolar som agerar. Det skyddar oss inte mot allt, men är oerhört viktigt. EU:s AI-act är bra, men det kan behövas mer specifik lagstiftning och även globala regler, sa Katarina Lappalainen, lektor i offentlig rätt och i rätts- och informationsteknik vid Stockholms universitet.
Med i samtalspanelen var också Eva Fogelström, Director Security Research på Ericsson, Christian Hedelin, Senior Vice President och Chief Strategy Officer på Saab, Asreen Rostami, senior forskare på RISE, samt Henrik Sandberg, professor och vice avdelningschef för avdelningen för reglerteknik, KTH. Samtalet modererades av Paola Lundén, stabschef vid Cybercampus.
Förutom regler och efterlevnad betonade panelen vikten av human-in-the-loop, att människor är delaktiga i de processer som involverar AI. Något som kan vara utmanande inte minst när AI används i försvarssystem och hastigheten i händelseförloppen är enormt snabba. En annan utmaning som togs upp är att hela samhället påverkas av AI-verktygen och att det är stor skillnad mellan användare, till exempel forskare, allmänhet och barn. Kunskap om vad som matar algoritmerna i tjänsterna och hur de faktiskt fungerar är viktigt för alla dessa. Slutligen behövs mer resurser för att samhället ska kunna motverka skadlig AI.
En av konferensens huvudtalare var Lourdes De Agapito Vicente, professor i tredimensionell datorbild vid University College London. Hon är medgrundare av det framgångsrika företaget Synthesia Technologies som erbjuder vem som helst att skapa filmer med sin egen digitala avatar, en teknik som också kan användas för skadliga syften.
– Vi har tagit detta på allvar ända sen vi skapade företaget. För det första får man inte generera filmer från en levande människa som inte gett sitt medgivande. Det andra är att vi modererar allt som läggs in i vår plattform för att förhindra att den används för till exempel hat mot folkgrupp och annat oetiskt eller olagligt innehåll. Vi har också utvecklat en dialog och samarbete med myndigheter om hur AI kan och bör regleras för att förhindra fel användning av tekniken. Så vi jobbar hårt för att tekniken inte ska missbrukas, förklarar Lourdes De Agapito Vicente.
Digitalize in Stockholm arrangeras av forskningscentret Digital Futures. Den årliga konferensen är ett samarbete med Ericsson, Saab, Skanska, Scania, Xylem, AstraZeneca, KTH, RISE, Stockholms universitet, Region Stockholm, Karolinska Institutet och Stockholms stad. Årets tema är generativ AI och hur denna nya teknik nu på kort tid förändrar allt för såväl individ som samhället i stort.
– Med generativ AI ställs vi inför en mängd viktiga samhällsfrågor. Bland dem finns information- och cybersäkerhet som centrala utmaningar. Samtidigt som detta ställer höga krav på våra organisationer att hantera dem, innebär de också spännande möjligheter för svensk forskning och företag som vill bidra till ökad säkerhet i den digitala omvandling som pågår – i Sverige och internationellt, säger Karl H Johansson, Director Digital Futures och professor vid Skolan för elektroteknik och datavetenskap, KTH.
Digital Futures är ett tvärvetenskapligt forskningscenter, etablerat av KTH, Stockholms universitet och RISE, som fokuserar på att utforska och utveckla digitala teknologier för att möta stora samhällsutmaningar, både i Sverige och globalt. Centret syftar till att generera kunskap och innovation samt att fostra framtida ledare med betydelse för näringslivet och strategiskt viktiga områden.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
