• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

”Våra säkerhetsåtgärder går hand i hand med vårt fokus på att utbilda våra användare”

Hallå där Marc-Antoine Durand, COO på den sociala nätverkstjänsten Yubo, som har tagit fram en teknik som bygger på ansiktsigenkänning för att verifiera användarnas ålder.

-

– Yubos främsta prioritet är att skapa en säker miljö för våra Gen Z-användare samt att ge dem möjlighet att interagera säkert online och med andra över hela världenFör att göra detta letar vi kontinuerligt efter nya sätt att skydda våra användare. På Yubo tycker vi att säkerheten måste vara proaktiv. Utvecklingen av detta verktyg för åldersverifiering tar inte bara upp en av de största utmaningarna inom onlinesäkerhet idag utan ökar skyddet för våra yngsta användare och demokratiserar åldersverifieringsprocessen. Många användare under 16 år saknar ID-kort eller annan legitimation. Denna nya process kommer sömlöst att tillåta oss att verifiera deras ålder effektivt och i stor skala.

Hur är tjänsten utvecklad och uppbyggd och hur träffsäker är den? 

– Yubo har arbetat med Yoti sedan 2019 för att hjälpa oss att verifiera åldern på misstänkta användarkonton. Vi tillför nu ytterligare ett lager av åldersautentisering i samarbete med dem som kommer att verifiera åldern på alla Yubos användare i slutet av 2022.

Yotis funktion för åldersuppskattning av ansikten är baserad på AI. Den har gjort över 550 miljoner kontroller över hela världen i alla åldrar, kön och hudtoner och kan uppskatta en ung persons ålder inom 1-2 år med närmare 99% noggrannhet.

På Yubo kommer användare att ta ett realtidsfoto av sig själva i Yubo-appen, som Yotis åldersuppskattningsteknik sedan bearbetar och jämför med åldern de angav vid registreringen. Efter att en användare tagit sitt foto kommer Yotis passiva liveliness-algoritm också att analysera det för att bekräfta att bilden är verklig och inte är falsk eller hämtad från Google. Användare som inte har rätt ålder på sina profiler kommer att uppmanas att verifiera sin identitet genom att skicka in en giltig form av identifiering innan de kan komma åt appen. 

Hur rimmar tekniken med GDPR?

– På Yubo tror vi på integritet av våra användares data, vilket är anledningen till att vårt tillvägagångssätt för åldersverifiering utvecklades med ”privacy by design” i åtanke. Eftersom det inte krävs någon ID-dokumentation kan en användares personliga information förbli privat om deras ålder inte stämmer överens. Som ett franskt företag säkerställer vi att vi följer GDPR och att all känslig information behandlas regelrätt.

Vad hindrar en yngre person från att hen bara tar en random bild på en vuxen från nätet och lägger upp som ”sin” profilbild? Eller att hen låter någon äldre ta den där bilden i profilen? 

– Yoti har en specialutvecklad liveness-algoritm som spelar in  en kort livevideo samtidigt som  en användare tar sitt foto i appen. Den här videon bekräftar att bilden tas i realtid och inte är en falsk bild som hämtats från internet eller är ett spoofingsförsök. Åldern som uppskattas utefter användarens foto måste också matcha åldern de anger när de registrerar sig på Yubo. Om de skiljer sig åt användaren tillhandahålla identifieringsdokument innan de kan logga in på appen.

Yubos ursprungliga algoritmer för åldersbedömning finns också kvar och kompletterar denna nya funktion. Säkerhetsteamet kommer att fortsätta att kontrollera eventuella avvikelser mellan åldern som angavs vid registreringen och åldern som anges i deras bio eller kommentarer under livestreams. Den nya processen ska ses som ett extra skyddande lager ovanpå våra befintliga  åldersdetekteringssystem, som kombinerar våra AI-algoritmer och mänsklig moderering i realtid.

Hur är det med så kallade trollkonton? Sållas de också bort?  

– Eftersom vi är en social livestreaming- och upptäcktsapp finns våra användare där för att mötas och interagera på ett autentiskt sätt med andra Yubo-användare. Trollkonton undviks mycket snabbt av våra användare. På Yubo gör vi det enkelt för våra användare att rapportera skadligt beteende och att ta bort problematiska konton från livestreams. Om en användares beteende strider mot våra riktlinjer för communityn får de ett varningsmeddelande om att deras beteende är olämpligt. Om de inte omgående ändrar sitt beteende kommer de att stängas av från appen under en viss tid.

Hur mycket kan man egentligen städa bort på nätet när utvecklingen går så snabbt som den gör nu? Om du blickar framåt – vad spånar du bli nästa säkerhetsfråga att sätta klorna i? 

– Det är verkligen svårt, och det finns inget perfekt system eller lösning. Som jag nämnde ovan är det väsentligt att ta itu med frågan om säkerhet proaktivt, så att vi verkligen kan utveckla en ”safety-by-design”-metod.

Detta tillvägagångssätt vägleder allt vårt tänkande och våra utvecklingsstrategier. Måletär att skydda, förebygga och utbilda våra användare på lång sikt och garantera säkerheten för hela vårt ekosystem.

Våra säkerhetsåtgärder går hand i hand med vårt fokus på att utbilda våra användare så att de har tillgång till rätt information vid rätt tidpunkt – och framför allt att de kan förstå konsekvenserna av sina handlingar online. Det är därför vi var den första plattformen i världen som utvecklade moderering i realtid. Beteenden som strider mot våra riktlinjer för communityn utlöser först en varning som förklarar för användarna vad de har gjort för fel och ger dem möjligheten att rätta till sitt beteende.

Med detta tillvägagångssätt strävar vi efter att inte bara upptäcka olämpligt beteende utan att kunna förstå de olika sammanhangen för denna generation såväl som de lokala särdragen. Detta komplexa mål kräver både rätt teknik och rätt design för att göra det enkelt för alla våra användare att förstå.

Slutligen tror jag att det bästa sättet att hänga med i de snabba förändringarna på nätet är att kombinera ansträngningar och dela information. Det är viktigt att arbeta med rätt partner för att hjälpa till att identifiera våra användares behov och bygga nya funktioner som möter branschens utmaningar. I det här fallet har det varit mycket givande att fördjupa vårt partnerskap med Yoti och att fortsätta vårt dagliga arbete tillsammans med vårt säkerhetsråd för att göra det möjligt för oss att ha så effektiva och inkluderande säkerhetsfunktioner som möjligt.

REKLAMSAMARBETE

Visste du detta om Ransomware?

Ransomware har blivit en alltmer akut fråga som berör företag i alla storlekar och ingen organisation är immun mot dess följder. Vad som kanske inte är lika känt är att Ransomware omfattar flera olika typer av attacker. Samtidigt fortsätter Ransomware-incidenter att utvecklas och anpassa sig till nya förhållanden. Från krypteringsbaserad Ransomware till dubbel och nu till och med trippel utpressning. Trots att vi har nått år 2024 är det många organisationer som fortfarande förlitar sig på föråldrade anti-ransomware-kontroller och tankesätt.

FLER NYHETER

Atea lanserar två nya säkerhetstjänster

– Cyberhotet fortsätter att tillta och vi vet från Nordeuropas största CIO-undersökning Voister CIO Analytics för 2024 att svenska it-beslutsfattare har säkerhet som sitt främsta fokus....

REKLAMSAMARBETE

RAPPORT: Svenska företag saknar strategier för att implementera AI

De svenska siffrorna visar, att trots det höga trycket på att företag måste arbeta aktivt med AI, är majoriteten av företagen i Sverige fast...

REKLAMSAMARBETE

Hon blir ansvarig för Norden och Kina för Orange Cyberdefense

Kaja Narum har under de senaste ett och ett halvt åren arbetat som senior vice president global service lines på Orange Cyberdefense och antar...

Trend Micro lanserar nytt partnerprogram för att optimera partners intäkter

I samband med att cyberriskerna eskalerar och IT-miljöer och lösningar blir alltmer komplexa ökar kunders behov av att ha en IT-partner som verkar som...

REKLAMSAMARBETE

Stora brister i cybersäkerheten hos bilverkstäder

Våra bilar kan idag beskrivas som uppkopplade, avancerade datorer på hjul och dessa datorer hanterar allt från antisladdsystem till adaptiva farthållare. På senare tid...

It-total anställer agent till sin servicedesk workplace-avdelning

– Tedros kom väldigt snabbt in i både gemenskapen och arbetsuppgifterna. Med en positiv inställning och ett härligt driv så lyckades han komma igång...

Så här skyddar vi vår supply chain – nyckelfrågor för en säkrare framtid

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Att digitala leveranskedjor är en kritisk svag punkt i vår cybersäkerhet är välkänt. Den...

Nato beställer kommunikationslösning av Sectra

– Nato har använt Sectras lösningar för avlyssningssäker kommunikation i många år och vi har samarbetat med alliansen i över 20 år. Vi är...

Nytt virtuellt utbildningsverktyg ska öka personsäkerhet i industrin

Åkerströms egenutvecklade VR-simulatorer erbjuder en realistisk och säker träningsmiljö för kranoperatörer, utformade enligt svensk industris krav och tillämpliga standarder. Genom att kombinera företagets radiostyrningssystem...

Pr-byrå satsar på cybersäkerhet

– Företagen behöver öka sin digitala motståndskraft. Cybersäkerhet är en fråga som sträcker sig långt bortom it-avdelningen och handlar lika mycket om kommunikation och...

Ny endagskonferens under Skydd

Besökarna kommer att få uppleva hur respektive fas i händelsen analyseras och kommenteras av de personer som i verkligheten är involverade. Steg för steg...

”Det råder högkonjunktur för cyberkrigföring”

Behöver svenska företag vara förberedda på att drabbas av attacker liknande de som nyligen drabbade Systembolagets leverantör Skanlog och Umeå universitet? Om ja, varför?–...

Cybersäkerhet som kunskapsområde: En lösning på kompetensbristen

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.Även regeringen har sedan flera år tillbaka identifierat behovet att höja den grundläggande nivån...

Enaco lanserar nytt affärsområde inom säkerhet

– Genom att lansera Enaco Security svarar vi på den ökande efterfrågan på säkra och anpassade säkerhetslösningar som skyddar viktiga tillgångar och data i...

Så här skyddar vi vår supply chain – nyckelfrågor för en säkrare framtid

Det här är en opinionstext. Åsikter som uttrycks är skribentens egna.Att digitala leveranskedjor är...