• Digital säkerhet
  • Traditionell säkerhet
  • I FOKUS
  • Nyhetsbrev

”Våra säkerhetsåtgärder går hand i hand med vårt fokus på att utbilda våra användare”

Hallå där Marc-Antoine Durand, COO på den sociala nätverkstjänsten Yubo, som har tagit fram en teknik som bygger på ansiktsigenkänning för att verifiera användarnas ålder.

-

– Yubos främsta prioritet är att skapa en säker miljö för våra Gen Z-användare samt att ge dem möjlighet att interagera säkert online och med andra över hela världenFör att göra detta letar vi kontinuerligt efter nya sätt att skydda våra användare. På Yubo tycker vi att säkerheten måste vara proaktiv. Utvecklingen av detta verktyg för åldersverifiering tar inte bara upp en av de största utmaningarna inom onlinesäkerhet idag utan ökar skyddet för våra yngsta användare och demokratiserar åldersverifieringsprocessen. Många användare under 16 år saknar ID-kort eller annan legitimation. Denna nya process kommer sömlöst att tillåta oss att verifiera deras ålder effektivt och i stor skala.

Hur är tjänsten utvecklad och uppbyggd och hur träffsäker är den? 

– Yubo har arbetat med Yoti sedan 2019 för att hjälpa oss att verifiera åldern på misstänkta användarkonton. Vi tillför nu ytterligare ett lager av åldersautentisering i samarbete med dem som kommer att verifiera åldern på alla Yubos användare i slutet av 2022.

Yotis funktion för åldersuppskattning av ansikten är baserad på AI. Den har gjort över 550 miljoner kontroller över hela världen i alla åldrar, kön och hudtoner och kan uppskatta en ung persons ålder inom 1-2 år med närmare 99% noggrannhet.

På Yubo kommer användare att ta ett realtidsfoto av sig själva i Yubo-appen, som Yotis åldersuppskattningsteknik sedan bearbetar och jämför med åldern de angav vid registreringen. Efter att en användare tagit sitt foto kommer Yotis passiva liveliness-algoritm också att analysera det för att bekräfta att bilden är verklig och inte är falsk eller hämtad från Google. Användare som inte har rätt ålder på sina profiler kommer att uppmanas att verifiera sin identitet genom att skicka in en giltig form av identifiering innan de kan komma åt appen. 

Hur rimmar tekniken med GDPR?

– På Yubo tror vi på integritet av våra användares data, vilket är anledningen till att vårt tillvägagångssätt för åldersverifiering utvecklades med ”privacy by design” i åtanke. Eftersom det inte krävs någon ID-dokumentation kan en användares personliga information förbli privat om deras ålder inte stämmer överens. Som ett franskt företag säkerställer vi att vi följer GDPR och att all känslig information behandlas regelrätt.

Vad hindrar en yngre person från att hen bara tar en random bild på en vuxen från nätet och lägger upp som ”sin” profilbild? Eller att hen låter någon äldre ta den där bilden i profilen? 

– Yoti har en specialutvecklad liveness-algoritm som spelar in  en kort livevideo samtidigt som  en användare tar sitt foto i appen. Den här videon bekräftar att bilden tas i realtid och inte är en falsk bild som hämtats från internet eller är ett spoofingsförsök. Åldern som uppskattas utefter användarens foto måste också matcha åldern de anger när de registrerar sig på Yubo. Om de skiljer sig åt användaren tillhandahålla identifieringsdokument innan de kan logga in på appen.

Yubos ursprungliga algoritmer för åldersbedömning finns också kvar och kompletterar denna nya funktion. Säkerhetsteamet kommer att fortsätta att kontrollera eventuella avvikelser mellan åldern som angavs vid registreringen och åldern som anges i deras bio eller kommentarer under livestreams. Den nya processen ska ses som ett extra skyddande lager ovanpå våra befintliga  åldersdetekteringssystem, som kombinerar våra AI-algoritmer och mänsklig moderering i realtid.

Hur är det med så kallade trollkonton? Sållas de också bort?  

– Eftersom vi är en social livestreaming- och upptäcktsapp finns våra användare där för att mötas och interagera på ett autentiskt sätt med andra Yubo-användare. Trollkonton undviks mycket snabbt av våra användare. På Yubo gör vi det enkelt för våra användare att rapportera skadligt beteende och att ta bort problematiska konton från livestreams. Om en användares beteende strider mot våra riktlinjer för communityn får de ett varningsmeddelande om att deras beteende är olämpligt. Om de inte omgående ändrar sitt beteende kommer de att stängas av från appen under en viss tid.

Hur mycket kan man egentligen städa bort på nätet när utvecklingen går så snabbt som den gör nu? Om du blickar framåt – vad spånar du bli nästa säkerhetsfråga att sätta klorna i? 

– Det är verkligen svårt, och det finns inget perfekt system eller lösning. Som jag nämnde ovan är det väsentligt att ta itu med frågan om säkerhet proaktivt, så att vi verkligen kan utveckla en ”safety-by-design”-metod.

Detta tillvägagångssätt vägleder allt vårt tänkande och våra utvecklingsstrategier. Måletär att skydda, förebygga och utbilda våra användare på lång sikt och garantera säkerheten för hela vårt ekosystem.

Våra säkerhetsåtgärder går hand i hand med vårt fokus på att utbilda våra användare så att de har tillgång till rätt information vid rätt tidpunkt – och framför allt att de kan förstå konsekvenserna av sina handlingar online. Det är därför vi var den första plattformen i världen som utvecklade moderering i realtid. Beteenden som strider mot våra riktlinjer för communityn utlöser först en varning som förklarar för användarna vad de har gjort för fel och ger dem möjligheten att rätta till sitt beteende.

Med detta tillvägagångssätt strävar vi efter att inte bara upptäcka olämpligt beteende utan att kunna förstå de olika sammanhangen för denna generation såväl som de lokala särdragen. Detta komplexa mål kräver både rätt teknik och rätt design för att göra det enkelt för alla våra användare att förstå.

Slutligen tror jag att det bästa sättet att hänga med i de snabba förändringarna på nätet är att kombinera ansträngningar och dela information. Det är viktigt att arbeta med rätt partner för att hjälpa till att identifiera våra användares behov och bygga nya funktioner som möter branschens utmaningar. I det här fallet har det varit mycket givande att fördjupa vårt partnerskap med Yoti och att fortsätta vårt dagliga arbete tillsammans med vårt säkerhetsråd för att göra det möjligt för oss att ha så effektiva och inkluderande säkerhetsfunktioner som möjligt.

”Hållbara laddprodukter främjar fastighetsbranschens utveckling”

Hallå där Josefin Bengtsson, COO och Head of Marketing för Compleo Nordic. Vilka är Compleo?– Compleo erbjuder allt man behöver för en smart och...

FLER NYHETER

Malmö Stadsnät säkrar infrastrukturen

Malmö stad förvaltar och bygger fibernät för framtidens infrastruktur. Man erbjuder operatörer, villor, bostadsrättsföreningar, flerbostadsfastigheter, samfälligheter med flera en oberoende och framtidssäkrad kommunikationsmöjlighet. Som...

Dramaten säkrar scentekniken med UPS-lösning

Dramaten Thalia fasad 2015 EntréOsäkerheten kring elförsörjningen får allt fler verksamheter att se över vilka konsekvenser ett strömavbrott kan få för verksamheten. För nationalscenen Dramaten...

Chat GPT används för nätfiskeangrepp

Utvecklingen går snabbt och vi läser dagligen om hur Chat GPT gjort om spelplanen genom att skapa välskriven text på bara ett ögonblick. På...

RAPPORT: En av tio patchar inte sårbarheter i telefonen

Nästan hälften av dessa sårbarheter, 47 procent, klassas dessutom som allvarliga och rentav kritiska. Företag låter det gå i genomsnitt 184 dagar, det vill...

Samarbete ska stärka brandskyddet i Skåne

Fokus under våren kommer att vara utrullningen av Grundläggande brandövning – ett grundläggande upplägg för brandövning på den egna arbetsplatsen. Säker Vårdmiljö har även...

Dataskyddsombud varnar för brister i arbetet med GDPR

IMY publicerar nu rapporten Dataskyddsarbetet i praktiken som bygger på en enkät som besvarats av dataskyddsombud i närmare 800 verksamheter. Syftet med rapporten är att få...

Securitas tecknar nytt säkerhetsavtal med LKAB

Denna gång valde LKAB att förlänga avtalet, något som avtalsansvarig på Securitas, Markus Printz menar tyder på ett gott förhållande mellan företagen.– Att ges möjligheten till...

SRS Security inleder samarbete med Ing-Marie Wieselgren stiftelse

– Kan vi på bred front fortsätta att göra nytta i Ing-Maries anda och öka den psykiska hälsan på några håll i samhället så...

RAPPORT: Yahoo toppar listan över världens mest utsatta varumärken för nätfiske

Högst upp på listan hamnar Yahoo, teknikföretaget har därmed klättrat 23 platser sedan förra kvartalets rapport. Yahoo utnyttjades för 20 procent av världens alla...

Ökat skydd mot desinformation för offentliga arbetsgivare

Anonyma konton och hatkampanjer på nätet sprider desinformation om socialtjänsten. Men felaktiga uppgifter sprids också av anställda i kommuner, regioner och i privata verksamheter...

Brister i att förebygga hot och våld på jobbet

På senare år har hot och våld uppmärksammats allt mer som ett arbetsmiljöproblem. I den här insatsen har Arbetsmiljöverket fokuserat på verksamheter som ligger...

Secify rekryterar affärsområdeschef från Combitech

Jonas Stewén har en bakgrund inom verksamhetsutveckling, samt roller inom försäljning och marknad. Som försäljningschef på Secify kommer han dessutom ingå i ledningsgrupp för...

Maria Lagerstam ny chef för People & Culture på Iver

– Först vill jag välkomna Maria till Iver och till vår koncernledning. Kompetensutveckling och kompetensförsörjning är centrala delar för varje organisation som vill vara...

Fortifikationsverket rekryterar från Must

Anders Henningsson kommer att bli avdelningschef för säkerhetsavdelningen och Fortifikationsverkets säkerhetsskyddschef. Han kommer att ingå i myndighetens ledningsgrupp.– Det känns jättebra att Anders Henningsson...

Bankernas säkerhetsanalytiker kan inte stå ensamma i skottgluggen för de växande cyberhoten

35 procent av alla dataintrång rör banker och finansiella tjänster, enligt Forbes. Den tid...

Dags för ett kunskapslyft om GDPR på svenska arbetsplatser

Det här är en opinionstext. Åsikter som uttrycks är skribenternas egna.”Bara varannan svensk känner...