– Yubos främsta prioritet är att skapa en säker miljö för våra Gen Z-användare samt att ge dem möjlighet att interagera säkert online och med andra över hela världenFör att göra detta letar vi kontinuerligt efter nya sätt att skydda våra användare. På Yubo tycker vi att säkerheten måste vara proaktiv. Utvecklingen av detta verktyg för åldersverifiering tar inte bara upp en av de största utmaningarna inom onlinesäkerhet idag utan ökar skyddet för våra yngsta användare och demokratiserar åldersverifieringsprocessen. Många användare under 16 år saknar ID-kort eller annan legitimation. Denna nya process kommer sömlöst att tillåta oss att verifiera deras ålder effektivt och i stor skala.
Hur är tjänsten utvecklad och uppbyggd och hur träffsäker är den?
– Yubo har arbetat med Yoti sedan 2019 för att hjälpa oss att verifiera åldern på misstänkta användarkonton. Vi tillför nu ytterligare ett lager av åldersautentisering i samarbete med dem som kommer att verifiera åldern på alla Yubos användare i slutet av 2022.
Yotis funktion för åldersuppskattning av ansikten är baserad på AI. Den har gjort över 550 miljoner kontroller över hela världen i alla åldrar, kön och hudtoner och kan uppskatta en ung persons ålder inom 1-2 år med närmare 99% noggrannhet.
På Yubo kommer användare att ta ett realtidsfoto av sig själva i Yubo-appen, som Yotis åldersuppskattningsteknik sedan bearbetar och jämför med åldern de angav vid registreringen. Efter att en användare tagit sitt foto kommer Yotis passiva liveliness-algoritm också att analysera det för att bekräfta att bilden är verklig och inte är falsk eller hämtad från Google. Användare som inte har rätt ålder på sina profiler kommer att uppmanas att verifiera sin identitet genom att skicka in en giltig form av identifiering innan de kan komma åt appen.
Hur rimmar tekniken med GDPR?
– På Yubo tror vi på integritet av våra användares data, vilket är anledningen till att vårt tillvägagångssätt för åldersverifiering utvecklades med ”privacy by design” i åtanke. Eftersom det inte krävs någon ID-dokumentation kan en användares personliga information förbli privat om deras ålder inte stämmer överens. Som ett franskt företag säkerställer vi att vi följer GDPR och att all känslig information behandlas regelrätt.
Vad hindrar en yngre person från att hen bara tar en random bild på en vuxen från nätet och lägger upp som ”sin” profilbild? Eller att hen låter någon äldre ta den där bilden i profilen?
– Yoti har en specialutvecklad liveness-algoritm som spelar in en kort livevideo samtidigt som en användare tar sitt foto i appen. Den här videon bekräftar att bilden tas i realtid och inte är en falsk bild som hämtats från internet eller är ett spoofingsförsök. Åldern som uppskattas utefter användarens foto måste också matcha åldern de anger när de registrerar sig på Yubo. Om de skiljer sig åt användaren tillhandahålla identifieringsdokument innan de kan logga in på appen.
Yubos ursprungliga algoritmer för åldersbedömning finns också kvar och kompletterar denna nya funktion. Säkerhetsteamet kommer att fortsätta att kontrollera eventuella avvikelser mellan åldern som angavs vid registreringen och åldern som anges i deras bio eller kommentarer under livestreams. Den nya processen ska ses som ett extra skyddande lager ovanpå våra befintliga åldersdetekteringssystem, som kombinerar våra AI-algoritmer och mänsklig moderering i realtid.
Hur är det med så kallade trollkonton? Sållas de också bort?
– Eftersom vi är en social livestreaming- och upptäcktsapp finns våra användare där för att mötas och interagera på ett autentiskt sätt med andra Yubo-användare. Trollkonton undviks mycket snabbt av våra användare. På Yubo gör vi det enkelt för våra användare att rapportera skadligt beteende och att ta bort problematiska konton från livestreams. Om en användares beteende strider mot våra riktlinjer för communityn får de ett varningsmeddelande om att deras beteende är olämpligt. Om de inte omgående ändrar sitt beteende kommer de att stängas av från appen under en viss tid.
Hur mycket kan man egentligen städa bort på nätet när utvecklingen går så snabbt som den gör nu? Om du blickar framåt – vad spånar du bli nästa säkerhetsfråga att sätta klorna i?
– Det är verkligen svårt, och det finns inget perfekt system eller lösning. Som jag nämnde ovan är det väsentligt att ta itu med frågan om säkerhet proaktivt, så att vi verkligen kan utveckla en ”safety-by-design”-metod.
Detta tillvägagångssätt vägleder allt vårt tänkande och våra utvecklingsstrategier. Måletär att skydda, förebygga och utbilda våra användare på lång sikt och garantera säkerheten för hela vårt ekosystem.
Våra säkerhetsåtgärder går hand i hand med vårt fokus på att utbilda våra användare så att de har tillgång till rätt information vid rätt tidpunkt – och framför allt att de kan förstå konsekvenserna av sina handlingar online. Det är därför vi var den första plattformen i världen som utvecklade moderering i realtid. Beteenden som strider mot våra riktlinjer för communityn utlöser först en varning som förklarar för användarna vad de har gjort för fel och ger dem möjligheten att rätta till sitt beteende.
Med detta tillvägagångssätt strävar vi efter att inte bara upptäcka olämpligt beteende utan att kunna förstå de olika sammanhangen för denna generation såväl som de lokala särdragen. Detta komplexa mål kräver både rätt teknik och rätt design för att göra det enkelt för alla våra användare att förstå.
Slutligen tror jag att det bästa sättet att hänga med i de snabba förändringarna på nätet är att kombinera ansträngningar och dela information. Det är viktigt att arbeta med rätt partner för att hjälpa till att identifiera våra användares behov och bygga nya funktioner som möter branschens utmaningar. I det här fallet har det varit mycket givande att fördjupa vårt partnerskap med Yoti och att fortsätta vårt dagliga arbete tillsammans med vårt säkerhetsråd för att göra det möjligt för oss att ha så effektiva och inkluderande säkerhetsfunktioner som möjligt.
