Yubo, une application de diffusion en direct sociale populaire auprès d’un public de la génération Z, a annoncé aujourd’hui qu’elle devenait l’une des premières grandes plateformes sociales à adopter une nouvelle technique de vérification de l’âge qui utilise la technologie de capture d’images en direct pour identifier les mineurs à l’aide de son application, afin de les garder séparés des utilisateurs adultes. Alors que d’autres entreprises desservant une clientèle plus jeune s’appuient généralement sur des techniques traditionnelles de contrôle de l’âge, celles-ci sont facilement contournées car tout ce qui est généralement requis est qu’un utilisateur entre une date de naissance dans un formulaire en ligne.
De nombreux enfants savent qu’ils peuvent mentir sur leur âge pour accéder à des plateformes conçues pour les utilisateurs plus âgés, c’est ainsi qu’ils se retrouvent dans des espaces en ligne qui ne sont pas adaptés aux enfants ou qui présentent des risques plus importants associés à leur utilisation.
Yubo, d’autre part, a réfléchi à ce à quoi devrait ressembler l’avenir des réseaux sociaux pour la prochaine génération d’utilisateurs – et pas seulement du point de vue du produit, mais aussi du point de vue de la sécurité du produit.
Fondée en 2015, les utilisateurs de Yubo traînent dans des salles de diffusion en direct où ils peuvent socialiser, jouer à des jeux et se faire de nouveaux amis. Il n’y a pas de créateurs sur la plate-forme diffusant aux fans, et Yubo n’a pas l’intention d’aller dans cette direction – comme presque toutes les autres grandes plates-formes sociales l’ont fait aujourd’hui. Au lieu de cela, l’objectif de son application est d’aider les utilisateurs à socialiser naturellement, comme ils sont déjà à l’aise, après avoir grandi en utilisant des services comme FaceTime et en traînant avec des amis dans d’autres applications vidéo en direct.
Selon le co-fondateur et PDG de Yubo, Sacha Lazimi, la génération Z ne voit “aucune différence entre la vie en ligne et hors ligne”, dit-il.
“Ils ont exactement les mêmes besoins de socialisation hors ligne qu’en ligne, mais il n’y avait pas de solutions [for this]», explique Lazimi. Cela a conduit Yubo à lancer une fonctionnalité de vidéo en direct qui a été lancée auprès de la base d’utilisateurs de l’application en février 2018.
“Nous prenons le meilleur de l’interaction hors ligne et y ajoutons la puissance de la technologie pour nous assurer que vous vous connecterez au bon groupe de personnes partout dans le monde, à tout moment, dans un environnement sûr”, ajoute-t-il.
La société a enregistré aujourd’hui 60 millions d’inscriptions, ce qui représente une augmentation par rapport aux 40 millions qu’elle avait signalés en 2020 lors de la clôture de son cycle de financement de série C de 47,5 millions de dollars; 99 % d’entre eux sont des utilisateurs de la génération Z, âgés de 13 à 25 ans.
Bien que Yubo ne partage pas ses utilisateurs actifs mensuels, il note qu’il constate une augmentation des revenus via ses fonctionnalités et abonnements premium à la carte, qui sont passés de 7 millions d’euros en 2019 à 25 millions d’euros l’année dernière. L’application ne diffuse pas de publicités.
Mais avec ce public plus jeune et la croissance vient le besoin d’une sécurité accrue. Auparavant, Yubo s’était associé au fournisseur d’identité numérique Yoti pour l’aider à contrôler les utilisateurs potentiellement suspects. Si les gens utilisaient des numéros de téléphone ou des appareils différents, par exemple, ou s’ils avaient été signalés par d’autres, Yubo leur demanderait de se vérifier en soumettant leurs identifiants. Le processus de gestion de la vérification d’identité a été géré par Yoti.
En moyenne, Yubo a traité 6 500 vérifications par jour en 2021. Suite à cette vérification, 67 000 comptes par mois ont été suspendus en raison de différences d’âge, indique la société.
Mais il y avait un défi avec ce système – les mineurs n’ont souvent pas de pièce d’identité.
“Beaucoup d’adolescents – surtout les moins de 18 ans – n’ont pas de papiers d’identité”, note Lazimi. “Nous ne pouvions donc pas demander à chacun de vérifier son identité.”
Crédits image : Yubo
Cela a conduit l’entreprise à adopter un autre produit Yoti pour les estimations d’âge. Ce système dirigera les utilisateurs nouveaux et existants vers un écran de vérification de l’âge et d’accord soit lors de l’inscription, soit sous forme de fenêtre contextuelle pour les utilisateurs existants lors du lancement de l’application. Lorsqu’ils acceptent, leur caméra s’active et ils sont invités à placer leur visage dans un ovale qui apparaît à l’écran. L’« algorithme de vivacité » prend également une courte vidéo qui analyse le mouvement pour confirmer que l’image utilisée n’est pas fausse ou qu’elle n’est pas extraite d’un moteur de recherche.
Lorsque le visage a été détecté, l’utilisateur recevra une confirmation qu’il a été vérifié ou on lui dira si son âge ne correspond pas à l’âge qu’il a saisi lors de l’inscription ou s’il n’utilise pas une photo légitime .
Si l’âge de l’utilisateur est confirmé, il sera dirigé vers la page d’accueil et pourra utiliser Yubo comme avant. Si la vérification échoue, ils devront passer par une vérification d’identité complète à la place.
Crédits image : Yubo
La nouvelle technologie, comme vous pouvez l’imaginer, n’est pas parfaite.
Lazimi admet que cela fonctionne mieux avec les visages des jeunes qu’avec les adultes. Actuellement, le système d’estimation de l’âge Yoti peut identifier efficacement les âges des utilisateurs de 6 à 12 ans en 1,3 an, et ceux entre 13 et 19 ans en 1,5 an, affirme Yoti. Après cela, la précision diminue. Pour les 20 à 25 ans, il est précis dans une fourchette de 2,5 ans. Pour les 26-30 ans, c’est dans un délai moyen de 3 ans. Mais cette précision pourrait s’améliorer avec le temps, à mesure que d’autres analyses sont effectuées.
“C’est en fait très précis pour les jeunes utilisateurs, et en particulier les utilisateurs de moins de 15 ans… Je pense que pour les utilisateurs de 13 à 14 ans, c’est environ 99 %”, dit-il. (Il est précis à 98,9 % pour tous les âges, sexes et tons de peau, dit Yoti.). À ce jour, Yoti a utilisé la technologie sur quelque 500 millions de visages et est certifié par le service de test de logiciels iBeta.
“C’est moins précis pour les utilisateurs plus âgés – c’est pourquoi nous avons lancé avec les utilisateurs les plus jeunes, parce que ce sont ceux que nous voulons protéger davantage et aussi parce que c’est plus précis et plus précis”, explique Lazimi.
La société déploiera initialement la technologie auprès des utilisateurs de 13 et 14 ans dans le but de vérifier l’âge de 100 % des utilisateurs d’ici la fin de 2022.
La technologie d’estimation de l’âge n’est pas le premier outil que Yubo a adopté pour assurer la sécurité des jeunes utilisateurs sur les diffusions en direct, souligne la société.
Il utilise également la technologie de l’IA et la modération humaine pour surveiller les diffusions en direct en prenant des captures d’écran seconde par seconde, puis en signalant le contenu inapproprié aux modérateurs humains en temps réel, y compris la nudité, la nudité partielle (y compris les sous-vêtements), le contenu suggestif, la consommation de drogue, les armes, le sang et violences. (Vous pouvez voir certaines plaintes à ce sujet dans les critiques de l’App Store de Yubo, où les adolescents se plaignent qu’il ait signalé aux garçons qu’ils diffusaient sans chemise.)
Yubo comprend également des fonctionnalités de sécurité éducatives. Par exemple, l’application affiche des rappels sur les options de modification personnalisées (comme les mots en sourdine) et envoie des alertes aux utilisateurs s’ils participent à des comportements nuisibles et inappropriés ou s’ils partagent des informations personnelles sensibles. La société dispose également d’un comité consultatif sur la sécurité composé d’experts internationaux en matière de sécurité en ligne.
“Nous travaillons également en étroite collaboration avec le gouvernement et les ONG car nous pensons que les réseaux sociaux doivent être soumis à une réglementation plus stricte par le haut”, déclare Lazimi. Mais, ajoute-t-il, « nous n’attendons pas la réglementation pour faire des dispositifs de sécurité. Nous le faisons de manière proactive », dit-il.
