Interdit aux enfants de moins de 13 ans, Instagram utilise l'intelligence artificielle pour vérifier l'âge d'un utilisateur. La première mesure expérimentale encore testée aux États-Unis. L'annonce
a été faite le jeudi 23 juin 2022 :la société mère de Facebook, Meta, teste une nouvelle façon de déterminer l'âge d'un utilisateur. "Si quelqu'un essaie de changer sa date de naissance de moins de 18 ans à plus de 18 ans, demandez-lui de prouver son âge", a déclaré la société dans un communiqué. Libérer
Par conséquent, l'utilisateur dispose de trois options.
- Vérification de la carte d'identité,
- Vérification de l'utilisateur,
- , enregistrement auto-vidéo en partenariat avec Yoti, vérification d'identité en ligne pour l'intelligence artificielle.
Actuellement, la phase de test n'est menée qu'aux États-Unis. Cependant, de telles mesures soulèvent de nombreuses questions, notamment en ce qui concerne le biais de l'intelligence artificielle.
Comment cela fonctionne-t-il exactement ?
La raison pour laquelle Instagram veut vérifier l'âge d'un utilisateur est simple. Autrement dit, la plateforme est interdite aux utilisateurs de moins de 13 ans. De plus, "dans certains pays, l'âge minimum pour s'inscrire est supérieur deà", a déclaré Instagram. "Fournit uneexpérience adaptée à l'âge, telle que la définition du compte par défaut sur privé si vous savez que l'utilisateur est un adolescent âgé de 13 à 17 […] Les annonceurs doivent les contacter avec ads"
Si les utilisateurs concernés choisissent d'offrir des selfies vidéo pour prouver leur âge, ils bougent la tête Je dois prendre une vidéo pendant. Une fois pris, le selfie ne sera envoyé qu'à Yoti, dit Meta. Il ne peut pas reconnaître son identité, seulement son âge. "La technologie de Yoti peut estimer l'âge en fonction des traits du visage", explique Meta. Cependant, la société ne précise pas les caractéristiques à étudier. Une fois l'analyse terminée, Meta et Yoti supprimeront l'image.
Sur le site Web de Yoti, la technologie a été développée à l'aide d'un type d'intelligence artificielle appelé"réseau de neurones".Pour AI, l'image est simplement une structure de pixels ",Yoti est sur son site,"et notre technique est un motif Sont formés pour trouver". J'ai appris à distinguer les modèles qui résultent généralement de personnes d'un âge particulier. "La technologie de Yoti ne reconnaît pas l'identité et les images fournies ne sont pas réutilisées pour la formation à l'IA. »
La vérification de l'âge par analyse faciale fonctionne-t-elle ?
Yoti fait confiance à la technologie . "Pour les 6-12 ans, l'erreur absolue moyenne [écart moyen des prédictions par rapport aux valeurs réelles, ndlr] est de 1. Selon l'entreprise (36 ans, 13-19 ans), 99,65 % des utilisateurs entre les âges de 13 et 17 ans ont été correctement identifiés comme ayant moins de 23 ans.
Cependant, une erreur Et, comme toutes les IA, il y a un biais. Yoti ne fait pas exception. Les utilisateurs à la peau plus foncée obtiendront plus d'erreurs . Même si la tolérance reste très faible. Le fait que la couleur de peau soit de 4,79 pour les femmes les plus foncées contre 2,94 pour les femmes blanches âgées de 25 à 70 ans est impressionnant.
Mais malheureusement, c'est ce que toutes les entreprises disent à ce sujet. Il n'y a pas de détails pour savoir si l'outil s'améliorera ou si l'entreprise veut trouver la cause du biais, ce qui s'explique en partie par le fait que Yoti a utilisé la classification de Fitzpatrick.
Il s'agit d'un outil développé dans les années 1970 qui classe les types de peau qui sont moins sensibles aux rayons UV, bien qu'elles soient largement utilisées dans les techniques d'entraînement à l'intelligence artificielle., Cette classification est de plus en plus critiquée pour le manque de nuances sur les peaux les plus foncées qui ne s'expriment pas bien. Au contraire, elle est biaisée en faveur des peaux les plus claires. . Google a également annoncé en 2021 qu'il cesserait d'utiliser la classification Fitzpatrick pour son développement de produits
Utilisé en France.
Malgré le parti pris de l'IA de Yoti, Instagram Nous avons annoncé que le les tests ont déjà commencé, ils ne sont pour le moment qu'aux USA et Meta est européen. Je ne vous ai pas contacté au sujet de la possibilité d'arriver à Pa. Cependant, Yoti est déjà utilisé en Allemagne. "La technologie de Yoti a été approuvée par l'agence de réglementation allemande", a expliqué la société, "en utilisant l'application pour déterminer l'âge des personnes vivant en Allemagne qui souhaitent accéder à du contenu pour adultes. Cela montre également que tu peux le faire.".
Ce type d'accord n'a pas encore été conclu en France. Cependant, le gouvernement réfléchit également depuis un certain temps à des solutions pour restreindre l'accès aux contenus pornographiques adultes. Par conséquent, Arcom a envoyé une mise en demeure à cinq sites pornographiques en décembre 2021, "Mesures spécifiques pour empêcher les mineurs d'accéder au contenu. }" a été demandée. Jusqu'à présent, la méthode du gouvernement est différente :Acheter un "pass porno" dans un magasin, comme un chèque avec une carte bancaire, et mêmeune vérification de l'âge... FranceConnect
Le labo d'innovation de la CNIL, Linc, a également publié un guide "Privacy-friendly age verification"{120 Ce dernier est "{126" Il est recommandé pour implémenter le protocole, qui repose principalement sur le concept de chiffrement appelé "signature de groupe". Cela permet aux "utilisateurs de se connecter anonymement au sein du groupe". Il n'y a pas encore de questions sur les selfies vidéo.