Un étrange globe voyage de ville en ville, récoltant le reflet des iris.
Des centaines de milliers de regards sont transformés en codes numériques, supposés certifier notre humanité en ligne.
Or, une autorité allemande s’insurge contre cette collecte massive et exige des comptes.
La BayLDA pointe du doigt un dispositif de reconnaissance biométrique qui semble frôler les limites du RGPD. La société responsable, Tools for Humanity, se trouve aujourd’hui sommée de supprimer des données sensibles accumulées au fil de son déploiement européen. Le débat s’enflamme autour de la notion d’anonymisation et de la possibilité réelle d’effacer ces informations. Malgré un appel en cours, la décision bavaroise redistribue les cartes de la régulation des technologies d’identification biométrique.
Quelles sont les raisons de l’intervention de l’Allemagne ?
En mai 2023, l’Office bavarois de contrôle de la protection des données (BayLDA) a rendu publique une décision majeure à l’encontre de World, l’initiative biométrique portée par Sam Altman d’OpenAI. Après plusieurs mois d’enquête, l’autorité allemande a identifié « un certain nombre de risques fondamentaux en matière de protection des données », affectant potentiellement des centaines de milliers d’utilisateurs. L’enjeu principal concerne la collecte et le traitement des codes d’iris et de visages, destinés à prouver qu’une personne est bien un humain et non un robot sur Internet.
Selon la BayLDA, la procédure d’identification ne respecte pas le RGPD. L’autorité souligne l’absence de garanties suffisantes pour assurer l’anonymisation et l’effacement des données sensibles. Elle exige désormais la suppression complète des informations personnelles ou, à défaut, une adaptation de la méthode d’exploitation pour qu’elle réponde aux standards européens.
« Avec la décision d’aujourd’hui, nous appliquons les normes européennes en matière de droits fondamentaux en faveur des personnes concernées, dans une affaire technologiquement exigeante et juridiquement très complexe. »
— Michael Will, président de la BayLDA
Cette intervention marque un tournant : pour la première fois, un État membre passe à l’action contre la technologie d’identification biométrique portée par un acteur aussi influent qu’OpenAI. L’objectif de Berlin est clair : préserver les droits individuels face à l’émergence de solutions sophistiquées où la frontière entre innovation et intrusion demeure floue.
Comment fonctionne la technologie biométrique de World ?
Pour comprendre les critiques, il faut d’abord saisir le principe de la technologie développée par Tools for Humanity. Chaque utilisateur est invité à scanner son iris à l’aide d’un boîtier sphérique baptisé « Orb ». Le dispositif photographie l’œil, extrait un code unique et crée un identifiant numérique, appelé « World ID ». Ce dernier sert ensuite à se connecter à divers services en ligne sans recourir à un mot de passe ou à une carte d’identité physique.
À l’origine, ce code d’iris était stocké sur les serveurs de World, qui conservait également les images faciales pour valider la bonne correspondance. Face aux critiques, un protocole cryptographique a été mis en place : le code initial est découpé en trois fragments, répartis dans des bases de données tierces (universités de Berkeley, Zurich, FAU et NeverMind). Chaque fragment est quasi impossible à reconstituer indépendamment, selon Damien Kieran, responsable vie privée de l’entreprise.
En théorie, cette architecture vise à garantir l’anonymisation et la sécurité. Concrètement, elle soulève des questions : qui contrôle réellement l’accès aux fragments ? Comment vérifier l’absence de recoupement entre eux ? Les autorités allemandes redoutent qu’en cas de fuite ou de piratage, la reconstitution du code complet soit envisageable, exposant les données biométriques les plus sensibles.
La dimension internationale de World complique encore la donne. Basée à San Francisco, Tools for Humanity opère en Allemagne via une filiale bavaroise, où sont également produits les Orbs. Ce maillage transnational donne lieu à un dilemme juridique : soumettre la technologie au seul droit californien ou l’astreindre aux exigences du RGPD. Pour la BayLDA, la réponse est sans équivoque : toute collecte sur le territoire européen doit obéir aux normes de l’UE.
Quels risques pour la protection des données ?
La biométrie, par nature, soulève des enjeux de sécurité et d’éthique. Les codes d’iris ne peuvent pas être modifiés comme un mot de passe : une fuite entraîne un préjudice irréversible. Berlin identifie trois risques majeurs :
- Violation de vie privée : les utilisateurs ne maîtrisent pas l’usage futur de leurs données. Une fois captées, iris et visages pourraient être croisés avec d’autres fichiers.
- Réidentification : malgré l’anonymisation partielle, un pirate déterminé pourrait tenter de recoller les fragments de code dispersés.
- Surveillance généralisée : en instaurant l’authentification biométrique comme standard, on risque de banaliser la collecte systématique de données sensibles.
Face à ces menaces, la BayLDA impose à World une suppression rigoureuse des codes existants. L’autorité offre aux utilisateurs la possibilité de demander l’effacement intégral de leur World ID, sans frais ni justification. Ce droit à l’oubli biométrique représente une innovation dans la jurisprudence européenne, où la notion même de « suppression » des données sensibles demeure souvent floue.
Mécanismes de confidentialité utilisés
Pour répondre aux exigences, World déploie plusieurs technologies d’amélioration de la confidentialité (PET) :
- Découpage et tiers : séparer le code en fragments cryptés stockés chez des partenaires indépendants.
- Zero-knowledge proof : vérifier l’identité sans révéler le contenu exact du code biométrique.
- Logs anonymisés : toute requête d’authentification produit des traces chiffrées, non liées aux données personnelles.
Cependant, sans un encadrement légal précis, la BayLDA juge que ces mécanismes ne suffisent pas à garantir une véritable neutralité du traitement.
Quelle réponse de Tools for Humanity et World ?
Immédiatement après la décision allemande, World a fait appel et sollicité des clarifications sur la définition légale de l’anonymisation dans l’UE. Selon Damien Kieran, l’autorité se trouve « entre le marteau et l’enclume », conscient de la robustesse technique du produit mais soumis à une pression politique forte.
Sur le plan technique, World affirme que les données d’iris ne sont plus stockées en clair et que seules des preuves cryptographiques circulent sur ses serveurs. Les seules informations personnelles conservées sont un identifiant pseudonymisé et des métadonnées d’usage. Pour l’entreprise, « sans un cadre clair sur l’anonymisation, on risque de perdre notre outil le plus puissant dans la lutte pour la protection de la vie privée ».
World étudie désormais la mise en place d’un comité éthique européen, associant régulateurs, ONG et experts indépendants, pour définir un standard de conformité adapté aux innovations en intelligence artificielle et biométrie. Cette démarche vise à préempter d’autres actions légales dans l’UE.
Quelles conséquences pour les utilisateurs et le marché ?
La décision allemande suscite un effet domino. Plusieurs pays envisagent d’examiner à leur tour la conformité de World : Espagne, Portugal, France et Italie pourraient suivre. L’enjeu est de taille pour l’ensemble du secteur : si une zone économique majeure reprend le contrôle du marché biométrique, les start-ups et les géants de la tech devront revoir leurs modèles de collecte de données.
Pour les utilisateurs, l’affaire renforce l’importance de la transparence et du droit à l’effacement. Ceux disposant déjà d’un World ID en Allemagne peuvent d’ores et déjà exercer ce droit. À l’échelle mondiale, World assure que l’expérience utilisateur restera fluide : le système bascule sur les preuves cryptographiques, sans recours direct aux codes d’iris.
Sur le plan économique, les fabricants d’Orb et les partenaires locaux (installateurs, photographes agréés) devront composer avec une demande potentiellement en berne. Des programmes de compensation et de relance sont à l’étude, notamment sous forme de crédits pour services numériques alternatifs.
Plus généralement, l’affaire redéfinit le cadre dans lequel l’innovation technologique peut se déployer en Europe. Les régulateurs envoient un message clair : la route vers la digitalisation ne doit pas s’affranchir des droits fondamentaux. À l’avenir, toute solution biométrique devra s’appuyer sur une base juridique solide et un consentement éclairé, sous peine de voir son accès au marché européen compromis.
