Le futur de la technologie et de la vie privée pourrait bien être en train de se dérouler sous nos yeux. Deux étudiants en informatique à Harvard, AnhPhu Nguyen et Caine Ardayfio, ont récemment fait sensation avec un projet qui illustre un scénario digne d'un film de science-fiction dystopique. Grâce aux lunettes intelligentes de Meta et à des outils de reconnaissance faciale, ces jeunes créateurs ont développé un système capable de dévoiler en quelques secondes des informations personnelles sensibles sur n’importe quel inconnu croisé dans la rue. Nommé I-XRAY, il soulève de sérieuses questions sur la protection de la vie privée à l’ère des nouvelles technologies. Dans une vidéo publiée sur les réseaux sociaux, Nguyen explique comment lui et son camarade ont utilisé les Ray-Ban de Meta, qui intègrent une caméra, pour collecter des images de personnes croisées au hasard. Ces images sont ensuite analysées par des outils de reconnaissance faciale comme Pimeyes, un service qui explore l'ensemble du web pour repérer l'endroit où un visage apparaît en ligne. Une fois l'identité potentielle de la personne découverte, un modèle de langage (LLM) infère des informations supplémentaires, telles que le nom, l’adresse, le numéro de téléphone ou même les noms de proches.
Un aperçu inquiétant de l'avenir
Le projet est un aperçu impressionnant (mais inquiétant) de ce que pourrait devenir notre quotidien dans un futur proche. Ces technologies, autrefois limitées à la science-fiction, sont désormais à portée de main. Les créateurs affirment qu'ils n’ont aucune intention de diffuser le code de leur projet, mais la simple démonstration de ce qu'ils ont réussi à accomplir suffit à semer l'inquiétude quant à l'avenir de la confidentialité dans les espaces publics. Les lunettes Ray-Ban de Meta ne ressemblent en apparence qu'à des lunettes ordinaires, mais elles disposent d’une caméra, une avancée récente dans la technologie portable. De plus, le type de modèle de langage qu’ils ont utilisé pour extraire des informations n’a été rendu accessible que ces deux dernières années. Cela montre à quel point les innovations technologiques avancent rapidement, et souvent, avant même que la société ne puisse réfléchir aux conséquences éthiques. Nguyen et Ardayfio ont mis en lumière un problème bien réel: les bases de données contenant des informations personnelles, accumulées à travers des années de fuites de données, sont maintenant accessibles à quiconque sait utiliser les bons outils. Ils ont par exemple réussi à consulter des informations partielles de numéros de sécurité sociale, rendues disponibles au grand public depuis seulement 2023.
L’utilisation de l’I-XRAY en pratique
Dans la vidéo, Nguyen montre comment les lunettes capturent un visage dès que quelqu’un entre dans le champ de vision. En quelques secondes, les informations personnelles de cette dernière s’affichent sur leur téléphone. Ils sont même allés jusqu’à approcher des inconnus en leur donnant l’impression qu’ils les connaissaient, après avoir obtenu des détails sur eux via leur système. Cela démontre non seulement la rapidité, mais aussi l'efficacité de leur technologie pour les identifier et extraire leurs informations personnelles en temps réel. Dans un document explicatif publié en ligne, les deux créateurs soulignent que ce type de données était impossible à obtenir aussi rapidement il y a encore quelques années. Leur système combine des moteurs de recherche spécialisés dans les informations personnelles, tels que FastPeopleSearch, CheckThem, et Instant Checkmate, avec des technologies de reconnaissance faciale.
Une innovation ambivalente
Les deux étudiants défendent leur projet comme un service à la société, arguant que la transparence sur ces outils est préférable à une ignorance généralisée. Dans un échange avec la presse, Nguyen explique qu'ils préfèrent que le public soit informé des capacités de ces technologies plutôt que de laisser des « acteurs malveillants » en tirer profit dans l'ombre. Pour eux, exposer ce qu’elles peuvent faire aide à sensibiliser les gens aux moyens de protéger leurs données personnelles. Ardayfio partage cette vision optimiste. Selon lui, leur vidéo, qui a déjà été vue par des millions de personnes, en montre un usage relativement inoffensif et alerte le public sur les risques potentiels. Le duo estime que leur projet permet aux gens de mieux comprendre les technologies de recherche d’images inversées et les modèles de langage, et, par conséquent, de mieux protéger leurs informations personnelles.
Un avenir sans anonymat ?
Si Meta n’a pas encore réagi, il est indéniable que ce type de technologie est en train de se démocratiser. Tout comme OpenAI a ouvert la voie à l’IA générative accessible au grand public, il est probable que ce genre de produit finisse par émerger et par attirer l’attention des grandes entreprises technologiques. Il semble inévitable que d'autres petites startups finissent par développer des outils similaires, accélérant ainsi leur adoption par les géants du secteur. Cette perspective soulève cependant des questions cruciales sur la vie privée et l'anonymat dans l'espace public. Une fois que cette technologie sera couramment utilisée, il est possible que personne ne puisse plus se déplacer sans que ses informations personnelles ne soient accessibles d’un simple regard. Alors que nous nous dirigeons vers ce futur, espérons que des garde-fous seront mis en place pour protéger les données des citoyens ordinaires. En fin de compte, l'innovation et la protection de la vie privée semblent prendre la voie d’une confrontation inévitable. Que ce soit à travers des lunettes intelligentes ou d'autres dispositifs portables, il est plus que jamais nécessaire que nous réfléchissions aux implications de ces technologies et à la manière dont elles doivent être réglementées pour garantir un avenir où la liberté ne sera pas un souvenir lointain.
Ce qui est d'autant plus inquiétant c'est que si quelques étudiants ont réussi à faire d'une paire de lunette un hack de la vie personelle de n'importe qui, imaginez ce que des pirates pointus et mal intentionnés peuvent faire... La cybercriminalité a de beaux jours devant elle. La techno c'est vraiment chouette, mais si on ne sait pas la maîtriser, d'autres le feront pour nous, et ils sont rarement bien intentionnés.
Je viens de voir la vidéo ce qui est encore plus flippant c'est la réaction des gens, pas un seul ne se dit qu'ils ont accès à des informations personnelles qui pourraient être dangereuses. Il y a du boulot côté sensibilisation et prevention.