Supposons que vous êtes un enquêteur. Ou peut-être un harceleur compulsif. Ou peut-être simplement un annonceur. Vous voulez comprendre certains attributs personnels d'un individu pour… des raisons. Donc, vous vous connectez à Facebook, les recherchez et scannez leur profil.
Pas de chance, cependant. Ils ont mis toutes les informations importantes derrière un mur de confidentialité. Dans un monde simple et ennuyeux, l'histoire devrait se terminer ici.
Mais le nôtre est un monde d'intrigues et d'émerveillement et vous n'êtes pas quelqu'un qui abandonne facilement. Ainsi, vous creusez un peu plus dans le profil de l'utilisateur et parvenez à vous familiariser avec certains intérêts personnels qu'il a ouvertement divulgués sur Facebook.
Si vous aviez les capacités déductives de Sherlock Holmes, il aurait peut-être suffi de comprendre tout ce que vous devez savoir sur la personne en question en vous basant uniquement sur ses intérêts.
Bien qu'aucun de nous ne soit un Sherlock ici, l'intelligence artificielle est une approximation raisonnable des talents du grand détective.
C'est ce que les chercheurs ont réussi à faire à l'aide d'un algorithme NLP (Natural Language Processing): ils ont prédit les attributs personnels cachés des utilisateurs de Facebook en utilisant uniquement leurs intérêts divulgués publiquement.
En particulier, les chercheurs ont pu prédire les attributs personnels suivants des utilisateurs en se basant uniquement sur leur intérêt pour la musique :
- Âge
- Emplacement
- Le sexe
- Statut de la relation
Bien que l'article dans lequel les chercheurs ont publié leurs découvertes soit un peu ancien maintenant (publié en 2012), il constitue une excellente démonstration de la façon dont des informations privées peuvent fuir à travers les réseaux sociaux, même lorsque vous avez rendu pratiquement toutes les données vous concernant invisibles. tiers.
Vous êtes ce que vous aimez
Les paramètres de confidentialité sur les sites Web de médias sociaux donnent aujourd'hui aux utilisateurs un contrôle beaucoup plus grand sur la visibilité de leurs informations (les innombrables violations de la vie privée des réseaux de médias sociaux ont eu une certaine utilité après tout).
Mais est-ce vraiment suffisant pour empêcher que vos informations cachées ne soient exposées ? Malheureusement, les recherches des scientifiques de l'INRIA France prouvent le contraire.
Les chercheurs ont montré qu'en utilisant les préférences musicales et les intérêts d'un utilisateur tels que divulgués sur Facebook, il est possible de prédire son âge, son sexe, son statut relationnel et son emplacement.
Étant donné que les intérêts, les goûts et les aversions de la plupart des utilisateurs sont accessibles au public, un harceleur potentiel n'a pas besoin de travailler trop dur pour voir ce que la plupart des utilisateurs aiment sur Facebook. À partir de là, c'est une question de corrélation statistique et de probabilité de déterminer vos attributs plus personnels comme le statut de la relation et l'emplacement.
Alors, comment un programme d'IA détermine-t-il exactement les détails personnels vous concernant sur la base simpliste de ce que vous aimez ?
Du goût musical aux détails personnels
Supposons qu'un attribut personnel caché dans votre profil Facebook soit votre âge (ce que nous voulons déduire) et que vous ayez aimé la page officielle de Metallica (que vous avez décidé de rendre publique). Supposons en outre, par souci de simplicité, qu'il existe 5 autres profils Facebook publics intéressés par Metallica qui ont également révélé ouvertement leur âge à la vue de tous. Si 4 d'entre eux sur 5 appartiennent à la tranche d'âge 18-24 ans, alors, par vote à la majorité, votre attribut caché (dans ce cas, votre âge) est également susceptible d'être 18-24 ans.
(Cet exemple n'est utilisé qu'à titre indicatif et ne correspond pas nécessairement à la réalité)
Bien que l'approche semble trop simple pour être efficace, les chercheurs ont obtenu une précision d'inférence de 72,5 % pour certains attributs de l'utilisateur. Ceci a été réalisé en utilisant le facteur prédictif unique de l'intérêt pour la musique parmi un ensemble beaucoup plus large d'intérêts personnels visibles publiquement. Des modèles plus sophistiqués capables de prendre en compte les multiples intérêts des utilisateurs pourront non seulement déduire une plus grande gamme d'attributs personnels, mais ils le feront avec une précision encore meilleure.
Et c'est une cause d'inquiétude, car les attributs sensibles à la vie privée des utilisateurs sur les réseaux sociaux, même lorsqu'ils sont cachés, ne sont pas aussi sûrs que la sagesse conventionnelle voudrait nous le faire croire.
Le dilemme du consentement
La caractéristique la plus puissante de cette méthode de prédiction des attributs personnels est qu'elle repose uniquement sur les informations auto-divulguées des utilisateurs de Facebook sur les intérêts musicaux,
Il n'y a absolument rien de louche dans cette approche, comme l'utilisation de logiciels malveillants ou la violation forcée d'informations. La technique tire simplement le meilleur parti de ce qui est disponible en ligne, et il se trouve que les informations sur nos intérêts sont abondamment disponibles à l'ère des réseaux sociaux.
Cela rend ladite technique extrêmement difficile à aborder avec toute législation sur la protection de la vie privée, d'autant plus que le consentement de l'utilisateur est implicite dans les informations accessibles au public. La loi peut protéger notre vie privée s'il existe des preuves d'une violation ou d'un abus des informations de l'utilisateur, par exemple lorsque vos informations privées sont consultées par des tiers.
Dans le cas présent, la technique repose uniquement sur des conjectures sophistiquées entièrement rendues possibles par des informations d'utilisateur accessibles au public, qui comportent le consentement implicite de l'accessibilité publique.
Contre cela, toute défense légale me semble inconcevable. Vous demanderiez d'interdire la pratique de se deviner afin de poursuivre quiconque pour avoir prédit avec précision l'état de votre relation à partir de vos préférences musicales, que vous avez joyeusement divulguées de votre propre volonté.
Néanmoins, le modèle du chercheur peut être utilisé à des fins plus néfastes et juridiquement défendables que de simples jeux de devinettes.
Se préparer à une urgence en matière de confidentialité
Certains des abus possibles de la technique des chercheurs impliquent le doxing. Avec la possibilité de rassembler les détails personnels d'un utilisateur en fonction de ses intérêts, le doxing deviendra plus facile pour les attaquants, laissant un plus grand nombre d'utilisateurs vulnérables aux fuites potentielles d'informations et à l'exposition en ligne.
Les spammeurs pourraient également avoir une journée sur le terrain avec le pouvoir de faire correspondre le profil Facebook d'un utilisateur avec son adresse e-mail et de spammer sa boîte de réception avec des publicités ciblées sculptées pour être en ligne avec les intérêts prévus d'un utilisateur.
Pour les annonceurs, ces techniques prédictives pourraient être exactement ce dont ils ont besoin pour profiler efficacement les utilisateurs pour le ciblage publicitaire, tandis que les prédictions basées sur les intérêts des attributs individuels pourraient devenir un élément crucial de la technologie à venir, avec des cookies de navigateur sur le point de disparaître.
Quelle que soit la façon dont vous le regardez, c'est l'utilisateur qui obtient l'extrémité courte du bâton car notre vie privée est réduite à un fil lâchement suspendu qui soufflera dans toutes les directions du vent.
Et ainsi, juste au moment où vous pensiez que vous ne pouviez pas avoir plus de mal à maintenir un semblant de confidentialité, nos capacités technologiques avancées portent un autre coup pour nous assurer de rester nus en ligne.
Nous nous rapprochons de plus en plus d'une situation où la seule voie à suivre pourrait être d'accepter un monde dépourvu de confidentialité numérique ; un droit que nous avons échangé pour nourrir notre propre technophilie croissante. La vie privée peut très bien être un sacrifice nécessaire pour de nouveaux progrès technologiques, mais dans quelle mesure sommes-nous prêts à faire un pas dans un monde où les ombres n'existent que pour protéger l'agresseur et les projecteurs envahissants restent collés à l'agressé ?