Lors d’un détail assez inattendu d’un entretien avec le PDG de Facebook, Mark Zuckerberg, ce dernier affirme que Facebook scanne automatiquement les conversations dans Facebook Messenger à la recherche de contenu intolérable, en surveillant à la fois les messages et les images partagées.
Facebook utilise depuis longtemps des systèmes automatisés pour suivre ce qui est affiché publiquement sur les murs des utilisateurs. Cependant, on parle moins de la façon dont les systèmes du réseau social suivent le contenu partagé dans les conversations que les utilisateurs pourraient raisonnablement considérer comme étant plus privé. Mais, il s’avère que l’oeil de Facebook n’est pas loin !
Zuckerberg a donné un exemple de la façon dont cela fonctionne dans une récente interview, où le système avait repéré des messages liés au “nettoyage ethnique” au Myanmar. À l’époque, a déclaré le chef de la direction, le système a été en mesure d’intervenir et de bloquer la transmission des messages depuis Facebook.
Le suivi ouvre de nouvelles questions sur la façon dont Facebook gère la vie privée, un sujet déjà très en vue pour commencer. La société a récemment étendu ses outils de confidentialité, offrant un contrôle plus transparent sur les paramètres qui gèrent la visibilité des données avec des applications tierces et d’autres services. C’est en partie en réponse au nouveau règlement général sur la protection des données (GDPR), qui entrera en vigueur en Europe le mois prochain.
Juste pour détecter du contenu intolérable
Cependant, c’est aussi en partie à cause de révélations sur la manière dont Facebook a traité les données personnelles et les applications tierces il y a quelques années. Grâce à une API renforcée depuis, les développeurs d’applications ont pu voir non seulement des informations personnelles sur les utilisateurs de leurs applications et services, mais aussi sur celles de leurs amis, même s’ils n’informaient pas ces derniers. Des données de 5 millions de personnes ont été transmises à Cambridge Analytica, une société qui a continué à travailler sur la campagne Trump lors de l’élection présidentielle américaine de 2016.
Facebook a confirmé à Bloomberg qu’elle surveille en effet les conversations sur Facebook Messenger. Cependant, ce sont des outils automatisés qui font l’analyse quotidienne. Les modérateurs humains ne sont impliqués que lorsque des messages spécifiques sont signalés pour avoir violé les « normes communautaires » de Facebook.
Bien que cette analyse soit louable, il est difficile de savoir ce que Facebook fait de cette information automatiquement scanné. La technologie, après tout, pourrait tout aussi bien être utilisée pour adapter la publicité aux sujets de ce que les utilisateurs discutent.
