Slack aurait utilisé les données de ses clients pour alimenter ses fonctions d’apprentissage machine (ML), notamment pour améliorer la pertinence et le classement des résultats de recherche. Cela a suscité des critiques en raison des mises à jour confuses de la politique, qui ont conduit de nombreuses personnes à penser que leurs données étaient utilisées pour former des modèles d’IA.
Conformément à la politique de l’entreprise, toute personne souhaitant se désengager doit demander à l’administrateur Slack de son organisation d’envoyer un e-mail à l’entreprise pour mettre fin à l’utilisation de ses données.
Cette révélation intervient alors que Corey Quinn, cadre chez Duckbill Group, a écrit sur X pour demander : « Je suis désolé Slack, vous faites QUOI avec les DM, les messages, les fichiers, etc. des utilisateurs ? ».
Quinn faisait référence à un extrait des principes de confidentialité de Slack, qui stipule que « Pour développer des modèles d’IA/ML, nos systèmes analysent les données des clients (par exemple, les messages, le contenu et les fichiers) soumises à Slack ainsi que d’autres informations (y compris les informations d’utilisation) telles que définies dans notre politique de confidentialité et dans votre contrat client ».
Un autre extrait se lit comme suit : « Pour vous désinscrire, veuillez demander à votre org, aux propriétaires de l’espace de travail ou au propriétaire principal de contacter notre équipe d’expérience client à l’adresse feedback@slack.com ».
Slack a rapidement répondu au post, confirmant qu’elle utilise le contenu des clients pour former certains outils d’IA dans l’application. Cependant, ils ont précisé que ces données ne sont pas utilisées pour leur offre d’IA premium, qui, selon eux, est complètement séparée des informations des utilisateurs.
Hello from Slack! To clarify, Slack has platform-level machine-learning models for things like channel and emoji recommendations and search results. And yes, customers can exclude their data from helping train those (non-generative) ML models. Customer data belongs to the…
—Slack (@SlackHQ) May 17, 2024
La plateforme de communication d’équipe basée sur le cloud a également déclaré à TechRadar Pro que les informations qu’elle utilise pour alimenter son ML sont anonymisées et n’accèdent pas aux messages.
La présidente de l’application de messagerie chiffrée de bout en bout SignalSignal est une application de messagerie chiffrée de bout en bout, développée par une fondation à but non lucratif, considérée comme la référence en matière de confidentialité. Lire la fiche, Meredith Whittaker, a critiqué Slack pour l’utilisation de ces données. Elle a déclaré sur X : « Signal ne fera jamais cela. Nous ne collectons pas vos données en premier lieu, nous n’avons donc rien à “exploiter” pour l’’IA’ ».
PSA: Signal will never do this ❤️😇
We don’t collect your data in the first place, so we don’t have anything to “mine” for “AI” https://t.co/DMyuaTFP33
—Meredith Whittaker (@mer__edith) May 17, 2024
Slack répond aux critiques sur l’utilisation des données des utilisateurs
En réponse au tollé de la communauté, l’entreprise appartenant à Salesforce a publié un blog séparé pour répondre aux préoccupations, en déclarant : « Nous ne construisons ni n’entraînons ces modèles de manière à ce qu’ils puissent apprendre, mémoriser ou être en mesure de reproduire toute donnée client, quelle qu’elle soit ».
Slack a également confirmé que les données des utilisateurs ne sont pas partagées avec des fournisseurs de LLM tiers à des fins de formation.
Un ingénieur de Slack a tenté de clarifier la situation sur Threads, expliquant que les règles de confidentialité ont été « écrites à l’origine sur le travail de recherche/recommandation que nous avons fait pendant des années avant Slack AI », et admettant qu’elles ont « besoin d’une mise à jour ».
