Au début de l’année, Snapchat a lancé son propre chatbot conversationnel alimenté par ChatGPT. À l’époque, Snapchat avait prévenu ses abonnés que son chatbot My AI, comme tous les chatbots IA, était susceptible de donner des réponses incorrectes en raison « d’hallucinations ».
Snapchat a déclaré aux utilisateurs : « Bien que My AI soit conçue pour éviter les informations biaisées, incorrectes, nuisibles ou trompeuses, des erreurs peuvent se produire […] Comme tous les chatbots alimentés par l’IA, My AI est sujet aux hallucinations et peut être amené à dire à peu près n’importe quoi ».
Snapchat poursuit : « Nous vous prions d’être conscients de ses nombreuses lacunes et nous vous prions de nous en excuser à l’avance ! Toutes les conversations avec My AI seront stockées et pourront être examinées afin d’améliorer l’expérience du produit. Ne partagez aucun secret avec Mon IA et ne comptez pas sur elle pour vous conseiller ».
CNN a rapporté en début de semaine que les utilisateurs de Snapchat ont paniqué mardi soir après que My AI a commencé à agir de manière étrange. En règle générale, My IA répond aux questions et entretient des conversations avec les utilisateurs de Snapchat. Mais mardi soir, la fonction My IA a fait des choses inhabituelles qui ont inquiété les utilisateurs de Snapchat qui pensaient que le chatbot était devenu sensible. My IA a notamment publié une story vidéo d’un mur et d’un plafond, alors que seuls les humains peuvent créer une story vidéo.
Did Snapchat Ai just add a picture of my wall/ceiling to their Snapchat story?
Snapchat AI – Left
My wall/ceiling- Right pic.twitter.com/bh8I3Aiwun
— Matt Esparza (@matthewesp) August 16, 2023
Sur les réseaux sociaux, un utilisateur de Snapchat a écrit : « Pourquoi My AI a-t-il comme story une vidéo du mur et du plafond de sa maison ? ». Un autre a déclaré : « C’est très bizarre et honnêtement troublant ». Snapchat a fini par expliquer que la fonction My IA n’était pas améliorée et que les photos suspectes et inquiétantes affichées en tant que Stories sur l’application n’étaient rien d’autre que le résultat d’un problème. Un porte-parole de Snapchat a déclaré : « My AI a connu une panne temporaire qui est maintenant résolue ».
La version de Snapchat de ChatGPT permet aux utilisateurs de choisir un nom pour le chatbot, de concevoir un bitmoji personnalisé pour lui et de partager l’accès à My IA avec leurs amis. Le résultat est que le chat avec My IA ressemble plus à une conversation avec un ami qu’à un chatbot. Cependant, les utilisateurs se sont plaints de craintes liées à la protection de la vie privée, « d’échanges effrayants » et de l’impossibilité de supprimer le chatbot de leur fil d’actualité, à moins de payer un abonnement premium.
Après la nuit de mardi à mercredi, les utilisateurs de Snapchat, effrayés, pourraient être davantage préoccupés par My AI et exprimer plus ouvertement leurs craintes.
