Plus d’un mois s’est écoulé depuis que Snapchat a introduit les fonctions de ChatGPT dans son outil « My IA », répondant aux questions des utilisateurs par des réponses générées par l’IA. L’entreprise a reconnu les inquiétudes concernant le potentiel d’abus du chatbot et a annoncé des changements visant à le rendre plus sûr.
Afin d’évaluer la gravité des contenus potentiellement dangereux et de révoquer temporairement l’accès des Snapchatters à My IA s’ils abusent du service, Snapchat a ajouté la technologie de modération d’Open AI à sa boîte à outils existante.
En outre, l’entreprise a mis en place un nouveau signal d’âge pour My IA qui utilise la date de naissance d’un Snapchatter, de sorte que même si un Snapchatter n’indique jamais son âge à My IA au cours d’une conversation, le chatbot tiendra toujours compte de son âge lorsqu’il engagera la conversation.
Dans les semaines à venir, Snapchat donnera aux parents plus d’informations sur la façon dont leurs enfants interagissent avec My IA. Cela signifie que les parents pourront consulter le Centre familial pour voir si leurs adolescents interagissent avec My IA et à quelle fréquence.
En ce qui concerne les inquiétudes suscitées par le bot My IA, Snapchat déclare :
Nous continuons à encourager les Snapchatters à utiliser My IA.
Nous continuons d’encourager les Snapchatters à utiliser nos outils de signalement dans l’application s’ils reçoivent des réponses inquiétantes de la part de My IA et à nous faire part de leurs commentaires sur leur expérience globale avec le produit
Nous travaillons constamment à l’amélioration de My AI, et nous évaluerons continuellement des mesures supplémentaires pour aider à assurer la sécurité de notre communauté. Nous apprécions tous les premiers commentaires sur My AI et nous nous engageons à fournir une expérience amusante et sûre à notre communauté.
