Accueil » Yahoo a un algorithme pour détecter les messages de haine
High-Tech

Yahoo a un algorithme pour détecter les messages de haine

Les équipes de Yahoo ont mis au point un algorithme pour détecter les nouveaux mots susceptibles d’être utilisés dans les “messages de haine” publiés par les internautes, et ainsi aider les modérateurs à détecter et supprimer les messages très rapidement, voire les supprimer automatiquement.

Voilà qui pourrait aider la future “Unité nationale de lutte contre la haine sur Internet” voulue par Manuel Valls, qui devra mettre en place une HADOPI contre les discours racistes, antisémites, xénophobes, homophobes, et autres. Des chercheurs de Yahoo prévoient de dévoiler le 18 mai prochain à Florence lors de l’International World Wide Web Conference les détails de travaux qu’ils ont réalisé pour faciliter la détection des discours de haine sur Internet.

Estimant que les discours de haine sont “une plaie pour les sites web qui permettent aux utilisateurs de laisser des commentaires, ayant un impact négatif sur leur business et sur l’expérience utilisateur dans son ensemble“, les chercheurs de Sunnyvale ont mis au point un algorithme qui reconnaît automatiquement les messages d’incitation à la haine, grâce à une technique d’acquisition neuronale du langage. L’objectif est de dépasser les simples filtrages par mots clés installés sur la plupart des grands sites internet, pour reconnaître y compris les mots que les internautes utilisent pour tenter de contourner la censure automatisée. L’intelligence artificielle saisit qu’un nouveau mot est utilisé dans le même contexte qu’une expression bannie par les modérateurs, et considère donc qu’il est utilisé comme substitut.

Pour entraîner leur algorithme, les chercheurs ont utilisé une base de 895 456 commentaires “propres” générés par 209 779 utilisateurs des forums de Yahoo Finance, ainsi que 56 280 commentaires qui avaient été signalés comme contenant des discours de haine. Ils ont pu ainsi construire un nuage de mots sémantiquement proches du mot interdit “fuck”, pour améliorer les outils de censure automatisée ou assistée.

Selon eux, les résultats obtenus “montrent clairement les bénéfices de l’approche proposée, et constituent un pas en avant dans la solution au problème de la détection des discours de haine dans les commentaires des utilisateurs en ligne“.

Si vous avez trouvé une erreur d’orthographe, veuillez nous en aviser en sélectionnant le mots et en appuyant sur Ctrl+Enter.

A propos de l'auteur

Sébastien

Passionné depuis toujours par l'informatique et les jeux vidéos, je transforme ma passion en expertise. J'utilise quotidiennement les outils et systèmes Microsoft. Je ne délaisse pas mon côté ouvert, notamment via l'utilisation des OS Debian et Archlinux.

Ajouter un commentaire

Cliquez ici pour poster un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Ce site est hébergé avec ❤ par

Heberge par Ikoula

Suivez nous sur les réseaux sociaux !

FR | GeekParadizeHub ➜ Communauté Multigaming

2 User(s) Online Join Server
  • Anthonio_Loucass
  • Zack Loire

✉️ Abonnez-vous à notre newsletter

Recevez par email toute l'actualité High-Tech chaque matin
Abonnez-vous à notre newsletter et rejoignez les 1300 autres abonnés.

2 - Entrer votre adresse email :

Vous affirmez avoir pris connaissance de notre Politique de confidentialité. Vous pouvez vous désinscrire à tout moment à l'aide des liens de désinscription ou en nous contactant via le formulaire de contact

Tester votre débit

Acheter moins cher avec i-Comparateur

Rapport de faute d’orthographe

Le texte suivant sera envoyé à nos rédacteurs :