Stoppez vos haters avec Bodyguard

Depuis quelques années, le harcèlement a revêtu un nouveau visage avec internet... pour mieux s'étendre. Le combat est d'autant plus rude que ses auteurs agissent sous couvert d'anonymat. Et c'est sur les réseaux sociaux que le cyberharcèlement sévit le plus. Originellement créées dans le but de rassembler, fédérer, échanger, ces plateformes sont pourtant devenues un support très apprécié par les haters.

Un développeur à la chasse aux haters

On les appelle les “haters” ou encore “détracteurs”. Quel que soit leur nom, ils utilisent les réseaux sociaux pour rabaisser, insulter, voire menacer les internautes, influenceurs ou utilisateurs lambda. Victimes de leur jalousie excessive et autre méchanceté gratuite, certains Youtubeurs vont jusqu'à fermer leur chaîne, se sentant en danger. Certains internautes sont même allés jusqu'au suicide, pour mettre fin à cet enfer.

Mais depuis près d'un an, une personne a décidé de prendre des mesures radicales pour lutter contre ce nouveau type d’agression : Charles Cohen.
Ce développeur de 22 ans, interpellé par ce problème de société et son manque de solutions, a pris les choses en main et créé une application : Bodyguard, une sorte de protection rapprochée numérique.

Elle ne fonctionne pour le moment qu’avec Twitter et YouTube, les deux réseaux sociaux où ce genre d'attaques violentes sont les plus régulières. 

Bodyguard en 3 étapes

Techniquement, Bodyguard est géré par une intelligence artificielle qui va bloquer les commentaires alarmants, après avoir analysé l’utilisateur à protéger ainsi que le contexte de la phrase suspectée. Comment ça marche ?

Dans un premier temps, l’application va rechercher des mots à caractère haineux, tels que des insultes. Elle a, en effet, répertorié au préalable une combinaison de plusieurs dizaines de millions de mots comprenant également les émojis, les fautes de frappe et d’orthographe, sans oublier les langages SMS et LEET. 
En clair, quel que soit le type de message envoyé par votre cyberharceleur, ce dernier sera intercepté par Bodyguard et bloqué pour ne pas être mis en ligne sur votre profil ou votre chaîne.

La deuxième étape consiste en l’analyse du contexte du-dit message. Car, malgré la présence d’injures, le contexte pourrait ne pas s'avérer haineux ou revêtir d'intention malsaine. C'est pourquoi Bodyguard examine les mots placés avant et après celui identifié comme haineux.

Enfin, Bodyguard va s’adapter à la victime. Par exemple, si cette dernière est homosexuelle, l'application se verra plus vigilante quant aux insultes homophobes. Si la personne connaît une situation de handicap (physique, mental, etc.), elle remarquera davantage et plus vite les moqueries.

Nota Bene : la plateforme prête également attention à l’âge de l’utilisateur, notamment dans le but de préserver et protéger les plus jeunes des dangers de la toile.

Un scanner en 5 millisecondes

Si l’idée est bonne, les analyses ont cependant besoin de 5 millisecondes en moyenne. Une durée qui peut paraître courte, mais qui parfois laisse passer quelques commentaires malveillants. Heureusement, Bodyguard a prévu des fonctions manuelles, permettant notamment de supprimer les commentaires passés entre les mailles du filet. Et inversement, si l'application bloque un message jugé malveillant mais que ce dernier ne l'est pas, l’internaute peut le restaurer.

Quelle efficacité ?

Si, depuis un an, les plateformes YouTube, Instagram et Twitch ont lancé un service similaire, ce dernier n'est disponible qu'en anglais pour l'instant. Grâce à Charles Cohen, les Français peuvent désormais réduire eux aussi la puissance du cyberharcèlement. D'autant que la seule aide proposée par YouTube consiste à placer des mots-clés dans une “blacklist”. De ce fait, si un commentaire contient l'un des mots-clés blacklistés, l'internaute devra patienter jusqu'au terme du temps de validation soumis par la plateforme de vidéos. Une technique bien trop peu efficace...

Bodyguard comptabilise aujourd’hui plus de 900 inscriptions de YouTubeurs, dont certains influenceurs reconnus et plus de 17 000 commentaires malveillants interceptés et supprimés.

Le véritable plus de Bodyguard ? Sans aucun doute sa gratuité. Mais également sa déclinaison dans plusieurs langues. Sa prochaine étape ? Etendre sa technologie aux entreprises. Enfin, l’application devrait bientôt arriver sur Facebook et Instagram.

Article de Clélia Ripoll