Twitch utilisera l'apprentissage automatique pour attraper les trolls qui évitent les interdictions | Engagé

Twitch utilisera l'apprentissage automatique pour attraper les trolls qui évitent les interdictions |  Engagé

Twitch introduit une nouvelle fonctionnalité d'apprentissage automatique pour aider les streamers à protéger leurs chaînes des personnes qui tentent d'éviter les interdictions. Surnommé «Détection d'utilisateurs suspects», l'outil signalera automatiquement les individus qu'il soupçonne d'être des escrocs «probables» ou «possibles».

Dans les cas impliquant le premier, Twitch empêchera tout message qu'ils envoient de apparaître dans le chat. Il identifiera également ces personnes pour les streamers et tous les mods les aidant avec leur chaîne. À ce stade, ils peuvent décider s'ils veulent bannir cette personne. Par défaut, d'éventuels trolls répétitifs peuvent envoyer des messages dans le chat, mais eux aussi seront signalés par le système. De plus, Twitch dit que les créateurs ont la possibilité de les empêcher d'envoyer des messages en premier lieu.

Twitch

« L'outil est alimenté par un modèle d'apprentissage automatique qui prend en compte un certain nombre de signaux, y compris, mais sans s'y limiter, le comportement de l'utilisateur et les caractéristiques du compte, et compare ces données aux comptes précédemment bannis de la chaîne d'un créateur pour évaluer la probabilité que le compte échappe à une précédente interdiction au niveau de la chaîne,  » un porte-parole de Twitch a déclaré à Engadget lorsque nous avons posé des questions sur les signaux que le système utilise pour détecter les contrevenants potentiels.

Alors que Twitch prévoit d'activer la détection des utilisateurs suspects pour tout le monde, l'outil n'interdira pas automatiquement les utilisateurs pour banderoles. C'est par conception, car il est impossible de créer un outil d'apprentissage automatique qui soit précis à 100 % dans tous les contextes. « Vous êtes l'expert en ce qui concerne votre communauté, et vous devriez faire le dernier appel à qui peut participer », a déclaré la société dans un article de blog . « L'outil apprendra des actions que vous entreprenez et la précision de ses prédictions devrait s'améliorer avec le temps en conséquence. »

L'introduction de l'outil fait suite à un été au cours duquel Twitch a eu du mal à contenir un phénomène appelés « raids haineux ». Les attaques ont vu des individus malveillants utiliser des milliers de robots pour spammer des canaux avec un langage haineux. Dans de nombreux cas, ils ciblaient des créateurs issus de communautés marginalisées. Les raids haineux sont devenus une caractéristique si fréquente de la plate-forme que certains créateurs se sont éloignés de Twitch pendant une journée pour protester contre la de l'entreprise. manque d'action.