Twitch въвежда нова функция за машинно обучение, за да помогне на стриймърите да защитят каналите си от хора, които се опитват да избегнат забрани. Наречен „Откриване на подозрителни потребители“, инструментът автоматично ще маркира лица, за които подозира, че може да са „вероятни“ или „възможни“ забрани.

В случаите, свързани с първия, Twitch ще предотврати показването на всички съобщения, които изпращат в чата. Той също така ще идентифицира тези лица за стриймъри и всякакви модификации, които им помагат с техния канал. В този момент те могат да решат дали искат да забранят това лице. По подразбиране възможните повтарящи се тролове могат да изпращат съобщения в чата, но те също ще бъдат маркирани от системата. Освен това Twitch казва, че създателите имат възможността да им попречат да изпращат каквито и да е съобщения на първо място.

Потрепване

„Инструментът се захранва от модел на машинно обучение, който взема предвид редица сигнали – включително, но не само, поведението на потребителя и характеристиките на акаунта – и сравнява тези данни с акаунти, които преди това са били забранени от канала на създател, за да оцени вероятността акаунтът избягва предишна забрана на ниво канал“, каза говорител на Twitch пред Engadget, когато попитахме за сигналите, които системата използва за откриване на потенциални нарушители.

Въпреки че Twitch планира да включи откриването на подозрителни потребители за всички, инструментът няма автоматично да забрани потребителите за стриймъри. Това е по проект, защото е невъзможно да се създаде инструмент за машинно обучение, който да е 100 процента точен във всеки контекст. „Вие сте експертът, когато става въпрос за вашата общност и трябва да направите последното обаждане кой може да участва“, каза компанията в . „Инструментът ще се поучи от действията, които предприемате и в резултат на това точността на прогнозите му трябва да се подобри с времето.“

Въвеждането на инструмента следва лято, в което Twitch се бореше да задържи феномена, наречен „нападения на омраза“. При атаките злонамерени лица използват хиляди ботове, за да изпращат спам в канали с омразен език. В много случаи те бяха насочени към създатели от маргинализирани общности. Набезите на омразата станаха толкова честа характеристика на платформата, че някои създатели се оттеглиха от Twitch за един ден в компанията.