Разработчики из компании Blizzard сообщают о значительном снижении токсичность в играх от компании. Снижение токсичности произошло из-за ввода машинное обучение ИИ для модерации чатов. Это позволяет быстрее реагировать на плохое поведение и выдавать соответствующее наказание. Данная система уже работает в Overwatch и Heroes of the Storm.
ИИ позволяет нам быстрее назначать штрафы за поведение, и мы наблюдаем невероятное снижение не только токсичности чатов, но и общее снижение числа повторных правонарушений. Несколько месяцев назад мы расширили эту систему до общедоступных каналов World of Warcraft, мы уже видели сокращение токсичного поведения в два раза, и мы продолжаем улучшать скорость и точность этой системы.
Так же компания Blizzard постоянно обновляет фильтры нежелательных слов, которые позволяют проводить более гибкий анализ поведения игроков.
