Программисты "ВКонтакте" ведут разработку искусственного интеллекта для автоматического распознавания контента с враждебным содержанием. Об этом рассказали в пресс-службе компании.
Новая технология ускорит обработку жалоб и позволит пользователям реже сталкиваться с хейтом. С помощью неё модераторы будут быстрее находить негативные и агрессивные материалы.
Сейчас нейросеть обучают различать разные категории угроз и оскорблений, в том числе проявления расизма, ксенофобии, гомофобии, сексизма и прочих предрассудков. Для этого в соцсети был добавлен новый вид жалоб — "Враждебные высказывания".
"Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей. При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг", — говорится в пресс-релизе компании.
По данным ВК, в течение первого полугодия 2020 года с просторов социальной сети было удалено 520 тыс. публикаций, разжигающих ненависть и вражду. Кроме того, модераторы заблокировали 1340 аккаунтов и 2470 сообществ, которые распространяли подобный контент.
"Модераторы "ВКонтакте" ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит", — отметил руководитель команды модерации ВК Иван Корнеев.
