Социальная сеть "ВКонтакте" начала использовать специальный алгоритм собственной разработки, который определяет содержится ли на загружаемых изображениях противоправный или "опасный" контент и присваивает картинкам специальный рейтинг. Об этом пишут “Известия”. Алгоритм умело распознает разнообразные объекты. Выявленный "запрещенный" контент не попадает в результаты поиска и "умную" новостную ленту или же либо полностью блокируется. Это технология также способна анализировать текстовые надписи на изображениях.
Социальная сеть "Вконтакте". Фото РИА Новости
Социальная сеть "Вконтакте". Фото РИА Новости1/2
В компании рассказали, что нейросеть умеет определять предметы и сущности, изображенные на фото. Она понимает не только "человек", "ребенок", "животное", "растение", но и может определить, например, предмет одежды или символ "групп смерти". Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если же фото просто вызывает сомнение, оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм поможет остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.
Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.
Искусственная нейронная сеть – математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей – сетей нервных клеток живого организма.
Напомним, что игра "Синий кит" (альтернативные названия море китов, тихий дом) запрещена Роскомнадзором как пропагандирующая суицид. Во ВКонтакте распространены сообщества, которые занимаются выявлением администраторов и инструкторов групп смерти синий кит, море китов, тихий дом.