Соцсеть «ВКонтакте» запустила нейросеть, которая может определять суицидальный контент на фото. Об этом сообщает газета «Известия».

Алгоритм работы нейросети следующий: она присваивает картинкам специальный рейтинг и, согласно ему, определяет противоправный или «опасный» контент. При этом нейросеть может распознавать на фото объекты — людей, животных, растения.  В частности, она не только понимает, что на фото «человек», «ребенок», «животное» или «растение», но и может определить предмет одежды и символ «групп смерти».

После того как контент опознан как «запрещенный», он либо автоматически не попадает в поисковую выдачу и новостную ленту, либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях. Кроме того, отдельный сценарий разработан экспертами «ВКонтакте» для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.

Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов отметил, что на данный момент разработчики тестируют функцию анализа текста поверх изображений. По его словам, это нужно для того, чтобы сделать новостную ленту пользователя «максимально полезной и интересной».

По мнению разработчиков, технология должна пресечь распространение спама, мошенничества, детской порнографии, а также нелегальных услуг и другой противоправной деятельности.