"ВКонтакте" начал использовать нейросети для выявления суицидального контента

Фото: ТАСС/Дмитрий Рогулин

Соцсеть "ВКонтакте" запустила механизм, работающий с помощью нейросетей, благодаря которому соцсеть  выявлять суицидальный контент на фотографиях, пишут "Известия".

Алгоритм распознает объекты на изображениях, которые на данный момент исключаются из поисковой выдачи и "умной" новостной ленты. Благодаря ему изображенные предметы, сущности, люди и все, что символизирует "группы смерти", удаляется автоматически, а страницы авторов подвергаются блокировке.

 Нейросеть проверяет фото на "опасность": если оно признано таковым, то снимок отправляется модераторам на проверку. Если фотография признается "умеренно опасным", то оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. При этом алгоритм анализирует только визуальный контент, загружаемый для общего доступа, фото в личных сообщениях не проверяются.

Напомним, в феврале соцсеть стала стала блокировать страницы пользователей, которые упоминали хэштеги, связанные с суицидальными пабликами и группами – так называемыми "группами смерти". 

Актуально по теме