Facebook задействует ИИ в борьбе с экстремистами

Facebook задействует для блокировки экстремистского контента искусственный интеллект, сообщается на сайте компании.

Технология станет частью программного обеспечения, направленного против распространения в сети пропаганды экстремизма и терроризма. Искусственный интеллект задействуют в поиске вербовщиков террористических организаций по их письменному стилю, основываясь на особенностях речи. Другой алгоритм позволит находить и блокировать запрещенный контент – например, видео с убийствами заложников или призывы вступать в ряды "Исламского государства" (запрещенная в РФ террористическая организация). Также система позволит выявлять идеологов терроризма, закрывать их страницы и препятствовать в создании новых.

Компания отмечает эффективность разрабатываемого ПО, но признает, что искусственный интеллект не может найти весь запрещенный контент, поэтому за происходящим в социальной сети круглосуточно следят 3 тысячи модераторов, 150 экспертов по безопасности и борьбе с терроризмом, а также специальный отдел, который отвечает на экстренные запросы в течение минуты.

Актуально по теме