По его словам, для раннего выявления возможных преступлений сайт использует автоматические алгоритмы сканирования. Механизм проверяет переписку и публикации пользователей Facebook и в случае обнаружения подозрительной активности отмечает аккаунт, с которого велась вызывающая вопросы переписка, который потом проверяется специальным сотрудником соцсети.
Работник Facebook оценивает профиль и при наличии опасности сообщает о своих подозрениях в правоохранительные органы США. Как подчеркнул Салливан, программисты компании разработали достаточно качественную систему, при которой личная переписка «законопослушных пользователей» не проверялась.
«Чтобы не сталкиваться с ситуацией, в которой нашим сотрудникам приходится читать чужую переписку, мы используем систему с очень низким процентом ложных срабатываний», — заверил сотрудник Facebook.
Директор по безопасности также отмечает, что программное обеспечение, которое социальная сеть использует для отслеживания действий пользователей, чаще отслеживает разговоры между пользователями с «бедными» связями. К таким работники соцсети относят пользователей, которые не записаны в списки «друзей» у друг друга, либо которые стали друзьями лишь недавно, при этом у них нет общих друзей. К тому же, алгоритм обращает внимание на связи пользователей, которые имеют большую разницу в возрасте.
В целом система создавалась для вычисления педофилов, однако алгоритм также можно настроить и на поиск признаков других преступлений — обсуждения покупки наркотиков, оружия и других запрещенных законодательством действий.
Напомним, ранее сообщалось, что сайт также планирует запустить таргетированную рекламу, отслеживающую действия пользователей в приложениях.