Facebook создает скрытую соцсеть с ботами, чтобы бороться против троллинга и мошенников

Facebook хочет помешать людям злоупотреблять свободой в своей соцсети, поэтому создает скрытую соцсеть с ботами, которые будут подражать поведению людей. Специалисты компании создали платформу «Web Enabled Simulation» (WES) — «теневой» Facebook, где несуществующие электронные пользователи будут «лайкать», делиться контентом и дружить, а также мешать другим спокойно общаться, оскорблять и мошенничать. Например, бот-мошенник может связываться с «целевыми» ботами, которые демонстрируют поведение, похожее на реальных жертв мошенничества на Facebook. Другие боты будут обучены вторжению в личную жизнь пользователей или размещению «плохого» контента, который нарушает правила Facebook. При этом боты отправляют все свои действия (например, запросы на добавление в друзья) через код Facebook, вызывая такие же процессы, что и реальный пользователь.

Кроме борьбы с нарушителями, система сможет помочь Facebook обнаруживать ошибки. Например, если боты вдруг найдут способы получить доступ к закрытым данным после обновления, то это может указывать на уязвимость, которую смогут использовать мошенники или хакеры. При этом разработчики гарантируют, что «боты будут надлежащим образом изолированы от реальных пользователей, чтобы симуляция не приводила к неожиданным взаимодействиям между ботами и реальными пользователями».