Facebook создает сеть в плохих ботов, чтобы помочь ему понять настоящие аферисты
Интернет-мошенников найти новый рассказ В вирус кризиса
Смотреть Сейчас
Это бич каждого исследователя безопасности: неважно, насколько сложный инструмент для борьбы с вредными поведения на какой-то определенный интерфейс, хакеры всегда будут адаптировать, расширить их игры и найти новые способы, чтобы обойти этот механизм.
В стремлении опередить мошенников, Facebook пытается новый подход: чтобы развязать себе армию ботов на версию платформы, поручено вредные действия – так, что Facebook-контролируемые боты могут находить лазейки, прежде чем настоящие аферисты даже добраться до них.
Инновации
- Facebook является утилизация тепла от центров обработки данных, чтобы согреться эти дома
- Роботы, дроны и слежку приложения: неожиданное будущее медицины
- Лучшее программное обеспечение для видеоконференций для бизнеса: команды Microsoft, а также более восьми альтернатив зум
- Объединенная авиакомпания говорит, что нет смысла оставлять средние сиденья пустые (китайский Ютуб)
- США, Китай и ИИ гонка вооружений: резка через рекламу (сайт Cnet)
- Веризон развивается 5г-решения с поддержкой EMS с его четвертой пожарной лаборатории (издания TechRepublic)
Технология будет работать в альтернативной версии Facebook, получившей название мировой войны, чтобы отразить, что система представляет собой уменьшенную версию Всемирной паутиной (www).
См.: управление AI и ML в предприятие 2020: технологические лидеры повышения разработкой и реализацией проектов (издания TechRepublic премиум)
В отличие от традиционных симуляторов, в котором моделируется боты будут работать на имитацию платформы, ЖВ построен на реальном мире программной платформы в Facebook.
Инженерный коллектив компании разработал метод, называемый Web-технологии и моделирование (Уэс), которое состоит из проведения моделирования на реальных веб-инфраструктур, а не искусственные, чтобы лучше отражать реальные взаимодействия пользователя и социальное поведение.
Используя Уэс, инженеры Facebook по причине ЖВ – параллельной версии социальной медиа-платформы, в комплекте с посыльным, профилей, страниц и неподходящие друг просит, но исключительно для ботов.
Представляя технологии на вебинаре, Марк Харман, научный сотрудник Facebook, заявил: «моделирование случиться на реальной в десятки миллионов строк кода, которые составляют инфраструктуру Facebook. Боты используют все то же программное обеспечение и инструменты, которые пользователь будет использовать на платформе».
«Это означает, что результаты моделирования находятся гораздо ближе к реальности того, что происходит на платформе, и многие тонкости, где вредно может происходить», — добавил он.
Боты, поэтому работать в среде, которая очень близка к реальным пользователям на платформе, но на безопасном расстоянии мудро держится. Действия ботов тщательно ограничены, и инженеры создали оба слоя конфиденциальности и механизма взаимодействия слоя для разделения двух миров.
Инженеры Facebook по причине ЖВ – параллельной версии платформы социальных медиа, исключительно для искусственного делаем ботов.
Изображение: Facebook
Команда Хармана в настоящее время сосредоточены на использовании ботов для имитации поведения обманывать, чтобы выяснить, если механизмы обнаружения на Facebook достаточно хороши, но и раскрыть новые способы, что мошенники могут попытаться вымогать деньги у ничего не подозревающих пользователей.
В реальной жизни мошенники, как правило, расползаются по всему социальных медиа платформы, пока не найдут цель. И так, в подобной Вене к разработке игры, команда разработчиков воссоздала ситуацию, в которой невинных ботов имитируют взаимодействие с ботов, которые будут вознаграждены для ползания и приобретения другого агента, что они могут афера.
Харман объяснил, что несколько методов, используемых для обучения ботов. Они варьировались от старомодный подход на основе правил, в которых боты решили проводить такие действия, как отправка запроса на основе заданного набора правил, для обучения без учителя, в котором боты с учетом критериев вознаграждения, но не правил, чтобы получить там.
Смотри: шестнадцать Facebook приложений поймал тайно обмена данными с третьими лицами
Обучающийся также частью смешать: используя анонимные данные, исследователи определили моделей реального поведения пользователей и обученных ботов, им подражают.
«Есть сильная связь с АИ-помощь геймплея», — сказал Харман. «Имитация игры игроки немного похож на наши боты. Мы автоматизируем процесс, делая игру еще более сложной, потому что мы хотим, чтобы сделать его более трудным для потенциально сложных и квалифицированных плохие актеры».
С инженерной точки зрения, предложение очень амбициозен, и Харман подчеркнула, что проект все еще находится в стадии исследования. Хартман надеется, что это всего лишь вопрос месяцев, прежде чем инициатива ЖВ оживает, но признал, что нужны дальнейшие исследования в различных областях, таких как машинное обучение, теория графов или АИ-помощь геймплея.
Если проект были прийти примерно в масштабе, однако, исследовательская группа ожидает значительное увеличение оборонного Facebook в войне против вредного поведения.
«Боты, в теории, могут делать вещи, которые мы не видели раньше, благодаря обучение с подкреплением», — сказал Хартман. «Это то, что мы хотим, потому что это позволит нам опередить плохое поведение, а не догонять его».
Более того: используя метод Уэс, ЖВ может быть использована для любых крупномасштабных веб-система, в которой поведение сообщества можно наблюдать. Это может пойти длинный путь, поэтому, в облегчении усилий по модерации для многих организаций.
