Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Інженери Facebook розробили новий метод, який дозволить їм вчасно виявляти небезпечну поведінку користувачів та запобігати їй. Зараз ця соцмережа за допомогою штучного інтелекту проводить масштабну симуляцію поведінки користувачів-зловмисників, які вдаються до шахрайства, поширюють спам, торгують наркотиками та зброєю тощо.

В ході цього тесту штучний інтелект генерує у паралельній версії Facebook ботів-зловмисників, а дослідники вивчають їх поведінку, перевіряють, чи є ефективними проти них ті або інші алгоритми Facebook, і з’ясовують, як саме їх можна зупинити.

Ця симуляція називається WW (вимовляється як «даб-даб»), оскільки вона є спрощеною версією WWW, World Wide Web. Вона базується на справжньому коді Facebook. І нещодавно, під час круглого столу, провідний інженер проєкту Марк Гарман (Mark Harman) докладніше розповів про цю симуляцію.

Автоматизованих ботів-шкідників навчають поводитися як люди, застосовуючи для цього чималу добірку поведінкових моделей, зібрану мережею Facebook на основі спостережень за своїми двома мільярдами користувачів.

В реальному житті шахраї часто починають з того, що прочісують групи користувачів у пошуках потенційної жертви. Щоб змоделювати таку поведінку в WW, інженери Facebook створили також групу «безвинних» ботів, які стали мішенями для «поганих» ботів. Після чого інженери заходилися тестувати численні стратегії боротьби з ботами-зловмисниками, вводячи різноманітні обмеження (наприклад обмеження кількості особистих повідомлень та постів на хвилину), щоб побачити, як це вплине на поведінку ботів.

Facebook стверджує, що ця нова система може вмістити тисячі та навіть мільйони ботів. І оскільки вона працює на тому самому коді, з яким мають справу користувачі-люди, дії ботів точно відтворюють все, що можливе на оригінальній платформі.

Втім, Гарман наголосив, що, попри використання реальної інфраструктури, боти, які здійснюють симуляцію поведінки користувачів-зловмисників, жодним чином не здатні взаємодіяти з користувачами-людьми.

Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Точна імітація

Варто зазначити, що ця симуляція не є візуальною копією Facebook, оскільки WW записує всі взаємодії виключно у вигляді числових даних. Це як відмінність між переглядом футбольного матчу (справжній Facebook) та читанням його статистики (WW).

«Наразі ми зосередили зусилля на тому, щоб навчити ботів імітувати ті явища, про які ми знаємо, що вони відбуваються на платформі. Але в теорії та на практиці боти виявилися здатні робити таке, з чим ми раніше навіть не стикалися, – розповів Гарман. – Насправді, це нам теж буде корисним, оскільки наша кінцева мета – навчитися діяти на випередження, замість того, щоб лише реагувати на те, що вже сталося».

Зараз група Гармана проводить тести, щоб визначити, чи достатньо точно ця симуляція імітує реальну поведінку користувачів, щоб на її основі можна було вносити зміни у справжній Facebook. Марк Гарман вважає, що перші модифікації коду Facebook на основі результатів симуляції можна очікувати вже цього року.

Джерело

Докладніше про динаміку української аудиторії Facebook та Instagram можна дізнатися з цієї інфографіки.

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Arriba! придумали «пазлтеллінг» для DoDo

Стартувала рекламна кампанія українського виробника пазлів DoDo Toys. Задачу комунікаційної стратегії для закріплення на західному ринку, зокрема, на Amazon, вирішувала ...

Golem_SEfilm_production_stills

The New York Times визнав фільм українського продакшну одним із найстрашніших

Напередодні Хелловіну The New York Times включив фільм «Голем» українського продакшну SE film production до своєї добірки 13-ти найстрашніших фільмів, ...

Знамениті засновники: добре це чи погано для репутації бренду?

Знамениті засновники: добре це чи погано для репутації бренду?

Історія знаменитого засновника – корисний інструмент маркетингу, але переломний момент, коли бренд має починати торувати власний шлях – неминучий.

Creative_Digest_2020_fin_TEMPLATE_Halloween_creativity_ua_mainpageCreative_Digest_2020_fin_TEMPLATE_Halloween_creativity_ua_post&banner

Creative Digest CIAU. Випуск #013

А чи знали ви, що майже 99% гарбузів, що продаються перед Хелловіном, використовуються для створення ірландських «ліхтарів Джека»? Коли світ ...

У жовтні Rozetka запускає власну марку техніки RZTK візуальний стиль якої розробили Fedoriv Agency

Техніку RZTK розробляє європейська компанія спільно з корейськими інженерами на заводах Китаю. Уже зараз у виробництво запущені дрібна побутова техніка, ...

SHOTS и No Stars остановили мир в ролике для «Киевстара»

Креативное агентство SHOTS стало партнером национального мобильного оператора «Киевстар» и уже запустило первую рекламную кампанию. Стас Качановский, креативный директор SHOTS: ...