Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Інженери Facebook розробили новий метод, який дозволить їм вчасно виявляти небезпечну поведінку користувачів та запобігати їй. Зараз ця соцмережа за допомогою штучного інтелекту проводить масштабну симуляцію поведінки користувачів-зловмисників, які вдаються до шахрайства, поширюють спам, торгують наркотиками та зброєю тощо.

В ході цього тесту штучний інтелект генерує у паралельній версії Facebook ботів-зловмисників, а дослідники вивчають їх поведінку, перевіряють, чи є ефективними проти них ті або інші алгоритми Facebook, і з’ясовують, як саме їх можна зупинити.

Ця симуляція називається WW (вимовляється як «даб-даб»), оскільки вона є спрощеною версією WWW, World Wide Web. Вона базується на справжньому коді Facebook. І нещодавно, під час круглого столу, провідний інженер проєкту Марк Гарман (Mark Harman) докладніше розповів про цю симуляцію.

Автоматизованих ботів-шкідників навчають поводитися як люди, застосовуючи для цього чималу добірку поведінкових моделей, зібрану мережею Facebook на основі спостережень за своїми двома мільярдами користувачів.

В реальному житті шахраї часто починають з того, що прочісують групи користувачів у пошуках потенційної жертви. Щоб змоделювати таку поведінку в WW, інженери Facebook створили також групу «безвинних» ботів, які стали мішенями для «поганих» ботів. Після чого інженери заходилися тестувати численні стратегії боротьби з ботами-зловмисниками, вводячи різноманітні обмеження (наприклад обмеження кількості особистих повідомлень та постів на хвилину), щоб побачити, як це вплине на поведінку ботів.

Facebook стверджує, що ця нова система може вмістити тисячі та навіть мільйони ботів. І оскільки вона працює на тому самому коді, з яким мають справу користувачі-люди, дії ботів точно відтворюють все, що можливе на оригінальній платформі.

Втім, Гарман наголосив, що, попри використання реальної інфраструктури, боти, які здійснюють симуляцію поведінки користувачів-зловмисників, жодним чином не здатні взаємодіяти з користувачами-людьми.

Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Точна імітація

Варто зазначити, що ця симуляція не є візуальною копією Facebook, оскільки WW записує всі взаємодії виключно у вигляді числових даних. Це як відмінність між переглядом футбольного матчу (справжній Facebook) та читанням його статистики (WW).

«Наразі ми зосередили зусилля на тому, щоб навчити ботів імітувати ті явища, про які ми знаємо, що вони відбуваються на платформі. Але в теорії та на практиці боти виявилися здатні робити таке, з чим ми раніше навіть не стикалися, – розповів Гарман. – Насправді, це нам теж буде корисним, оскільки наша кінцева мета – навчитися діяти на випередження, замість того, щоб лише реагувати на те, що вже сталося».

Зараз група Гармана проводить тести, щоб визначити, чи достатньо точно ця симуляція імітує реальну поведінку користувачів, щоб на її основі можна було вносити зміни у справжній Facebook. Марк Гарман вважає, що перші модифікації коду Facebook на основі результатів симуляції можна очікувати вже цього року.

Джерело

Докладніше про динаміку української аудиторії Facebook та Instagram можна дізнатися з цієї інфографіки.

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Львівські стартапери відтворять 3D-моделі втрачених пам’яток Львова

Львівські фахівці працюють на створенням нового виду туризму — інтерактивний туризм. Команда Chameleon Age відтворює 3D-моделі втрачених пам’яток Львова. Зокрема, ...

Вакцина робить світ відкритим. Google випустив новий життєствердний ролик

Google опублікував на YouTube ролик, який закликає людей вакцинуватися. Використовуючи пошукові запити Google, ролик наочно демонструє повернення країн та людей від ...

Пошуки кращого. Hyundai запускає кампанію на користь електрифікації автомобілів

Hyundai та агенція Innocean Berlin запустили європейську кампанію з метою сприяння електрифікації своїх автомобілів. Ролик для кампанії знято Себастьяном Штрассером, ...

В Італії офіційно заборонили цензуру в кінематографі

Міністерство культури Італії остаточно врегулювало закон про цензуру в кінематографі. Згідно закону, в країні забороняється перешкоджати виходу фільму або намагатися ...

Фестиваль креативності Cannes Lions 2021 року пройде лише онлайн

Фестиваль креативності Cannes Lions 2021 року пройде лише онлайн

Організатори Міжнародного фестивалю креативності Cannes Lions оголосили, що фестиваль цього року пройде лише онлайн, з 21 по 25 червня. Нагадаємо, ...

Французькі дизайнери запропонували робити з жувальної гумки коліщата для скейтів

Проєкт пропонує циркулярну систему, яка дозволяє збирати в містах шматочки жувальної гумки і робити з неї кольорові коліщата для скейтбордів.