Інженери Facebook розробили новий метод, який дозволить їм вчасно виявляти небезпечну поведінку користувачів та запобігати їй. Зараз ця соцмережа за допомогою штучного інтелекту проводить масштабну симуляцію поведінки користувачів-зловмисників, які вдаються до шахрайства, поширюють спам, торгують наркотиками та зброєю тощо.
В ході цього тесту штучний інтелект генерує у паралельній версії Facebook ботів-зловмисників, а дослідники вивчають їх поведінку, перевіряють, чи є ефективними проти них ті або інші алгоритми Facebook, і з’ясовують, як саме їх можна зупинити.
Ця симуляція називається WW (вимовляється як «даб-даб»), оскільки вона є спрощеною версією WWW, World Wide Web. Вона базується на справжньому коді Facebook. І нещодавно, під час круглого столу, провідний інженер проєкту Марк Гарман (Mark Harman) докладніше розповів про цю симуляцію.
Автоматизованих ботів-шкідників навчають поводитися як люди, застосовуючи для цього чималу добірку поведінкових моделей, зібрану мережею Facebook на основі спостережень за своїми двома мільярдами користувачів.
В реальному житті шахраї часто починають з того, що прочісують групи користувачів у пошуках потенційної жертви. Щоб змоделювати таку поведінку в WW, інженери Facebook створили також групу «безвинних» ботів, які стали мішенями для «поганих» ботів. Після чого інженери заходилися тестувати численні стратегії боротьби з ботами-зловмисниками, вводячи різноманітні обмеження (наприклад обмеження кількості особистих повідомлень та постів на хвилину), щоб побачити, як це вплине на поведінку ботів.
Facebook стверджує, що ця нова система може вмістити тисячі та навіть мільйони ботів. І оскільки вона працює на тому самому коді, з яким мають справу користувачі-люди, дії ботів точно відтворюють все, що можливе на оригінальній платформі.
Втім, Гарман наголосив, що, попри використання реальної інфраструктури, боти, які здійснюють симуляцію поведінки користувачів-зловмисників, жодним чином не здатні взаємодіяти з користувачами-людьми.
Точна імітація
Варто зазначити, що ця симуляція не є візуальною копією Facebook, оскільки WW записує всі взаємодії виключно у вигляді числових даних. Це як відмінність між переглядом футбольного матчу (справжній Facebook) та читанням його статистики (WW).
«Наразі ми зосередили зусилля на тому, щоб навчити ботів імітувати ті явища, про які ми знаємо, що вони відбуваються на платформі. Але в теорії та на практиці боти виявилися здатні робити таке, з чим ми раніше навіть не стикалися, – розповів Гарман. – Насправді, це нам теж буде корисним, оскільки наша кінцева мета – навчитися діяти на випередження, замість того, щоб лише реагувати на те, що вже сталося».
Зараз група Гармана проводить тести, щоб визначити, чи достатньо точно ця симуляція імітує реальну поведінку користувачів, щоб на її основі можна було вносити зміни у справжній Facebook. Марк Гарман вважає, що перші модифікації коду Facebook на основі результатів симуляції можна очікувати вже цього року.
Докладніше про динаміку української аудиторії Facebook та Instagram можна дізнатися з цієї інфографіки.
