Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Інженери Facebook розробили новий метод, який дозволить їм вчасно виявляти небезпечну поведінку користувачів та запобігати їй. Зараз ця соцмережа за допомогою штучного інтелекту проводить масштабну симуляцію поведінки користувачів-зловмисників, які вдаються до шахрайства, поширюють спам, торгують наркотиками та зброєю тощо.

В ході цього тесту штучний інтелект генерує у паралельній версії Facebook ботів-зловмисників, а дослідники вивчають їх поведінку, перевіряють, чи є ефективними проти них ті або інші алгоритми Facebook, і з’ясовують, як саме їх можна зупинити.

Ця симуляція називається WW (вимовляється як «даб-даб»), оскільки вона є спрощеною версією WWW, World Wide Web. Вона базується на справжньому коді Facebook. І нещодавно, під час круглого столу, провідний інженер проєкту Марк Гарман (Mark Harman) докладніше розповів про цю симуляцію.

Автоматизованих ботів-шкідників навчають поводитися як люди, застосовуючи для цього чималу добірку поведінкових моделей, зібрану мережею Facebook на основі спостережень за своїми двома мільярдами користувачів.

В реальному житті шахраї часто починають з того, що прочісують групи користувачів у пошуках потенційної жертви. Щоб змоделювати таку поведінку в WW, інженери Facebook створили також групу «безвинних» ботів, які стали мішенями для «поганих» ботів. Після чого інженери заходилися тестувати численні стратегії боротьби з ботами-зловмисниками, вводячи різноманітні обмеження (наприклад обмеження кількості особистих повідомлень та постів на хвилину), щоб побачити, як це вплине на поведінку ботів.

Facebook стверджує, що ця нова система може вмістити тисячі та навіть мільйони ботів. І оскільки вона працює на тому самому коді, з яким мають справу користувачі-люди, дії ботів точно відтворюють все, що можливе на оригінальній платформі.

Втім, Гарман наголосив, що, попри використання реальної інфраструктури, боти, які здійснюють симуляцію поведінки користувачів-зловмисників, жодним чином не здатні взаємодіяти з користувачами-людьми.

Facebook проводить масштабну симуляцію поведінки користувачів-зловмисників

Точна імітація

Варто зазначити, що ця симуляція не є візуальною копією Facebook, оскільки WW записує всі взаємодії виключно у вигляді числових даних. Це як відмінність між переглядом футбольного матчу (справжній Facebook) та читанням його статистики (WW).

«Наразі ми зосередили зусилля на тому, щоб навчити ботів імітувати ті явища, про які ми знаємо, що вони відбуваються на платформі. Але в теорії та на практиці боти виявилися здатні робити таке, з чим ми раніше навіть не стикалися, – розповів Гарман. – Насправді, це нам теж буде корисним, оскільки наша кінцева мета – навчитися діяти на випередження, замість того, щоб лише реагувати на те, що вже сталося».

Зараз група Гармана проводить тести, щоб визначити, чи достатньо точно ця симуляція імітує реальну поведінку користувачів, щоб на її основі можна було вносити зміни у справжній Facebook. Марк Гарман вважає, що перші модифікації коду Facebook на основі результатів симуляції можна очікувати вже цього року.

Джерело

Докладніше про динаміку української аудиторії Facebook та Instagram можна дізнатися з цієї інфографіки.

Теги:

ТОБІ СПОДОБАЄТЬСЯ

IAMIDEA agency створила стратегію та рекламну кампанію 49-го кінофестивалю «Молодість»

Новий слоган – КІНО НЕ БЕЗ ПИТАНЬ. Кінофестиваль «Молодість» — перший міжнародний кінофестиваль на території України, що функціонує з 1970 ...

Вітрини ЦУМ визнали найкращими на міжнародному конкурсі VMSD’s 2020 International Visual Competition

Проєкт оформлення новорічних вітрин ЦУМ «Фабрика Подарунків» був визнаний кращим проєктом року за версією американського журналу VMSD (Visual Merchandising and ...

Додаток Doodlar вгадує намальовану тварину та відтворює її в AR

Новий додаток Doodlar дозволяє вам «оживити» намальовану на папері або на екрані смартфону тварину, надавши їй реалістичного тривимірного вигляду в AR.

KMW mediarynok

KMW Global Marathon презентує ексклюзивну аналітику аудіовізуальної індустрії від Азії до Північної Америки

14 вересня міжнародний онлайн форум KMW Global Marathon об’єднає провідних фахівців аудіовізуальної індустрії з усього світу. Глобальна криза, спричинена пандемією, ...

NONPAREIL

Співзасновники агенції LLIWELL запустили подкаст про дизайн

Співзасновники брендингової агенції LLIWELL Нонна Старущенко та Гліб Капоріков запустили подкаст на Радіо Аристократи про дизайн та комунікаційну культуру. Подкаст ...

Компанія Jaguar Land Rover створює алгоритм від захитування в машині

Компанія Jaguar Land Rover планує навчити автономні машини адаптувати свій стиль водіння так, щоб пасажирів не нудило під час поїздки в машині.