Ізраїльські дослідники використали фантомні зображення, спроектовані на дорогу, щоб змусити машину-безпілотника загальмувати без жодної потреби на те.

У своїй новій публікації «Phantom of the ADAS» вчені з Центру кібербезпеки при Університеті Бен-Гуріона продемонстрували, що автопілоти та передові системи асистування водію (ADAS) у повністю чи частково автономних машинах сприймають двовимірні зображення (фантоми) як реальні об’єкти. І реагують на них відповідно. Таким чином зловмисники потенційно можуть завдати шкоди водієві чи пасажирам, перехопивши контроль над рухом такої машини чи навіть спровокувавши аварію. І ніяких хакерських навичок чи спеціального обладнання для цього не потрібно. Достатньо буде комерційного дрона та недорогого відеопроектора.

За словами вчених, автономні та напівавтономні машини зараз з’являються на дорогах по всьому світу. Але системи комунікації таких машин з інфраструктурою, пішоходами та іншими машинами відстають у розвитку. А це в свою чергу створює «прогалину у валідації», яка не дозволяє машинам-безпілотникам перевірити себе, порівнюючи те, що вони бачать, з даними третьої сторони. Тобто наразі вони мусять спиратися лише на власні внутрішні сенсори.

На додачу до того, що автопілот можна змусити вдарити по гальмах, дослідники також показали, що фантомні зображення дорожніх знаків сприймаються системами асистування як справжні. Для цього проекцію достатньо ввімкнути на 125 мілісекунд на цифровому рекламному бігборді. А дрон з відповідним обладнанням легко може проектувати на дорогу імітацію дорожньої розмітки і у такий спосіб змусити автопілот виїхати на зустрічну смугу.

Зліва: фантомне зображення людини, яке сприймається як справжній пішохід (Telsa). Справа: проекція дорожнього знаку на дерево, яка здатна обманути систему Mobileye 630 PRO.

Фантомні зображення – слабке місце протоколів безпеки

«Такий вид атаки наразі не береться до уваги автомобільною індустрією. Але це – не баги і не помилки кодування, а принципові вади у детекторах об’єктів, які не здатні розрізнити справжній об’єкт від несправжнього», – заявив Бен Нассі (Ben Nassi), провідний науковець проекту.

Насправді, навіть якщо сенсори глибини здатні відрізнити 2D від 3D, вони все одно запрограмовані реагувати на двовимірний об’єкт як на справжній. Виною тому, як вважають дослідники, недосконалі протоколи безпеки.

Зараз команда вчених працює над створенням моделі нейромережі, яка могла б аналізувати контекст побаченого об’єкта, його поверхню та відбиття світла від нього. Це має дозволити своєчасно та безпомильно виявляти такі фантомні зображення.

Джерело

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Платформа Playform пропонує кожному креатору тренувати штучний інтелект з нуля особисто для себе

Платформа Playform намагається зробити мистецьку сторону штучного інтелекту доступною для креаторів та пропонує зручний інтерфейс.

Borderlands Science: як відеогра допомагає науковцям вивчати мікрофлору людського тіла

Нова інтерактивна міні-гра Borderlands Science – це спосіб допомогти науковцям, які працюють у галузі біомедицини та вивчають мікрофлору людського тіла.

Рейтинг популярних сайтів за березень 2020 від Kantar

Рейтинг популярних сайтів за березень 2020 від Kantar

Згідно з даними Kantar CMeter, новинні ресурси та освітні портали для школярів суттєво збільшили свої охоплення у березні. Також українці шукали лікарські ...

ArtOfQuarantine_Cover_1920x180

Шедеври світового живопису закликають протистояти коронавірусу

Міністерство культури та інформаційної політики України підтримало інформаційну кампанію «Мистецтво Карантину», ідея якої належить креативній агенції LOOMA. Надзвичайна ситуація, масова ...

Співачка Grimes випустила кліп на фоні зеленого екрану, з яким можна експериментувати досхочу

Із сучасним програмним забезпеченням кліп на фоні зеленого екрану легко перетворюється на канву, з якою креатор може робити що завгодно.

NASA at Home

Ініціатива NASA at Home робить космос ближчим

Ініціатива NASA at Home включає в себе добірку відео, подкастів, електронних книжок і навіть тури у віртуальній та доповненій реальності.