Фантомні зображення змушують автопілот загальмувати

Ізраїльські дослідники використали фантомні зображення, спроектовані на дорогу, щоб змусити машину-безпілотника загальмувати без жодної потреби на те.

У своїй новій публікації «Phantom of the ADAS» вчені з Центру кібербезпеки при Університеті Бен-Гуріона продемонстрували, що автопілоти та передові системи асистування водію (ADAS) у повністю чи частково автономних машинах сприймають двовимірні зображення (фантоми) як реальні об’єкти. І реагують на них відповідно. Таким чином зловмисники потенційно можуть завдати шкоди водієві чи пасажирам, перехопивши контроль над рухом такої машини чи навіть спровокувавши аварію. І ніяких хакерських навичок чи спеціального обладнання для цього не потрібно. Достатньо буде комерційного дрона та недорогого відеопроектора.

За словами вчених, автономні та напівавтономні машини зараз з’являються на дорогах по всьому світу. Але системи комунікації таких машин з інфраструктурою, пішоходами та іншими машинами відстають у розвитку. А це в свою чергу створює «прогалину у валідації», яка не дозволяє машинам-безпілотникам перевірити себе, порівнюючи те, що вони бачать, з даними третьої сторони. Тобто наразі вони мусять спиратися лише на власні внутрішні сенсори.

На додачу до того, що автопілот можна змусити вдарити по гальмах, дослідники також показали, що фантомні зображення дорожніх знаків сприймаються системами асистування як справжні. Для цього проекцію достатньо ввімкнути на 125 мілісекунд на цифровому рекламному бігборді. А дрон з відповідним обладнанням легко може проектувати на дорогу імітацію дорожньої розмітки і у такий спосіб змусити автопілот виїхати на зустрічну смугу.

Зліва: фантомне зображення людини, яке сприймається як справжній пішохід (Telsa). Справа: проекція дорожнього знаку на дерево, яка здатна обманути систему Mobileye 630 PRO.

Фантомні зображення – слабке місце протоколів безпеки

«Такий вид атаки наразі не береться до уваги автомобільною індустрією. Але це – не баги і не помилки кодування, а принципові вади у детекторах об’єктів, які не здатні розрізнити справжній об’єкт від несправжнього», – заявив Бен Нассі (Ben Nassi), провідний науковець проекту.

Насправді, навіть якщо сенсори глибини здатні відрізнити 2D від 3D, вони все одно запрограмовані реагувати на двовимірний об’єкт як на справжній. Виною тому, як вважають дослідники, недосконалі протоколи безпеки.

Зараз команда вчених працює над створенням моделі нейромережі, яка могла б аналізувати контекст побаченого об’єкта, його поверхню та відбиття світла від нього. Це має дозволити своєчасно та безпомильно виявляти такі фантомні зображення.

Джерело

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Business Culture HubBusiness Culture Hub

Український культурний фонд запрошує до участі в Business Culture Hub

Український культурний фонд об’єднує круті культурні проєкти та бізнес, який розвиває КСВ! Саме тому УКФ запрошує усіх на другу онлайн-зустріч Business ...

З 1 до 5 березня 2021 року на LIONS Live розпочнеться чергова онлайн-сесія креативного розвитку

З 1 до 5 березня 2021 року на черговій онлайн-сесії LIONS Live організатори Міжнародного фестивалю креативності Cannes Lions представлять новий ...

Media Maker – нове спеціалізоване агентство в складі dentsu Ukraine

Агентство Media Press, яке існує на ринку з 2003 року, стає Media Maker. Серед сервісів агентства: PR, інтегровані рекламні кампанії ...

Target, Walmart і CVS шукають високотехнологічну альтернативу пластиковим пакетам

Заснована цими трьома ритейлерами інвестиційна фірма Closed Loop Partners має на меті пошук, тестування та впровадження інноваційних альтернатив.

Бренд морозива Magnum зняв короткометражні аніме про природу насолоди

Два короткометражних аніме для бренда Magnum поєднує та ідея, що пошуки насолоди – дуже людська риса, а розуміння насолоди у кожного своє.

Держкіно презентує онлайн-довідник національних фільмів

Онлайн-довідник «База національних фільмів України» – найповніша база даних за національними фільмами, професіоналами кіновиробництва та компаніями-виробниками України. Держкіно має на меті ...