Увидеть мир глазами искина: новый проект Google и OpenAI

Как искусственный интеллект видит мир?

Десятилетиями исследователи задавались этим вопросом, но в последнее время он стал особенно актуален, ведь системы машинного зрения играют все большую роль в нашей жизни, от медицины до машин-беспилотников. Нам сложно понять, почему искин в одном человеке опознает пешехода, а другого принимает за фонарный столб. И вот эта неспособность понять «почему?» может нам дорого обойтись и даже стоить жизней, как показали аварии с самоуправляемыми машинами, в которых погибли люди.

Новое исследование Google и некоммерческой лаборатории OpenAI надеется пролить свет на эту тайну, создавая карты визуальных данных, которые такие системы используют, чтобы ориентироваться в окружающем мире. Метод под названием «Activation Atlases» позволяет исследователям увидеть работу алгоритмов, показывая не только абстрактные формы, которые воспринимает искин, но и то, как он комбинирует эти элементы, чтобы распознавать предметы, животных и местность.

Вот тут можно рассмотреть «начинку» нейронной сети под названием GoogLeNet или InceptionV1.

Разные части этой карты показывают, как нейронная сеть «видит» различные понятия, и как она их связывает между собой (например, все собаки собраны в одном месте, а все птицы – в другом). Нижние уровни более абстрактны и содержат основные геометрические формы, тогда как более высокие уровни собирают из них узнаваемые образы.

Скептик увидит в такой демонстрации ограниченность машинного зрения, ведь, как бы ни были эффективны такие алгоритмы, эта информация не имеет ничего общего с человеческим восприятием мира, что делает их уязвимыми. Например, если поместить на изображение несколько пикселей в стратегических местах, алгоритм собьется и неправильно классифицирует его. Но с другой стороны, «Activation Atlases» открывает для нас поразительную глубину и гибкость машинного восприятия.

Источник

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Вперше за 130 років BORJOMI презентує інноваційний продукт FLAVORED — без цукру і калорій

Вперше за 130 років BORJOMI презентує інноваційний продукт FLAVORED — без цукру і калорій

Ми звикли грати із часом наввипередки, заглиблюватися в міські нетрі та скролити історії з життя. Ми давно орієнтуємось на місцевості ...

Coca-Cola переходить до пляшок з переробленого пластику

Coca-Cola Co. запроваджує використання в США виключно пляшок з переробленого пластику, що є значним зрушенням у стратегії сталого розвитку. Компанія ...

Сергій Кузьменко — новий керівний директор TWIGA Ukraine

З 2021 року керівним директором комунікаційної групи TWIGA Ukraine призначено Сергія Кузьменка, який до цього займав позицію стратегічного директора. Світлана ...

Cittart

В Україні з’явиться мистецька соціальна мережа та маркетплейс Cittart

Розробники проєкту називають його «мистецький Instagram». Дійсно, до формату саме цієї соцмережі найбільше тяжіють поціновувачі візуальних видів мистецтва. Засновники стартапу ...

Concept Store_1

ПриватБанк і Mastercard відкрили перше в Україні цифрове банківське відділення у Києві

ПриватБанк та Mastercard відкрили в центрі Києва перше в Україні повністю цифрове банківське відділення — Concept Store. Воно працює без ...

Grammarly створила перший анотований GEC-корпус української мови і виклала його у відкритий доступ

Компанія Grammarly анонсувала створення та публікацію у відкритому доступі першого анотованого GEC-корпусу української мови. Компанія розробляє онлайн-сервіс на основі штучного ...