Роботы научились не трогать чужое

Американские разработчики представили систему, которая обучает искусственный интеллект понятию обладания объектами. Такая система состоит из четырех алгоритмов, каждый из которых собирает информацию о владельце объекта и том, какие действия к нему можно применять. Препринт статьи опубликован на arXiv.org.

Одной из необходимых для успешной коммуникации социальных норм считается понятие обладания: в обычной ситуации у людей не принято распоряжаться чужим имуществом без разрешения. Кроме того, норма эта не только социальная, но также этическая и правовая, и ее отсутствие может привести к негативной реакции и нежелательным последствиям.

Для успешной интеграции роботов в человеческое общество умение соблюдать нормы обладания необходимо и искусственному интеллекту. Исследователи под руководством Брайана Сказеллати из Йельского университета разработали единую систему, с помощью которой роботов можно научить базовым принципам обладания.

Система работает на основе четырех алгоритмов. Первый алгоритм собирает информацию о владельцах объектов на примере фразы «Это мое», сказанной владельцем. Второй алгоритм, напротив, учится правилам, в соответствии с которыми человек не является обладателем объекта. Третий и четвертый алгоритм запоминают правила, которые распространяются владельцами на объекты в их обладании: например, обозначают то, что с объектами можно или нельзя делать. Понятие «обладания», таким образом, представляется для обучаемой системы в виде графа, в котором вершины представляют собой объекты и потенциальных владельцев, а ребра — отношения между ними, и большого массива правил, регулирующих приемлемое и неприемлемое взаимодействие робота с предметами. Например, если исследователь попросит выбросить какой-то объект, система сможет обратиться к доступной ему информации о том, что этот объект кому-то принадлежит и, следовательно, не может быть выброшен, а затем отказаться.

Полученную систему интегрировали в робота Baxter и провели эксперимент с объектами — разноцветными кубиками — и их обладателями: разные люди просили робота поднимать или выбрасывать различные объекты. Со встроенной системой определения обладания робот успешно определил валидность просьб исследователей для 14 объектов из 20.

Несмотря на успешную работу представленной системы, ученые отмечают, что пока что она направлена только на анализ собственной оценки обладания объектами, то есть относительно действий самого робота. В будущем ученые также хотят расширить возможности своей системы, обучив ее, к примеру, понятию заимствования, при котором, помимо обладателя, объект может — в той или иной мере — быть использован и другими.

Источник

Заглавная иллюстрация: https://ua.depositphotos.com/

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Злет популярності АСМР-відео: країни, тренди та креатори

Якщо ви спитаєте, хто зараз цар гори в сфері АСМР-відео, ви почуєте багато різних відповідей. Але цифри говорять самі за себе.

New Brew. Група Компаній «Нові Продукти» виходить на масовий ринок пива

Група Компаній «Нові Продукти» повідомляє про запуск нового напряму діяльності — виробництва пива. З цієї нагоди в місті Жашкові Черкаської ...

Безпека в родині та суспільстві: соціальні кампанії про захист дітей

Безпека в родині та суспільстві: соціальні кампанії про захист дітей

Соціальні кампанії про захист дітей, які привертають увагу до проблем та ситуацій, з якими миритися не можна: від примусової праці до цькування в інтернеті.

Перший віртуальний велосипедний тур містами України

Український інститут разом із креативною компанією MOON Studio зняли віртуальний велосипедний тур вулицями Львова, Києва та Харкова. Відео в форматі ...

Арт-об’єкт «Маяк Інновацій» стане частиною light performance до Дня Києва

Арт-об’єкт «Маяк Інновацій» стане частиною light performance до Дня Києва

До дня Києва на арт-об’єкті «Маяк Інновацій», створеному на базі 60-метрової заводської труби, UNIT.City разом із Idealsecrets, Rentmedia та Magic ...

На що схожі шрифти, які символізують людство?

Ідея Typelab Space Collection полягала в тому, щоб створити колекцію шрифтів, які змогли б стати візуальним втіленням всієї культури людства.