Роботы научились не трогать чужое

Американские разработчики представили систему, которая обучает искусственный интеллект понятию обладания объектами. Такая система состоит из четырех алгоритмов, каждый из которых собирает информацию о владельце объекта и том, какие действия к нему можно применять. Препринт статьи опубликован на arXiv.org.

Одной из необходимых для успешной коммуникации социальных норм считается понятие обладания: в обычной ситуации у людей не принято распоряжаться чужим имуществом без разрешения. Кроме того, норма эта не только социальная, но также этическая и правовая, и ее отсутствие может привести к негативной реакции и нежелательным последствиям.

Для успешной интеграции роботов в человеческое общество умение соблюдать нормы обладания необходимо и искусственному интеллекту. Исследователи под руководством Брайана Сказеллати из Йельского университета разработали единую систему, с помощью которой роботов можно научить базовым принципам обладания.

Система работает на основе четырех алгоритмов. Первый алгоритм собирает информацию о владельцах объектов на примере фразы «Это мое», сказанной владельцем. Второй алгоритм, напротив, учится правилам, в соответствии с которыми человек не является обладателем объекта. Третий и четвертый алгоритм запоминают правила, которые распространяются владельцами на объекты в их обладании: например, обозначают то, что с объектами можно или нельзя делать. Понятие «обладания», таким образом, представляется для обучаемой системы в виде графа, в котором вершины представляют собой объекты и потенциальных владельцев, а ребра — отношения между ними, и большого массива правил, регулирующих приемлемое и неприемлемое взаимодействие робота с предметами. Например, если исследователь попросит выбросить какой-то объект, система сможет обратиться к доступной ему информации о том, что этот объект кому-то принадлежит и, следовательно, не может быть выброшен, а затем отказаться.

Полученную систему интегрировали в робота Baxter и провели эксперимент с объектами — разноцветными кубиками — и их обладателями: разные люди просили робота поднимать или выбрасывать различные объекты. Со встроенной системой определения обладания робот успешно определил валидность просьб исследователей для 14 объектов из 20.

Несмотря на успешную работу представленной системы, ученые отмечают, что пока что она направлена только на анализ собственной оценки обладания объектами, то есть относительно действий самого робота. В будущем ученые также хотят расширить возможности своей системы, обучив ее, к примеру, понятию заимствования, при котором, помимо обладателя, объект может — в той или иной мере — быть использован и другими.

Источник

Заглавная иллюстрация: https://ua.depositphotos.com/

Теги:

ТОБІ СПОДОБАЄТЬСЯ

Анімація WWF показує, що за останні 200 років океан став надто шумним місцем для китів

Доля морських ссавців, для яких через діяльність людини океан став надто шумним місцем (особливо для китів), зображена у зворушливому анімаційному відео.

Життя собак тоді і зараз: якби собаки могли мандрувати в минуле, вони б цього не робили

Бренд CESAR запустив кампанію, підкреслюючи, наскільки комфортним є життя собак зараз, порівняно з тим, яким воно було у минулі століття.

TISC Укрпатент разом із UNIT.City презентували IP Guide для українських ІТ-компаній

TISC Укрпатент разом із UNIT.City презентували IP Guide для українських ІТ-компаній

17 лютого в інноваційному парку UNIT.City відбулась презентація IP Guide для сфери інформаційних технологій. В ньому зібрані головні поради щодо ...

Бренд рушників Sheridan зобразив властивості своєї продукції танцем

Міцність та красу рушників зображав танцювальний колектив Sydney Dance Company, щоб хореографією показати, чому бренд Sheridan відрізняється від інших.

Безкоштовний онлайн-саміт Beyond Eastern Europe: Як українцям працювати на іноземних ринках

25 лютого о 10:00 відбудеться безкоштовний онлайн-саміт Beyond Eastern Europe, організований компанією Payoneer. Понад десять експертів в області бізнесу та ...

Анімація на пательні: режисери Wriggles&Robins спекли відео до Дня млинця

Яким би млинцям ви не надавали перевагу, певно ви оціните майстерність режисерів-аніматорів, які спекли 600 млинців, перетворивши їх на відео до Дня млинця.