Роботы учатся обманывать людей

02 Hiding robotРоботы создаются с очень разнообразными целями. Кто-то из них должен просто наводить порядок и поддерживать чистоту в доме, а кто-то – и людей спасать во время военных действий. Но в любом случае поведение таких машин запрограммировано, и следуют они заложенному алгоритму. А вот ученые в научно-инженерной школы при университете Джорджии (Georgia Tech) решили запрограммировать робота так, чтобы он мог… обманывать.

Интересно, что программа рассчитана на способность робота обвести вокруг пальца не только другого робота, но и, при необходимости, человека, когда этому самому роботу-врунишке нужно добиться своей цели. Спонсируется эта программа институтом морских исследований ONR (The Office of Naval Research), и в первую очередь подразумевается, что использоваться машина, способная обмануть, будет в военной сфере. Однако и в мирное время такому роботу найдется применение. Один из примеров – ситуации поиска и спасения людей. К примеру, робот даже в самой практически безнадежной ситуации сможет сообщить человеку, что все не так уж и плохо, и спасение возможно, если такой шаг будет необходим.

Суть программы в том, чтобы научить робота оценивать ситуацию, которая бы позволила ему обмануть. Обязательным условием в таком случае должно стать условие получения роботом выгоды.

Обучать машины обманывать было решено на игре в прятки с другим роботом. Так, прячущийся робот должен был уметь поступить так, чтобы перехитрить ищущего и выбрать сценарий поведения, при котором последний не отыскал бы его. В конфликте между ищущим и прячущимся тот, который прятался, получал выгоду от процесса обмана – его не находили в 100% случаев. Так, три места, где можно было спрятаться, были отмечены соответствующими маркерами, и чтобы укрыться в одном из них, роботу бы пришлось зацепить маркеры и таким образом обнаружить себя. В итоге прячущийся выбирал одно из мест, разбрасывал маркеры, а прятался совершенно в другом, чем и вводил в заблуждение ищущего.

Один из исследователей Рон Аркин (Ron Arkin), интересующийся этическими вопросами, связанными с робототехникой, полагает, что очень важно не перейти в данном случае границу. Он утверждает, что сейчас по-прежнему ведутся дискуссии, нужно ли вообще обучать роботов обманывать, насколько это этично, и какие последствия это может нести в будущем. Однако стоит все же помнить, что умение обмануть – это всего лишь заданная в роботе программа, а не его сознательный выбор.

При копировании материала ссылка на сайт robotor.ru обязательна.