Полиция будущего готова к службе
Можно ли доверить «пушку» роботу?
О первом роботе-полицейском в Дубае и том, заберут ли машины у людей работу
В конце мая 2017 года полиция Дубая приняла в штат необычного сотрудника. Он выглядит как внебрачный сын Робокопа и Валли, умеет распознавать жесты и эмоции собеседника с расстояния в полтора метра, понимает шесть языков и умеет распознавать лица. Правда пока с точностью в 80%. На груди у него красуется монитор, с помощью которого можно сообщить о правонарушении или оплатить штраф.
Будут ли у роботов пушки, когда все это превратится в Скайнет, зачем отдавать свою работу роботам, может ли тупая машина написать симфонию — все эти подкормленные поп-культурой темы небезосновательно снова закипели в сети. И однозначных ответов на них, похоже, нет ни у полиции Дубая, ни у отца этого проекта, Нассира Альразуки.
70 c лишним лет назад старик Айзек Азимов придумал правила, названные тремя законами робототехники.
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Если действия робота упекут кого-то за решетку, будет ли это нарушением первого и второго закона? Или наоборот соблюдением? Способны ли роботы углубиться в нюансы криминального права, чтобы взять на себя роль беспристрастных судей?
В случае с дубайским полицейским, его создатели постарались максимально деликатно обойти стороной эту тему. Разработанный испанской компанией PAL Robotics, этот полутораметровый робот не носит оружия (и вряд ли когда-то будет носить) и не имеет права арестовывать нарушителей. В общем, почти как обычный охранник в супермаркете. Только знает 6 языков.
Следующим этапом по словам Альразуки является создание полноценного робота-полицейского. При этом он затрудняется назвать компанию, которая способна создать такого робота. «С технической точки зрения мы застряли, — говорит он. — Приходится ждать пока IT-компании смогут продвинуться в вопросе создания полноценного ИИ. Мы же уже снабдили их всеми необходимыми данными и техническими рекомендациями».
Если обратиться к чужому опыту, то в феврале 2017 года в Китае презентовали робота E-Patrol, созданного для охраны общественных мест. Согласно отчетам местной прессы, он довольно точно сопоставляет лица людей с полицейской базой данных, а так же может настойчиво преследовать нарушителя до прибытия полиции. Насколько настойчиво — китайская пресса не уточняет.
«Если вы прикажете роботу преследовать человека, как вы можете быть уверенны в том, что он не нанесет ему вред? — спрашивает Алан Уайнфилд, професор робоэтики в Университете западной Англии. — Создать робота, который сможет грамотно разрешить потенциально конфликтные ситуации — это та еще задачка». И она отсылает нас к множеству вопросов этического характера.
Что будет, когда робот совершит ошибку? В июле 2016 года в торговом центре Калифорнии случился неприятный инцидент, когда похожий на прилетевшее из космоса страусиное яйцо охранный робот повалил на землю 16-месячного малыша. Мать ребенка выложила в твиттер фотографию чада с парой синяков и эту историю растиражировали СМИ. Создатели робота в ответ заметили, что у робота нет рук, чтобы валить кого-то на землю. Судя по записям с камер, малыш увидел робота и понесся ему на встречу, робот попытался развернуться и объехать ребенка, но случилось что-то вроде аварии на обледеневшем перекрестке.
«Когда ошибается полицейский, его можно привлечь к ответственности, — объясняет Уайнфилд. — Проблема в том, что вы не заставите машину отвечать за свои поступки. Как вы ее накажете? Да никак».
Это здорово усложняет развитие ИИ так как в случае повторения инцидента с ребенком, вина падет не столько на робота, сколько на его создателей. А это программисты, операторы, инженеры и целые заводы. Да и страховые компании не будут в восторге от перспективы участвовать в таком сомнительном мероприятии.
Российский робот ФЕДОР умеет отжиматься от пола, поднимает гири и неплохо водит УАЗик. Почти как Владимир Машков в «Охоте на Пиранью». А еще ФЕДОР умеет стрелять по-македонски, с двух рук от бедра. «Боевая робототехника — ключ к созданию полноценного ИИ, — говорит вице-премьер-министр РФ Дмитрий Рогозин. — Это касается в том числе авиации и космоса». По его словам, тренировочная стрельба помогает машине учиться мгновенно выделять приоритеты и принимать решения.
Формально, ФЕДОР создавался для полетов в космос, но ситуация такова, что нет ничего прибыльнее чем штамповать роботов для военных. И пушка в кобуре робота рисует жирную красную линию между простым роботом и скайнетом. Нассир Альразуки и его ведомство не собираются пересекать ее — у Робокопов из Дубая оружия никогда не будет.
И дело не только в этике. Алан Уайнфилд говорит, что современный ИИ попросту недостаточно хорош для того, чтобы доверить оружие роботу. И он не станет достаточно хорошим в ближайшее время.
Часть этой проблемы кроется в человеческой предвзятости, которую мы переносим на роботов. Уже были инциденты, когда электронный переводчик определял пол человека по занимаемой им должности, а программа для определения лиц распознает ближневосточне черты лица, но не негроидные.
«Мы хороши в проектировании узконаправленного ИИ, — продолжает Уайнфилд. — Когда робот может решить одну проблему вроде вождения машины или игры в шахматы. Но общий интеллект, под которым я подразумеваю способность учиться, перерабатывать информацию и передавать ее дальше в новой форме как это обычно делают люди, крайне далек от нас. Это настолько комплексная проблема, что мы даже не понимаем, с какой стороны к ней подходить. Я не говорю, что мы никогда ее не решим, но не ждите ответов в ближайшем будущем».
Впрочем, такой неутешительный прогноз не мешает ученным умам вроде Стивена Хокинга и Илона Маска бить тревогу и пытаться как-то урегулировать вопросы развития ИИ. И если Хокинг пока просто говорит, то Маск в 2015 году вложил миллиард долларов в исследовательскую группу OpenAI объяснив это тем, что нам всем жить бок о бок с роботами, а значит люди имеют право на контроль и модерацию любых серьезных разработок ИИ.
Oправдана ли эта паранойя или мы просто боимся перемен? И, что еще важнее, заберут ли роботы нашу работу? В полиции Дубая и PAL Robotics говорят, что нет, люди и роботы будут работать бок о бок, просто роботы смогут помогать куда больше, чем современные компьютеры. Например, они смогут быстрее среагировать на нарушение благодаря моментальному обмену информацией. Они смогут выполнять черновую работу не подвергая полицейских сегодняшним рискам. Поэтому городские власти хотят, что бы к 2030 году полицейский штат на четверть состоял из роботов.
Доктор Уинфилд не столь оптимистичен и считает, что сотрудники полиции скорее всего будут относиться к роботам с презрением, а какой-то хакер из народа наверняка попробует хакнуть такого робота. «Люди гораздо более уверены в себе, чем роботы», — говорит он, добавляя, что машина не способна порождать чувство общности.
Что известно наверняка, так это то, что люди не сильны в прогнозах. Сегодня мы говорим одно, а завтра двигаемся в другом направлении. Такова природа футурологов. А тем временем 160-сантиметровый дубайский робокоп уже вышел на свое дебютное патрулирование.
По материалам CNN, Wired и Outerplaces
