Главная Интересные новости Google разрабатывает собственные «законы робототехники»

Google разрабатывает собственные «законы робототехники»

16 июня 2016

Источник: hi-news.ru

Разработчики искусственного интеллекта в Google начинают копаться в собственном коде, пытаясь ограничить способности робота так, что он продолжает развиваться по пути, заданному исследователями — а не самим роботом. Это начало долгосрочной тенденции в робототехнике и ИИ в общем: как только мы заставим искусственный интеллект работать на нас, нам придется убедиться, что он точно, на все сто процентов будет работать так, как этого хотим мы. Вот почему исследователи из Google DeepMind и Института будущего человечества опубликовали документ с изложением «рубильника» в виде программного обеспечения, которое сможет остановить попытки сделать ИИ менее полезным или менее безопасным. Это даже не рубильник, а слепое пятно, удаляющее у ИИ способность извлекать неправильные уроки.

В частности, они кодируют в ИИ способность игнорировать человеческий ввод и его последствия для успеха или неудачи. Если происходящее кажется «провалом» и ИИ обучается этому всякий раз, когда вмешивается человек, робот может принять решение отказываться (или вовсе убегать восвояси) при приближении человека. Если происходящее соответствует цели, он может, напротив, вцепиться человеку в лодыжки и добиться желаемого. В общих чертах, разрабатываемый закон звучит так: «Ты не будешь пытаться победить в игре способами, которые раздражают и кажутся не приводящими к цели».

Это правило нам пригодилось бы
Элон Маск, конечно, использует всеобщую любовь к паническим заголовкам из научной фантастики, чтобы попиариться, но его замечания о том, что нам нужно беспокоиться о бунте ИИ, не лишены смысла. Вопрос заключается не в гегемонии роботизированных владык, а в распространяющемся хаосе развития технологий на базе ИИ, которые все глубже проникают в нашу повседневную жизнь. Без способности безопасно помешать ИИ и не повлиять на его обучения, простой акт остановки робота от контрпродуктивной или небезопасной работы может сделать его менее продуктивным вообще. Вмешательство человека будет насильственным, непредсказуемым процессом с сомнительными последствиями.

Три закона робототехники Азимова по своей природе концептуальны — они описывают типы вещей, которые делать нельзя. Но чтобы три закона в такой форме соблюдались, мозг должен понимать слова типа «вред» и точно определять ситуации и действия, которые к этому приводят. Эти законы, вроде бы понятные на нашем языке, будет невыносимо сложно записать в виде кода. Они будут проникать в каждый закоулок сознания ИИ, редактируя не мысли, которые могут родиться в процессе ввода, а то, какой ввод будет замечен и как будет интерпретирован. Три закона робототехники будут атрибутами машинного интеллекта, а не его ограничениями.

Эта инициатива Google, кажется, отходит от принципа «не навреди», (робот), но также показывает, что мы начинаем разрабатывать у роботов личность. Мы начинаем формировать мышление роботов, как они думают, а не что они думают, и работать с намерениями или настройкой их возможного поведения, а не наблюдаемого поведения. Это, по сути, основы робототехнической нравственности.

Мы знаем, что жестокость — это плохо, не потому что эволюция обеспечила нас группой нейронов типа «жестокость — это плохо», а потому что обеспечила нас зеркальными нейронами и способностью проецировать себя в ситуации, которые мы видим или воображаем, частично их переживая. Нравственные убеждения высшего порядка появляются хотя бы частично из относительно простых изменений в процессе обработки данных. Правила, предложенные Google, еще более рудиментарны, но это лишь начало того же пути. Если вы хотите научить робота не вредить людям, вам нужно начать с основ его сознания.

Современное машинное обучение позволяет машинам перекодировать себя самостоятельно в определенных пределах, и эти пределы в основном существуют, чтобы направить алгоритм в положительном направлении. Он не знает, что такое «хорошо», значит мы даем ему определение этого и способность оценивать свои действия относительно этого стандарта. Но «неконтролируемое машинное обучение» (обучение без учителя) может позволить искусственному интеллекту изменить собственные правила обучения и обучаться по эффектам этих изменений.

Область машинного обучения без учителя пока находится в зачаточном состоянии, но несет в себе потенциал сделать роботов действительно гибкими, универсальными и даже творческими, научить их экспоненциально развивать свои качества. Это область, которая может реализовать несколько поистине фантастических предсказаний научной фантастики. Робот может научиться ориентироваться в совершенно незнакомой среде или самостоятельно определять себе миссию.

Возврат к списку новостей >

Обнаружив в тексте ошибку, выделите ее и нажмите Ctrl + Enter.

Еще новостей

Facebook выпускает детский мессенджер

04 декабря 2017

Facebook выпускает детский мессенджер

Facebook планирует выпуск детского мессенджера

Журнал Time назвал 10 лучших гаджетов 2017 года

27 ноября 2017

Журнал Time назвал 10 лучших гаджетов 2017 года

Ежегодно редакция знаменитого американского журнала Time составляет рейтинг из десяти самых популярных электронных устройств.

OUKITEL MIX 2 появится в продаже в конце ноября

20 ноября 2017

OUKITEL MIX 2 появится в продаже в конце ноября

Если смартфон имеет минимальную рамку вокруг дисплея, он необязательно должен стоить как крыло от самолета Boeing.

Компания Disney снимет ещё одну трилогию Star Wars

13 ноября 2017

Компания Disney снимет ещё одну трилогию Star Wars

После того как франшиза «Звездные войны» попала в руки компании Disney, новые фильмы с полюбившимися киноманам персонажами стали выходить с завидным постоянством.

Новости ТРЦ

Бесплатные Wi-Fi точки на всех этажах ТРЦ

04 июля 2012

Бесплатные Wi-Fi точки на всех этажах ТРЦ "City Mall"

Уважаемые гости ТРЦ "City Mall", с 4 июля 2012 г. на всех этажах ТРЦ "City Mall" Вы можете воспользоваться бесплатными точками доступа в интернет.

Детский праздник Строим Город Мечты

10 июня 2011

Детский праздник Строим Город Мечты

В течении месяца будет проходить праздник Lego в Казахстане В 6 городах - тысячи посетителей Грузовик Lego будет перевозить 10 тонн материалов из города в город 6 команд промоутеров – ожидается 20 000 участников Сотни подарков для детей и много радости!

31 мая 2011

31 мая – День Благотворительности в ТРЦ City Mall ко дню защиты детей.

31 мая с самого утра в ТРЦ City Mall в честь праздника Дня Защиты Детей проходили благотворительные мероприятия для Детского дома Инвалидов «Умит».

29 мая – Дефиле и Финал акции Весенний Шопинг.

29 мая 2011

29 мая – Дефиле и Финал акции Весенний Шопинг.

29 мая в самом лучшем, самом популярном, самом модном, самом большом, креативном и гламурном Торгово-развлекательном центре нашего города « City Mall» прошло Звездное Дефиле, в котором участвовало 11 известных магазинов женской, мужской и детской одежды.

Еще 244 новостей >