Главная Интересные новости Google разрабатывает собственные «законы робототехники»

Google разрабатывает собственные «законы робототехники»

16 июня 2016

Источник: hi-news.ru

Разработчики искусственного интеллекта в Google начинают копаться в собственном коде, пытаясь ограничить способности робота так, что он продолжает развиваться по пути, заданному исследователями — а не самим роботом. Это начало долгосрочной тенденции в робототехнике и ИИ в общем: как только мы заставим искусственный интеллект работать на нас, нам придется убедиться, что он точно, на все сто процентов будет работать так, как этого хотим мы. Вот почему исследователи из Google DeepMind и Института будущего человечества опубликовали документ с изложением «рубильника» в виде программного обеспечения, которое сможет остановить попытки сделать ИИ менее полезным или менее безопасным. Это даже не рубильник, а слепое пятно, удаляющее у ИИ способность извлекать неправильные уроки.

В частности, они кодируют в ИИ способность игнорировать человеческий ввод и его последствия для успеха или неудачи. Если происходящее кажется «провалом» и ИИ обучается этому всякий раз, когда вмешивается человек, робот может принять решение отказываться (или вовсе убегать восвояси) при приближении человека. Если происходящее соответствует цели, он может, напротив, вцепиться человеку в лодыжки и добиться желаемого. В общих чертах, разрабатываемый закон звучит так: «Ты не будешь пытаться победить в игре способами, которые раздражают и кажутся не приводящими к цели».

Это правило нам пригодилось бы
Элон Маск, конечно, использует всеобщую любовь к паническим заголовкам из научной фантастики, чтобы попиариться, но его замечания о том, что нам нужно беспокоиться о бунте ИИ, не лишены смысла. Вопрос заключается не в гегемонии роботизированных владык, а в распространяющемся хаосе развития технологий на базе ИИ, которые все глубже проникают в нашу повседневную жизнь. Без способности безопасно помешать ИИ и не повлиять на его обучения, простой акт остановки робота от контрпродуктивной или небезопасной работы может сделать его менее продуктивным вообще. Вмешательство человека будет насильственным, непредсказуемым процессом с сомнительными последствиями.

Три закона робототехники Азимова по своей природе концептуальны — они описывают типы вещей, которые делать нельзя. Но чтобы три закона в такой форме соблюдались, мозг должен понимать слова типа «вред» и точно определять ситуации и действия, которые к этому приводят. Эти законы, вроде бы понятные на нашем языке, будет невыносимо сложно записать в виде кода. Они будут проникать в каждый закоулок сознания ИИ, редактируя не мысли, которые могут родиться в процессе ввода, а то, какой ввод будет замечен и как будет интерпретирован. Три закона робототехники будут атрибутами машинного интеллекта, а не его ограничениями.

Эта инициатива Google, кажется, отходит от принципа «не навреди», (робот), но также показывает, что мы начинаем разрабатывать у роботов личность. Мы начинаем формировать мышление роботов, как они думают, а не что они думают, и работать с намерениями или настройкой их возможного поведения, а не наблюдаемого поведения. Это, по сути, основы робототехнической нравственности.

Мы знаем, что жестокость — это плохо, не потому что эволюция обеспечила нас группой нейронов типа «жестокость — это плохо», а потому что обеспечила нас зеркальными нейронами и способностью проецировать себя в ситуации, которые мы видим или воображаем, частично их переживая. Нравственные убеждения высшего порядка появляются хотя бы частично из относительно простых изменений в процессе обработки данных. Правила, предложенные Google, еще более рудиментарны, но это лишь начало того же пути. Если вы хотите научить робота не вредить людям, вам нужно начать с основ его сознания.

Современное машинное обучение позволяет машинам перекодировать себя самостоятельно в определенных пределах, и эти пределы в основном существуют, чтобы направить алгоритм в положительном направлении. Он не знает, что такое «хорошо», значит мы даем ему определение этого и способность оценивать свои действия относительно этого стандарта. Но «неконтролируемое машинное обучение» (обучение без учителя) может позволить искусственному интеллекту изменить собственные правила обучения и обучаться по эффектам этих изменений.

Область машинного обучения без учителя пока находится в зачаточном состоянии, но несет в себе потенциал сделать роботов действительно гибкими, универсальными и даже творческими, научить их экспоненциально развивать свои качества. Это область, которая может реализовать несколько поистине фантастических предсказаний научной фантастики. Робот может научиться ориентироваться в совершенно незнакомой среде или самостоятельно определять себе миссию.

Возврат к списку новостей >

Обнаружив в тексте ошибку, выделите ее и нажмите Ctrl + Enter.

Еще новостей

Google расширила возможности Assistant

13 августа 2018

Google расширила возможности Assistant

Google добавила в Assistant новую функциональность, которая предназначена не только для смартфонов, но и для других устройств с этим интеллектуальным ассистентом.

10 крутых каналов в Telegram

06 августа 2018

10 крутых каналов в Telegram

Интересных каналов в мессенджере Telegram становится все больше — неудивительно, что они заменили многим социальные сети и привычные СМИ.

Как Интернет вещей изменит мир через 5 лет

30 июля 2018

Как Интернет вещей изменит мир через 5 лет

Представим, как Интернет вещей сможет изменить наш мир.

Samsung Galaxy станут называть по-другому

23 июля 2018

Samsung Galaxy станут называть по-другому

Согласно новому сообщению, любимые миллионами пользователей смартфоны Samsung Galaxy начнут называть не так, как прежде.

Новости ТРЦ

Бесплатные Wi-Fi точки на всех этажах ТРЦ

04 июля 2012

Бесплатные Wi-Fi точки на всех этажах ТРЦ "City Mall"

Уважаемые гости ТРЦ "City Mall", с 4 июля 2012 г. на всех этажах ТРЦ "City Mall" Вы можете воспользоваться бесплатными точками доступа в интернет.

Детский праздник Строим Город Мечты

10 июня 2011

Детский праздник Строим Город Мечты

В течении месяца будет проходить праздник Lego в Казахстане В 6 городах - тысячи посетителей Грузовик Lego будет перевозить 10 тонн материалов из города в город 6 команд промоутеров – ожидается 20 000 участников Сотни подарков для детей и много радости!

31 мая 2011

31 мая – День Благотворительности в ТРЦ City Mall ко дню защиты детей.

31 мая с самого утра в ТРЦ City Mall в честь праздника Дня Защиты Детей проходили благотворительные мероприятия для Детского дома Инвалидов «Умит».

29 мая – Дефиле и Финал акции Весенний Шопинг.

29 мая 2011

29 мая – Дефиле и Финал акции Весенний Шопинг.

29 мая в самом лучшем, самом популярном, самом модном, самом большом, креативном и гламурном Торгово-развлекательном центре нашего города « City Mall» прошло Звездное Дефиле, в котором участвовало 11 известных магазинов женской, мужской и детской одежды.

Еще 244 новостей >