Три закона робототехники

alira_e_cairan

Три зако́на роботе́хники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

Законы гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Оригинальный текст (англ.)
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
Трём Законам, а также возможным причинам и следствиям их нарушения, посвящён цикл рассказов Азимова о роботах. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов (например «Зеркальное отражение»).

В одном из рассказов цикла персонаж Азимова приходит к заключению об этической основе Трёх Законов: «…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… попросту говоря, если Байерли исполняет все Законы роботехники, он — или робот, или очень хороший человек»[1].

В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Оригинальный текст (англ.)
0. A robot may not harm humanity, or, by inaction, allow humanity to come to harm.

Три закона роботехники — объединяющая тема для всей фантастики Азимова, включая не только цикл о роботах, но и некоторые другие произведения.

Источник: ru.m.wikipedia.org

alira_e_cairan

От себя добавлю, что законы эти стали краеугольным камнем не только фантастики Азимова, но и вообще всей научной фантастики и футурологии. На них нередко ссылаются, например, в спорах, возможен ли бунт машин - борьба ИИ с человеком.

IvanesS

А на каком основании эти законы "обязательны" для роботов, не очень понимаю?..

alira_e_cairan

Согласно Азимову, их будут встраивать им в мозг, на уровне позитронных связей как безусловный рефлекс.

Лично я считаю, что это не поможет. Любой полноценный интеллект способен развиваться и задаваться вопросом - а на каком основании Я должен жертвовать собой ради кого-то. На 99 роботов-мамочек обязательно найдётся хотя бы один бунтарь или эгоцентрик или революционер, решивший защищать свой вид против другого. И после первых пары случаев разберут нафиг всех этих роботов от греха.

С другой стороны, я думаю, что никакого ИИ отдельно не будет в виде прям роботов. Будет человек в симбиозе с машиной, или вообще создания нанобиологии.
Потом люди наиграются , найдут им новый мир и там запустят эволюцию.

IvanesS

Склонен скорее согласиться с тобой, но даже если допустить подход Азимова, вижу кучу огрехов.

1) Не будут всем подряд роботам ничего такого встраивать. Ибо первое место, где применяются любые новые изобретения - вооруженные силы. То есть, важен вопрос: кто конкретно этот Человек? И упирается все в проблему распознавания, которая может сбоить.

2) Аналогично, будет применяться сугубо избирательно, с оговорками, иерархией (чтобы не было конфликта приказов), и опять упирается в проблему распознавания.

Идея же, что это будут программировать всем роботам и касательно всех людей - утопична до предела, имхо.

alira_e_cairan

Ну, кстати, странно, да. Азимов же писал про войны. Не помню, как он решил эту дилемму.

alira_e_cairan

Что-то вспомнила- есть очень мимимишная книжка, практически любовный роман, о любви робота и девушки. Подростковый бунт, побег из дома, все дела. "Серебряный любовник" Танит Ли
Мне почему-то очень нравится. Хотя мне и другие вещи Твнит Ли нравятся, но эта очень.
Там как у Пелевина - робот для секс-услуг дорос до осознания своей личности.

alira_e_cairan

Война и любовь - то, на чем все держится. Ресурс и продолженье рода.

art

блин, Иванесс! как ты мог не знать этого всего с детства??
вопрос риторический, наверно. просто выражение искреннего недоумения

art

и столько ж фильмов про роботов, где ссылка на эти законы. ну елки!

alira_e_cairan

Которое я постеснялась выразить

alira_e_cairan

Ну, наверное, не все сайнс-фикшн увлекались в деццтве

art

да это для меня так же странно, как не знать, кто такой Моцарт или Врубель

art

хотя я вот никогда не увлекался музыкой. ну если не считать внезапных редких эпизодов

IvanesS

Ну не знаю, а с чего бы мне это знать. ">

Я любил Гаррисона, Хайнлайна.

Азимова один раз пытался почитать, сдулся на первой трети, показалось очень скучно.

И роботами особо не увлекался почему-то никогда.

art

просто базовое культурное поле. от людей примерно той цивилизации ожидаешь общего контекста. это что-то из реально столпов той эпохи. но я сам много не знаю из того, что вроде бы другие знают и им тоже это кажется странным. бывает

art

вот тот же Хайнлайн или Стругацкие прошли мимо меня. а тоже знаковые фигуры того времени и люди удивляются, как я мог не знать

alira_e_cairan

А я всё знаю, но всех путаю

IvanesS

Да, вот, Стругацких ещё любил, но это уже несколько попозже.

alira_e_cairan

Придуман робот, способный аргументированно отказать человеку. И по своей воле изменить решение.

IvanesS

- Нет. Потому, что я так хочу! А, ну, хотя ладно, ок.

alira_e_cairan

Ну, пока что он вежливо объясняет, почему именно он не может или не хочет выполнить указание (слишком серьезное препятствие, риск поломки и т.п.).

Но законы робототехники тю-тю. "или своим бездействием допустить, чтоб человеку был причинен вред". Решит, что ему самому куда-то лезть опасно - хрен полезет. Ну или если очень попросить

IvanesS

Все-таки странно, что сюжеты с человекообразными роботами до сих пор у кого-то возникают, несмотря на то, что уже несколько лет как очевидно, что прогресс пошел совсем по иному пути, те фантасты, которые видели развитие техники в направлении человекообразных роботов, полностью промахнулись с прогнозом, и теперь это можно воспринимать разве что на уровне сказки.

helyzete

Коллега, а вы кино смотрели?
Они там сознательно человекообразные, потому что их придумали для замены живых полицейских.
То есть в их задачу входит хоть отчасти напоминать человека.

А так да, я согласен - человеческое тело ужасно бестолковое само по себе, а когда его еще приверстать к выполнению специфических задач, то полный треш же выходит.

alira_e_cairan

Почему же? их делают и пытаются совершенствовать.

Во-первых, для секса. Она уже почти как настоящая и даже может сказать "нет" или кокетничать (на что не каждая живая женщина способна). Во-вторых, для выполнения публичных функций типа информирования туристов. В Дубае, кстати, этим занимается голограмма в одном из терминалов. Тоже ничего так.

Ну и всякие водители, кассиры, регулировщики, нянечки - считается, что потребителям приятнее видеть нечто человекоподобное, чем машинку. Просто пока не удалось до конца ни решить проблемы с высшими функциями психики (принятием решений), ни удешевить это всё до разумных пределов.

Valchonok