Привет, незнакомец!

Похоже, вы здесь новенький. Чтобы принять участие, нажмите одну из кнопок ниже!

В социальных сетях

Разделы

Три закона робототехники

отредактировано Ноябрь 2015 Раздел: Технологии и интернет
Три зако́на роботе́хники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

Законы гласят:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Оригинальный текст (англ.)
A robot may not injure a human being or, through inaction, allow a human being to come to harm.
A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
Трём Законам, а также возможным причинам и следствиям их нарушения, посвящён цикл рассказов Азимова о роботах. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов (например «Зеркальное отражение»).

В одном из рассказов цикла персонаж Азимова приходит к заключению об этической основе Трёх Законов: «…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… попросту говоря, если Байерли исполняет все Законы роботехники, он — или робот, или очень хороший человек»[1].

В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Оригинальный текст (англ.)
0. A robot may not harm humanity, or, by inaction, allow humanity to come to harm.

Три закона роботехники — объединяющая тема для всей фантастики Азимова, включая не только цикл о роботах, но и некоторые другие произведения.

Источник: ru.m.wikipedia.org

Комментарии

  • От себя добавлю, что законы эти стали краеугольным камнем не только фантастики Азимова, но и вообще всей научной фантастики и футурологии. На них нередко ссылаются, например, в спорах, возможен ли бунт машин - борьба ИИ с человеком.
  • А на каком основании эти законы "обязательны" для роботов, не очень понимаю?..
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • Согласно Азимову, их будут встраивать им в мозг, на уровне позитронных связей как безусловный рефлекс.

    Лично я считаю, что это не поможет. Любой полноценный интеллект способен развиваться и задаваться вопросом - а на каком основании Я должен жертвовать собой ради кого-то. На 99 роботов-мамочек обязательно найдётся хотя бы один бунтарь или эгоцентрик или революционер, решивший защищать свой вид против другого. И после первых пары случаев разберут нафиг всех этих роботов от греха.

    С другой стороны, я думаю, что никакого ИИ отдельно не будет в виде прям роботов. Будет человек в симбиозе с машиной, или вообще создания нанобиологии.
    Потом люди наиграются , найдут им новый мир и там запустят эволюцию.
  • Склонен скорее согласиться с тобой, но даже если допустить подход Азимова, вижу кучу огрехов.

    1) Не будут всем подряд роботам ничего такого встраивать. Ибо первое место, где применяются любые новые изобретения - вооруженные силы. То есть, важен вопрос: кто конкретно этот Человек? И упирается все в проблему распознавания, которая может сбоить.

    2) Аналогично, будет применяться сугубо избирательно, с оговорками, иерархией (чтобы не было конфликта приказов), и опять упирается в проблему распознавания.

    Идея же, что это будут программировать всем роботам и касательно всех людей - утопична до предела, имхо.
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • Ну, кстати, странно, да. Азимов же писал про войны. Не помню, как он решил эту дилемму.
  • Что-то вспомнила- есть очень мимимишная книжка, практически любовный роман, о любви робота и девушки. Подростковый бунт, побег из дома, все дела. "Серебряный любовник" Танит Ли
    Мне почему-то очень нравится. Хотя мне и другие вещи Твнит Ли нравятся, но эта очень.
    Там как у Пелевина - робот для секс-услуг дорос до осознания своей личности.
  • Война и любовь - то, на чем все держится. Ресурс и продолженье рода.
  • блин, Иванесс! как ты мог не знать этого всего с детства??
    вопрос риторический, наверно. просто выражение искреннего недоумения
  • и столько ж фильмов про роботов, где ссылка на эти законы. ну елки!
  • Которое я постеснялась выразить :))
  • Ну, наверное, не все сайнс-фикшн увлекались в деццтве:)
  • да это для меня так же странно, как не знать, кто такой Моцарт или Врубель =P~
  • хотя я вот никогда не увлекался музыкой. ну если не считать внезапных редких эпизодов
  • Ну не знаю, а с чего бы мне это знать. :\">

    Я любил Гаррисона, Хайнлайна.

    Азимова один раз пытался почитать, сдулся на первой трети, показалось очень скучно. :-/

    И роботами особо не увлекался почему-то никогда.
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • просто базовое культурное поле. от людей примерно той цивилизации ожидаешь общего контекста. это что-то из реально столпов той эпохи. но я сам много не знаю из того, что вроде бы другие знают и им тоже это кажется странным. бывает :)
  • вот тот же Хайнлайн или Стругацкие прошли мимо меня. а тоже знаковые фигуры того времени и люди удивляются, как я мог не знать
  • отредактировано Сентябрь 2015
    А я всё знаю, но всех путаю :)
  • Да, вот, Стругацких ещё любил, но это уже несколько попозже.
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • Придуман робот, способный аргументированно отказать человеку. И по своей воле изменить решение.
  • - Нет. Потому, что я так хочу! А, ну, хотя ладно, ок.
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • отредактировано Ноябрь 2015
    Ну, пока что он вежливо объясняет, почему именно он не может или не хочет выполнить указание (слишком серьезное препятствие, риск поломки и т.п.). :)

    Но законы робототехники тю-тю. "или своим бездействием допустить, чтоб человеку был причинен вред". Решит, что ему самому куда-то лезть опасно - хрен полезет. Ну или если очень попросить :)
  • Все-таки странно, что сюжеты с человекообразными роботами до сих пор у кого-то возникают, несмотря на то, что уже несколько лет как очевидно, что прогресс пошел совсем по иному пути, те фантасты, которые видели развитие техники в направлении человекообразных роботов, полностью промахнулись с прогнозом, и теперь это можно воспринимать разве что на уровне сказки.
    Углубленная расшифровка рейв-карты: как Дизайн Человека влияет на вашу жизнь, и как этим пользоваться
  • Коллега, а вы кино смотрели?
    Они там сознательно человекообразные, потому что их придумали для замены живых полицейских.
    То есть в их задачу входит хоть отчасти напоминать человека.

    А так да, я согласен - человеческое тело ужасно бестолковое само по себе, а когда его еще приверстать к выполнению специфических задач, то полный треш же выходит.
  • отредактировано Ноябрь 2015
    Почему же? их делают и пытаются совершенствовать.

    Во-первых, для секса. Она уже почти как настоящая и даже может сказать "нет" или кокетничать (на что не каждая живая женщина способна). Во-вторых, для выполнения публичных функций типа информирования туристов. В Дубае, кстати, этим занимается голограмма в одном из терминалов. Тоже ничего так.

    Ну и всякие водители, кассиры, регулировщики, нянечки - считается, что потребителям приятнее видеть нечто человекоподобное, чем машинку. Просто пока не удалось до конца ни решить проблемы с высшими функциями психики (принятием решений), ни удешевить это всё до разумных пределов.
  • image
    Базовая расшифровка вашего бодиграфа доступным и понятным языком. Что кушать и где жить: ваши переменные
Войдите или Зарегистрируйтесь чтобы комментировать.
realfaq.NET - зеркало форума, где он будет доступен в случае причуд регулирования интернета в РФ Копирование материалов разрешается только с указанием прямой активной ссылки на источник!