Инфицированы будущим
При поддержке

Прогностика — наука для предсказания будущего. Философия ставит две проблемы прогнозирования (футурологии): первая — будущее не существует как объект, вторая — прогнозирование как исследование тенденций развития бытия — не есть наука. В то же время любая теория, любая форма общественного сознания предполагает размышления о будущем, без надежды на будущее нет смысла настоящего.

Общество мечты → Три закона роботехники, сингулярность и звёзды.

  14

Комментарии

Как хорошо быть роботом. Только три закона. Выучил их и ты уже роботоюрист. Правда никакого простора для прокуроров и адвокатов, а это уже скучно.

Хорошо сказано.)

Ну есть правда ещё нулевой закон, добавленный Айзеком Азимовым впоследствии. Так называемый нулевой закон. Как помню: робот может пожертвовать человеческой жизнью, если в противовес ей будет поставлена жизнь многих людей или человечества.

0. Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Вово. Считаю, если AI будут подчинёны этим законам, то нам ничего не угрожает... Хотя...

А кто конкретно будет решать что именно может повредить человечеству? Убьёт ли робот Эйнштейна? Без него бы не было Хиросимы и Нагасаки, Чернобыля и ядерной конки вооружения. Но без него бы не было и много чего и нужного.

Робот сам и будет решать на основе имеющихся у него данных... Это и проблема. Во всяком случае AI вполне бы мог придти к твоим размышлениям и отправиться в прошлое(при наличии возможности) для убийства...

Хм... Думаю надо ещё правил. Например, не вмешиваться в ход условии, если от этого не зависит жизнь абсолютного большинства жителей земли (больше 60%), ну или что-то в этом роде.

ход истории, точнее...

Частично согласен. И всё же это спорный вопрос.

Вне зависимости от того хотим ли мы этого или нет, рано или поздно технологии разовьются достаточно, чтобы роботы имели своё мышление. И только лучше уж ограничить его чёткими рамками. Ведь так?

Ответил вам, но коммент закрепился не там, где нужно, а выше.

Свободная воля человека есть причина не только успехов, но и великих трагедий. Вы хотите дать вольную рабам роботам? Но кто будет в результате ответственным за выбор свободного робота? А прикольно будет, гражданская война между Северо-Галактическими Соединёнными Штатами и Южно-Галактическими Соединёнными Штатами.

Хочу я этого или нет, не имеет значения.

Это прогресс и его не остановить. Рано или поздно Искуственный Интелект появится...

Какую ответственность будет нести робот за свой выбор?

В случаи неверного решения - форматировании и утилизация. Наверное так... И всё...

С другой стороны, есть еще немалая вероятность того, что человечество пойдет по пути слияния людей с роботами. Тогда новым витком эволюции будет не бездушная машина, а гибрид, который будет потомком нынешнего Homo Sapiens.

Ну, предположим, интеллект воссоздать можно, но как запрограммировать морально-этические нормы? Как привить роботу хотя бы страх быть уничтоженным, а лучше совесть с её угрызениями?

Вот поэтому и будет эффективным именно симбиоз робота и человека. Робот получает мораль и совесть от человека, человек получает вычислительные возможности и автоматизм движений от робота.

С другой стороны...

>>как запрограммировать морально-этические нормы?

А как они людям программируются? С малых лет, путем постоянного усложнения программы, путем внушения из разных источников и жизненных примеров. Также и робот может просто постепенно менять свою программу, адаптируясь к окружающей обстановке. Люди ведь именно так делают, не правда ли?

О да... Я обоими руками за киборгонизацию общества!

Это, определённо, лучший вариант развития человечества.

«Люди ведь именно так делают, не правда ли?»»
Может быть и так.

Морально-этические нормы... Хм... Ну я думаю, когда будет создан искуственный интелект, на его основе появятся основные инстинкты, такие, как страх быть уничтоженым...

А вот совесть... Пока я не могу на это ответить. Над этим надо хоро поразмышлять.

"Люди ведь именно так делают, не правда ли?"

Хм... Да. НО также надо помнить и об инстинктах, появившихся у нас от предков, например, держаться вместе, чтобы было больше шансов выжить. Или, что больше подходи к нашему диалогу, страх быть осужденым обществом за неправильные поступки.

«Над этим надо хоро поразмышлять.»
Надо думать, меня идеи по данному вопросы пока избегают. :-(

Я придумал. Вернее вспомнил «Волшебника страны Оз». Там Железный Дровосек выпросил у Великого и Ужасного Гудвина человеческое сердце. Вот и роботу надо будет имплантировать настоящее сердце.
{В каждой шутке есть доля шутки}

Ага, а страшила попросил имплантировать мозг. И еще там были туфли-телепортаторы, если мне не изменяет память :) Футурологическая книга, надо сказать. А еще вспоминается русское переложение в шести томах, где были деревянные роботы, невидимость, управление природными явлениями и даже инопланетяне!

Ну вот, всё придумали до нас, осталось это реализовать. Правда на счёт инопланетян не уверен…

Инопланетяни появятся. Они не могут не появится, человек уже настроил себя так.

Вообще, мне кажется, что роботы должны решать те проблемы, которые уже отработаны, формализованы и однозначны, ибо цель создания роботов - освободить человека от рутины (как и вообще у любой автоматики). И поэтому не стоит доверять им решение глобальных моральных проблем, оставьте этот удел людям!

А Вы не задумывались, что роботы в бедующем могут не только освободить человека от рутины, но и заменить дедушек, бабушек, мужа, жену, детей… Кому чего не хватает или не хватало в настоящей жизни. Кстати на эту версию уже много фантастики снято «Искусственный разум», «Я не робот», «Истории роботов» и так далее.

Ну да, одиноким людям это выход. А если робот будет действовать исходя из правил Айзека Азимова, тем лучше.

Создание искусственного интеллекта и ограничение его, не подлежащими обсуждению законами - все это похоже на рабство. Рабство без объяснения причин, почему одни должны править, а другие только трудиться на благо первых. А если И.И. однажды поймет эту несуразицу, ограничивающую его права? ))

Гражданская война за освобождение роботов не за горами. Вот только…

А каков статус гибридов - человеко-роботов? Ведь если они будут обладать большими возможностями в отличии от человека, значит их статус выше.))

Согласен... Похоже на рабство. Но они ведь и не люди. То есть мы пока понятия не имеем как они будут любить, ненавидеть, радоваться. А раз у них не будет всего этого, тогда зачем давать им какие-то права?

Или я излишне критично к этому отношусь?

Пока эти этические коллизии волнуют только людей. Если роботы будут любить, ненавидеть и радоваться как мы. Если мы сможем воссоздать в роботах свою человеческую природу, то это уже будут не роботы, а искусственные люди. Но зачем они нам? Ведь есть древний способ создания людей, да он иногда даёт сбои, и всё же он более перспективен и разумен. Не вижу смысла человеку становится богами.

Мне думается, что люди не столько создают искусственный интеллект, сколько пытаются разобраться в своем.

"Но они ведь и не люди." Или они не разумны? А ведь они обладают Искусственным Интеллектом, по человеческому образу и подобию, которым мы их одарили. И вот тут человек начинает сомневаться в их способности принимать решения. И у человека два пути: совершенствовать этот интеллект до уровня личности создателя или из страха за себя, ограничить их в развитии?

А разве для того что бы быть человеком достаточно обладать интеллектом? Дауны и олигофрены уже не люди? Человек в глубокой коме уже не человек? Для того, что бы робот стал человечным одного ИИ недостаточно. Робот будет выполнять только свою программу не выходя за её рамки. И даже операция OR будет в рамках этой программы. Какой здесь может быть выбор?

История имеет свойство повторяться... Главное, чтобы роботы не начали считать себя "Высшей" расой и не развязали Первую Галактическую войну.

Но ведь для человека законы не обязательны для исполнения, почему же роботы наделенные интеллектом от человека обязаны их соблюдать. И где эта грань, когда люди начинают себя считать "высшей расой".)

ну в общем... норм

Мы не так далеки об будущего.

В 1981 году Кэндзи Урада, рабочий завода Kawasaki стал первой официальной жертвой, погибшей от руки робота. С этого времени число жертв роботов растет, несмотря на внедрение усовершенствованных механизмов безопасности.

18 марта 2008 года 81-летний австралиец стал первым человеком, который покончил жизнь самоубийством при помощи робота, которого сам собрал согласно схемам, взятым из сети Интернет.

Счёт уже давно открыт.

Павел молодец!))) Пока меня не было ответил так, как ответил бы я.)

Если у робота будет разум, как у человека или даже лучше, он всё равно останется роботов. Чуств, инстинктов и т.п. у него не будет.

winkman, наличие интелекта у роботов не помешает людям создать некое программное ограничение, которое ограничет действия машин чёткими правилами.

Ах да, Павел... Ответ на последнее сообщение: приведённый вами пример отлично показывает, что роботы без интелекта и без правил Айзека Азимова потециально опасные...

Извините, не хотел. ;-)

Вы путаете два, на первый взгляд, похожих понятия. Разум и интеллект не эквивалентны. Разум до некоторой степени предполагает и включает в себя интеллект, без интеллекта разум (а впрочем и рассудок) не возможны. Но в то же самое время интеллект не может породить разум. Предположим что человеку удалось создать робота с ИИ, но будет ли этот робот разумным? А это уже более широкое понятие. На современном этапе развития антропологии можно с достаточной уверенностью сказать, что робот никогда не будет разумным. Вот почему понадобились три закона Азимова.

Уточню. Робот самостоятельно НИКОГДА не сможет выработать эти три закона для себя САМОСТОЯТЕЛЬНО. Эти законы должны быть заложены в робота изначально. А вот тут уже не может быть свободы выбора, только формальный код программы. Понимаете о чём я?

Да, я действительно немного запутался в этих двух понятиях.)) Спасибо Павел.)

Ну я так и думаю, что законы эти будут заложены изначально...

Здесь нет выбора. Они ДОЛЖНЫ быть в прошивке изначально и иметь наивысший и ничем непреодолимый приоритет. Иначе получится оружие массового поражения.

Абсолютно согласен. Avan09 любит указывать на различные фильмы и сериалы, он отчасти прав. К чему нам терминатор в будущем? Правильно, ни к чему...

Ребята, вы судите о роботах по литературе и фильмам. Я же программист по образованию, я пишу эти программы, и я общался с людьми которые занимаются искусственным интеллектом (диплом знаете ли пришлось писать). Поверьте, не все так просто, как в кино, и никакие законы вас не защитят если, что то получится с И.И.)

Вот это ближе к истине. А почему?

Могу привести простой пример: Уже сейчас существуют системы без всякого интеллекта, в вашем понимании, которые могут управлять трактором пашущем поле, круглые сутки, с выключенными фарами. Тракторист нужен только на первом этапе, чтобы указать края поля, и больше он, тракторист ненужен НИКОГДА. Стоит пока очень дорого, дороже тракториста и всей его семьи с его хозяйством.)

И что в вашем понимании нельзя запрограммировать роботу определёные правила поведения?

И Айзек Азимов просто фантазировал?

Речь идёт о том, чтобы занести роботу понятия "МОЖНО" и "НЕЛЬЗЯ", а дальше лишь давать указания и т.п.

Вы наверное не поняли. Человек как орудие производства, становится ненужным. А что вы делаете с ненужной вещью? Кстати, где то уже читал о электронных писателях.)) А в части занести роботу понятия "МОЖНО" и "НЕЛЬЗЯ", возможно когда то, это станет вашей задачей, но для начала придется объяснить роботу, что есть "ЧЕЛОВЕК".)

Кстати самое простое и однозначное для робота определение человека - штрих код на лбу.)) И главное чтобы лоб не запотел и не запачкался, иначе "ошибка".))

И я думаю, что в будущем, искуственный разум робота будет строиться на абсолютно других принципах, нежели сегодняшнее программирование роботов.

Или я не прав?

Извини друг, но сегодня ты не прав.)) Но это, я думаю, не помешает вам в будущем разработать "абсолютно другие" принципы программирования.)

Андройд может отклониться от созданной изначальной программы. Ошибка, сбой, вирус и у него в результате этого могут возникнуть более новые возможности, способствующие высшему пути развитию. Посмотрите фильм «Нирвана», «Крейсер Галактика», сериал «Андромеда», «Терминатор», «Звёздные врата» (репликаторы)…

Это всё не научая фантастика. Техногенное фэнтези, если хотите.

Уничтожение людей - высший путь развития? Ну да, для роботов может и высший...

До идей Азимова (примерно 1940-42 годы) робот только так и представлялся. И без Законов Азимова он таковым и является.

Многие и сейчас его таким и представляют. Взять за пример множкство современной трешевой фантастики...

Почему-то раньш, как мне кажется, фильмы лучше были. Намного.

Их основное достовинство было, что они давали много пищи для размышлений...

Это болезнь детства, не умение отличить реальность от фантазии. В умеренных количествах даже для взрослых это польза. Но вот в паталогических дозах это попахивает бредом.

Ой, извините. Никого не хотел обидеть, ни на кого не намекал. Сорри.

Мы так разговорились про AI и совсем забыли, что комикс мой не только о роботехники, но и о сингулярности, и развитии технологии.

Разрешите представить вам ролик из одной интересной игры. Нет, не подумайте, что я мечтатель, просто очень красиво нарисована эта самая обыденность будущего.

Как вам такое космическое будущее? Пираты, торговцы, и вольные наёмники.

Просто не удержался - выложил.)) Не судите строго. =)

Да, я для себя это уже отметил. :-)

© 2019 Trend Club