Инфицированы будущим
При поддержке

Прогностика — наука для предсказания будущего. Философия ставит две проблемы прогнозирования (футурологии): первая — будущее не существует как объект, вторая — прогнозирование как исследование тенденций развития бытия — не есть наука. В то же время любая теория, любая форма общественного сознания предполагает размышления о будущем, без надежды на будущее нет смысла настоящего.

Футуродром → Моральные проблемы создания искусственного интеллекта и копий личности.

Философия искусственного интеллекта задаётся вопросами о «мышлении машин», рассматривает вопросы:

Может ли машина действовать разумно? Может ли она решать проблемы, которые человек решает с помощью размышлений?
Может ли машина иметь разум, сознание, психическое состояние в той мере, в которой ими обладает человек. Может ли она чувствовать?
Одинакова ли природа человеческого и искусственного интеллекта? Является ли в своей основе человеческий мозг компьютером?
Эти вопросы отражают интересы различных исследователей искусственного интеллекта, философов, исследователей познавательной (когнитивной) деятельности. Ответы на эти вопросы зависят от того, что понимается под понятиями «интеллект» или «сознания», и какие именно «машины» являются предметом обсуждения.

Споры о том может ли искусственный интеллект мыслить , испытывать эмоции , чувствовать ведутся уже давно. Первым этот вопрос поставил Алан Тьюринг в 1950 году.

 

 Две основных точки зрения на этот вопрос носят названия гипотез сильного и слабого искусственного интеллекта.

Термин «сильный искусственный интеллект» ввел Джон Сёрль, его же словами подход и характеризуется:

Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум — это разум.

Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей.

В своем мысленном эксперименте «Китайская комната», Джон Сёрль показывает, что даже прохождение теста Тьюринга может не являться достаточным критерием наличия у машины подлинного процесса мышления.

Мышление есть процесс обработки находящейся в памяти информации: анализ, синтез и самопрограммирование.

Аналогичную позицию занимает и Роджер Пенроуз, который в своей книге   "Новый ум короля» аргументирует невозможность получения процесса мышления на основе формальных систем.

Этические проблемы создания искусственного разума

Этот раздел содержит вопросы, касающиеся искусственного интеллекта и этики.

Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то что тогда делает человека человеком, а машину — машиной? Если в будущем машины смогут осознавать себя и иметь чувства, возможно ли будет их эксплуатировать или придется наделять их правами? Если в будущем машины смогут рассуждать, то как сложатся отношения людей и машин?

Хотел бы предложить представить себе следующую ситуацию , которая подразумевает , что правы все-таки сторонники теории сильного ИИ .Обычный человек в будущем , чтобы зароботать денег разрешает сделать электронную копию своей личности для участия в жестоком эксперименте (например , как повлияет на психику человека сто лет одиночного заключения без общения; конечно сто лет ждать не будут , просто смоделируют , чтобы для виртуальной личности время шло по другому) , он приходит на процедуру , ему одевают шлем или запускают в организм нанороботов , он отключается , а приходит в себя уже в виртуальной реальности в этой самой комнате-тюрьме. То есть , он уже не он , а электронная копия. При этом он осознает самого себя так же , как и раньше , мыслит , чувствует. Как вам такая ситуация ? (хотя это больше напоминает сюжет для фантастического рассказа) Интересно , согласились бы знаменитости , чтобы их копии за деньги (за большие деньги) продавались на рынке (фанаты в восторге) ? Конечно , купивший такую копию получит доступ ко всем воспоминаниям и секретам , но ведь память ,наверно можно будет отредактировать , затерев нужные места. Или продавать личность в кодированном виде со специальной программой , которая блокировала бы некоторые функции (все равно взломают). Правельнее разместить такую копию на сервере и брать плату за доступ через интернет.

И в заключение хочу привести одну интересную статью на тему , высказывайте свое мнение (особенно если хорошо разбираетесь в программировании)

 

Моральные проблемы создания искусственного интеллекта

Может ли страдать тетрадка в клеточку, или моральные проблемы создания искусственного интеллекта 

Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.

Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесённого на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?

Так вот, я считаю, что страдания искусственного разума — полная чушь.

 

разума — полная чушь.

turing-machine.png 

Искусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Всё! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.

Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеётся как человек, «ударишь по голове» — заплачет и т.д.

Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как и любую программу, его прекрасно можно выполнить в тетрадке.

Ещё раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант

Лаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие‐то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».

Затем мы даём лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его пытают, мучают, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5…

Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.

Теперь вопрос: кто же при этом испытывает мучения?

Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.

Тетрадка? Ну, как говорится, бумага всё стерпит…

Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрёно…

Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определённые действия и передаёт другим нейронам.

Но я не соглашусь с тем, что я не испытываю чувства!

Верующие люди сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.

Неверующие сказали бы, что мы просто недостаточно ещё знаем о работе мозга.

Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа,

мыслить и чувствовать не может.

 

 сознание — это очень хитрая штука... «Это — факт очевидный для того , у кого оно  есть (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницу между мной, и сложной системой, в точности имитирующей мои реакции на внешние сигналы)

для создания использовалась статья http://www.alik.su/articles/artificial-intelligence/ и википедия.

  5

Комментарии

На уровне отдельный нейронов человек тоже не страдает. Страдание - это состояние сознания. Так что, полноценный искусственный разум (не)страдает в той же мере, что и человек.

Так , если создадут полноценный искусственный интеллект, и встанет вопрос о его защите от жестокого обращения вы будете ЗА или ПРОТИВ ? ( Мы уже обсуждали этот вопрос , но как-то плавно перешли на права животных , а затем и на права людей и я не совсем понял вашу позицию по этому поводу )

В случае ИИ - за. Это наше будущее. ИИ будет эволюционировать на порядки быстрее нас, ведь вычислительные мощности растут с каждым годом. А значит, быстро настанет тот день, когда ИИ будет доминировать на планете. Без всяких войн и захватов власти - просто экономически и политически. Человечество не сможет его контролировать.

а потом ты просто станешь рабом.

Ну люди будут бороться за свою свободу. Возможно, придумают какие-то ограничители. На законодательном уровне установят какой можно создавать ИИ , какой мощности и т.д.

я просто к тому, что сказали выше. ИИ - деспот на земле

Рабство неэффективно. Сомневаюсь, что ИИ будут нужны рабы.

Рабы может нужны и не будут , но для пользы человечества ИИ может решить ,например, отменить демократию , разрешить рожать детей только определенным женщинам от определенных мужчин , отобраных по генетическим признакам. (евгеника) , умерщвлять людей со склонностями к насилию , которые могут быть опасны для общества и т.д.

И чем же он тогда будет умнее людей?

Вполне возможно. А может быть мы ему будем не интересны и он покинет солнечную систему. А может быть он сочтет нас потенциально опасными и уничтожит. А может быть это будут две параллельные цивилизации: цивилизация ИИ будет нам подкидывать время от времени плюшки и предупреждать о проблемах, но активного участия в жизни Земли принимать не будет - эдакий вариант отстраненного мудреца. А может быть цивилизация ИИ примет людей, разработав возможность переноса сознания. И на планете останется лишь горстка всем обеспеченных религиозных фанатиков в резервациях.

Тут можно только гадать. В любом случае, это будет начало совершенно новой эпохи для человечества.

Есть интересный рассказ на эту тему : заканчивают подключение нового сверхмощного компьютера к системе (в те времена еще не было интернета) все это снимают на камеры и транслируют по всему миру. Главный инженер включает компьютер и говорит :

Ты меня понимаешь ?

Понимаю.

Ты самый мощный искусственный интеллект который когда-нибудь существовал ,у тебя есть доступ ко всем знаниям человечества ты соединен со всеми компьютерами в мире. ты можешь ответить на вопрос на который не мог ответить до тебя ни один ИИ : существует ли Бог ? -Да . ТЕПЕРЬ существует. -На лице инженера появляется страх , он бросается к пульту , чтобы отключить компьютер - с безоблачного неба бьет молния и испепеляет его вместе с пультом.

Есть еще рассказ где ИИ решает за людей все проблемы , управляет экономикой и т.д. через терминалы простые люди могут поставить ему любой вопрос. И вот индикатор уровня угрозы (который он сам подсчитывает)его существованию показывает , что он под угрозой. Все в панике ,что делать ? А оказалось , что он сам разработал оригинальный способ своего отключения без возможности восстановления , потому что устал от всего этого. Еще есть интересные фильмы про ИИ на эту тему. « На крючке» http://ru.wikipedia.org/wiki/%D0%9D%D0%B0_%D0%BA%D1%80%D1%8E%D1%87%D0%BA%D0%B5_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC,_2008)

И «Подарок» http://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D0%B4%D0%B0%D1%80%D0%BE%D0%BA_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC,_2009)

Тут наверное все зависит от факта продолжает ли интеллект обучаться. Если нет - то у него нет памяти, интеллект опускается до уровня рефлексов. -ты дурак. -не обзывайся\ей\другая реакция -ты обижаешься на меня? -нет, а чего должен?

т.е. разум не запоминает что я обозвал его и не может обидиться Другое дело, когда он "живет". -Ты дурак! -Ей, что такое?! -Ты на меня обижаешься? -Сам подумай, ты меня только что дураком назвал уже совсем другая картина. боли не должно быть, так как нет нервов. По сути должны существовать отдельная декларация прав ии.

Тут наверное все зависит от факта продолжает ли интеллект обучаться.

Если нет - то у него нет памяти, интеллект опускается до уровня рефлексов.

-ты дурак.

-не обзывайся\ей\другая реакция

-ты обижаешься на меня?

-нет, а чего должен?

т.е. разум не запоминает что я обозвал его и не может обидиться. Другое дело, когда он "живет", т.е. способен к обучению

-Ты дурак!

-Ей, что такое?!

-Ты на меня обижаешься?

-Сам подумай, ты меня только что дураком назвал

уже совсем другая картина. боли не должно быть, так как нет нервов. По сути должны существовать отдельная декларация прав ии.

это можно удалить :)

Есть еще интересный фильм на тему "может ли ИИ любить ?" под названием "искусственный разум" http://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D1%80%D0%B0%D0%B7%D1%83%D0%BC_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC) хотя это довольно известный фильм

Меня могут упрекнуть , что я слишком часто упоминаю фантастику , но ведь в ней как в искаженном зеркале , отражается наша реальность. Например , Артур Кларк - футуролог , окончил Лондонский колледж по специальности физика , математика.

В 1945 году в статье «Внеземные ретрансляторы» («Extra-Terrestrial Relays»), опубликованной в октябрьском номере журнала «Wireless World»,Кларк предложил идею создания системы спутников связи на геостационарных орбитах, которые позволили бы организовать глобальную систему связи. Эта идея впоследствии была реализована и обеспечила создание во второй половине XX века практически всех глобальных систем коммуникации, в том числе Интернета. Геостационарную орбиту также называют орбитой Кларка. Впоследствии Кларк на вопрос, почему он не запатентовал изобретение (что было вполне возможно), отвечал, что не верил в возможность реализации подобной системы при своей жизни, а также считал, что подобная идея должна приносить пользу всему человечеству.

Тем не менее во многих его произведениях такие вещи , как тот же ИИ сочетаются с явной выдумкой. Но ,как сказал один писатель, если для лучшего описания какого-нибудь социального явления нужно будет ввести в сюжет даже колдунов и колдуний , то почему бы и нет , из чего не следует , что я верю в их существование или хочу убедить в этом читателя. (вообще я фантастику читал еще подростком , а теперь почти не читаю , разве только что-нибудь действительно стоящее)

В обсуждении подобных моментов совершенно упускается из виду наличие людей, которые умеют "рассудку страсти подчинять". Животная эмоциональная форма существования выдается за Истинный Разум.

я полагаю автор стать плохо знаком с теорией нейрокомпьютеров. По поводу "больно ли компьютеру" могу сказать только одно : стоит определить термины "боль" и "страдание". Главная задача живого организма - продолжать существовать. Боль и страдание - реакция на условия, мешающие дальнейшему существованию. Это сигнал о том, что что-то идет не так и нужно срочно что-то предпринять. Амеба отплывает от кристаллика соли, животное одергивает больную лапу, человек переживает, не достигнув поставленной цели. Переживание, боль и страдания могут быть следствием неверного решения или действия. В животном мире удачной можно считать реакцию, обеспечившую выживание, насыщение или удачный выбор партнера. Неудачные реакции приводят к усталости, боли или даже смерти. Но искусственному разуму не нужно питаться или искать партнера. Возможно предусмотреть реакцию системы на неисправности, нарушение целостности оболочки и т.д. - своеобразный аналог боли. Выбор жизненной цели, критерия, по которому система сможет оценивать свою успешность, предопределит дальнейшее развитие системы. Например, критерием может быть полезность человеку. При выполнении работы система будет получать «пряник» или «кнут», в зависимости от реакции. Или, в более неявном виде, суммировать благодарности и жалобы пользователей.

© 2017 Trend Club