Итак я обсудила сначала жизнь человеческую, а потом расширила свои объятья, и рассмотрела жизнь живых существ... а куда, собственно, дальше, спросите вы?
Кто-то уже кричит с последней парты: "ИИ!"
читать дальшеПравильно, я о ценности жизни тех, у кого ее в биологическом плане нет, но кто при этом осознает себя, а возможно даже ценит свое существование.
Бред, не правда ли? Ну какая ценность жизни может быть у сложно устроеной консервной банки?
Однако тут мы сталкиваемся с серьезной проблемой, ведь мы же не знаем, что такое жизнь. Та жизнь, которую мы привыкли считать единственно возможной, это механизм, основанных на взаимодействии различных соединений углерода, по сути это та же напичканная разными устройствами консервная банка, работающая по тем же самым физическим законам, с той лишь разницей, что эта не была нами сделана, а зародилась сама за миллиарды лет предыдущего времени.. Как бы ни был устроен мозг. Если он умеет чувствовать, страдать, бояться, или радоваться, значит уже можно будет говорить и о таком явлении, как сопереживание данным чувствам. Особенно, например, если этот механизм участвовал в судьбе сопереживающего.
Другое дело - что считать страданием. Я изготовлю механизм, который при сильных ударах его корпуса в соответствии со своей программой будет отвечать: "мне больно, ой-ой" Это страданние? Разумеется нет, ответите вы, и я к вам присоединюсь. Но вот проблема - в нас та же самая программа, которая заставляет нас говорить "мне больно, ой-ой", только в более сложной интонации с непостоянством деталей ответа и иногда с добавлением матных слов, что также можно предусмотреть в программе механизма. Проблема в том, что мы реально чувствуем боль, а не просто говорим об этом, одергиваем руку и т п. мы реально при этом страдаем, что, впрочем, также является программой (ну, по крайней мере я точно чувствую, а другие, можт, и вправду говорят)
в чем тут подвох? Если я сделаю просто программу, которая отвечает на удары по корпусу конкретной реацией, то это будет именно реакция на действие в принципе. Программа произнесет данные слова не потому, что идентифицирует данное действие, как ущерб себе, она воспринимает его просто как сигнал с заданным ответом. Для того, чтобы действия можно было назвать инстинктом самосохранения, программа должна анализировать, причиняет ли ущерб ее существованию данное действие. Если программа будет отвечать упомянутыми словами именно на самоидентификацию себя, как пострадавшего, будет ли это страдание? Трудно верить. Должен быть какой-то механизм чувстввания, истинного осознания себя. Или я как раз все таки о нем говорю? Может быть, мы просто не в состоянии назвать какое-либо состояние машины эквивалентным нашим чувствам. Ну ведь многие считают, например, что собака не может ничего чувствовать. Отрежешь ей лапу, она начинает визжать, скулить - это явно тот механизм, о котором я тут говорю, не так ли? Сложный вопрос. Но все же, если уж биологические механизмы научились, дойдет дело и до технических. И что тогда?
У Саймака очень много дико наивных произведений, где фигурируют роботы. Наверное, много десятков произведений. Все его роботы очень похожи друг на друга и в чем то уникальны. Самая главная уникальность - Саймак рассуждает об их психологии, обсуждает их нравственные диллемы.
Один из самых восхитительных его рассказов "Выбор богов"
Людей на Земле остались единицы а роботов миллионы, те, что не пригодились людям не могли найти себе предназначения, они бесцельно шатались по миру тысячами лет без всякой зацепки за смысл. И вдруг они нашли себе смысл. Они начали строить так называемый Проект. Все роботы собрались вместе и посвятили себя этому делу, обретя тем самым смысл. История, вообще-то не о том, но когда людям вдруг понадобилась помощь в глобальном масштабе и они обратились к тем, кто занимался Проектом, сам Проект ответил фразой: "люди, это явление приходящее, непостоянное, мы не можем изменять свои цели ради них". Меня повергло в шок такое... а вот главный герой, человек, который, собственно и обратился... он оправдывал Проект, и то, что роботы послушались его против просьбы человека, он практически согласился с мнением проекта... Знаете ли, трудно это объяснить, надо читать все произведение, но это не фарс, Саймак этим поступком человека заставил меня очень о многом задуматься...
Мой любимй герой там Езекия. это робот... монах. Не буду описывать сюжет, смысл в том, что люди перестали интересоваться религией, ритуалами, да и самих людей на планете почти не осталось, и роботы были предназначены сами себе. В итоге роботы заняли и монастырь, посчитав, что некому кроме них уже служить Богу. Езекия мучается тысячи лет. Он исправно служит, он из кожи лезет, чтобы соблюсти все, что можно, посвятить себя полностью, и ему казалось, что со временем тяжелая боль от главного пройдет. А она только усиливается. Причина боли? Да он осознает, что он - ничто, что он не создание Бога, а значит то, что он делает, это не служба, это святотатство. Как может он - банка консервная, разговаривать с богом?!!! Тысячи лет он каждый день ненавидит себя. Он ненавит себя за гордыню. За то, что невольно пытается вести себя, как человек. Он с ужасом осознает, что ему комфортнее сидеть, но роботам нет нужды сидеть, он ходит в сутане, ему неудобно ходить без одежды. А когда он один раз вздрогнул от ветра, его это привело в ужас.
Он считает, что своими обращениями к Богу, своей службой Богу он достоин только гнева Божьего... а потом он возражает сам себе - нет, он и гнева не достоин, кто он такой, чтобы Бог на него разгневался???
Вообще очень интересный рассказ, но приводить его в комментах, разумеется, не буду, там почти полторы сотни страниц.
Кто-то уже кричит с последней парты: "ИИ!"
читать дальшеПравильно, я о ценности жизни тех, у кого ее в биологическом плане нет, но кто при этом осознает себя, а возможно даже ценит свое существование.
Бред, не правда ли? Ну какая ценность жизни может быть у сложно устроеной консервной банки?
Однако тут мы сталкиваемся с серьезной проблемой, ведь мы же не знаем, что такое жизнь. Та жизнь, которую мы привыкли считать единственно возможной, это механизм, основанных на взаимодействии различных соединений углерода, по сути это та же напичканная разными устройствами консервная банка, работающая по тем же самым физическим законам, с той лишь разницей, что эта не была нами сделана, а зародилась сама за миллиарды лет предыдущего времени.. Как бы ни был устроен мозг. Если он умеет чувствовать, страдать, бояться, или радоваться, значит уже можно будет говорить и о таком явлении, как сопереживание данным чувствам. Особенно, например, если этот механизм участвовал в судьбе сопереживающего.
Другое дело - что считать страданием. Я изготовлю механизм, который при сильных ударах его корпуса в соответствии со своей программой будет отвечать: "мне больно, ой-ой" Это страданние? Разумеется нет, ответите вы, и я к вам присоединюсь. Но вот проблема - в нас та же самая программа, которая заставляет нас говорить "мне больно, ой-ой", только в более сложной интонации с непостоянством деталей ответа и иногда с добавлением матных слов, что также можно предусмотреть в программе механизма. Проблема в том, что мы реально чувствуем боль, а не просто говорим об этом, одергиваем руку и т п. мы реально при этом страдаем, что, впрочем, также является программой (ну, по крайней мере я точно чувствую, а другие, можт, и вправду говорят)
в чем тут подвох? Если я сделаю просто программу, которая отвечает на удары по корпусу конкретной реацией, то это будет именно реакция на действие в принципе. Программа произнесет данные слова не потому, что идентифицирует данное действие, как ущерб себе, она воспринимает его просто как сигнал с заданным ответом. Для того, чтобы действия можно было назвать инстинктом самосохранения, программа должна анализировать, причиняет ли ущерб ее существованию данное действие. Если программа будет отвечать упомянутыми словами именно на самоидентификацию себя, как пострадавшего, будет ли это страдание? Трудно верить. Должен быть какой-то механизм чувстввания, истинного осознания себя. Или я как раз все таки о нем говорю? Может быть, мы просто не в состоянии назвать какое-либо состояние машины эквивалентным нашим чувствам. Ну ведь многие считают, например, что собака не может ничего чувствовать. Отрежешь ей лапу, она начинает визжать, скулить - это явно тот механизм, о котором я тут говорю, не так ли? Сложный вопрос. Но все же, если уж биологические механизмы научились, дойдет дело и до технических. И что тогда?
У Саймака очень много дико наивных произведений, где фигурируют роботы. Наверное, много десятков произведений. Все его роботы очень похожи друг на друга и в чем то уникальны. Самая главная уникальность - Саймак рассуждает об их психологии, обсуждает их нравственные диллемы.
Один из самых восхитительных его рассказов "Выбор богов"
Людей на Земле остались единицы а роботов миллионы, те, что не пригодились людям не могли найти себе предназначения, они бесцельно шатались по миру тысячами лет без всякой зацепки за смысл. И вдруг они нашли себе смысл. Они начали строить так называемый Проект. Все роботы собрались вместе и посвятили себя этому делу, обретя тем самым смысл. История, вообще-то не о том, но когда людям вдруг понадобилась помощь в глобальном масштабе и они обратились к тем, кто занимался Проектом, сам Проект ответил фразой: "люди, это явление приходящее, непостоянное, мы не можем изменять свои цели ради них". Меня повергло в шок такое... а вот главный герой, человек, который, собственно и обратился... он оправдывал Проект, и то, что роботы послушались его против просьбы человека, он практически согласился с мнением проекта... Знаете ли, трудно это объяснить, надо читать все произведение, но это не фарс, Саймак этим поступком человека заставил меня очень о многом задуматься...
Мой любимй герой там Езекия. это робот... монах. Не буду описывать сюжет, смысл в том, что люди перестали интересоваться религией, ритуалами, да и самих людей на планете почти не осталось, и роботы были предназначены сами себе. В итоге роботы заняли и монастырь, посчитав, что некому кроме них уже служить Богу. Езекия мучается тысячи лет. Он исправно служит, он из кожи лезет, чтобы соблюсти все, что можно, посвятить себя полностью, и ему казалось, что со временем тяжелая боль от главного пройдет. А она только усиливается. Причина боли? Да он осознает, что он - ничто, что он не создание Бога, а значит то, что он делает, это не служба, это святотатство. Как может он - банка консервная, разговаривать с богом?!!! Тысячи лет он каждый день ненавидит себя. Он ненавит себя за гордыню. За то, что невольно пытается вести себя, как человек. Он с ужасом осознает, что ему комфортнее сидеть, но роботам нет нужды сидеть, он ходит в сутане, ему неудобно ходить без одежды. А когда он один раз вздрогнул от ветра, его это привело в ужас.
Он считает, что своими обращениями к Богу, своей службой Богу он достоин только гнева Божьего... а потом он возражает сам себе - нет, он и гнева не достоин, кто он такой, чтобы Бог на него разгневался???
Вообще очень интересный рассказ, но приводить его в комментах, разумеется, не буду, там почти полторы сотни страниц.
-
-
08.04.2006 в 13:06Да, Клиффорд Смайк...
Очень интересный писатель...
Хотя мне больше понравилась серия рассказов "Город"
-
-
08.04.2006 в 14:04Точный "удар"...
Буквально этой ночью пересмотрел (уже в 6/7 раз) "сказку" Спилберга "AI"...
Пытался представить, что "чувствует"/чувствует Девид... постоянно ловил себя на мысли, что воспринимаю его уже как простого ребенка (а это мешает (мешает?) наблюдению)... а не робота...
Если кто не смотрел... уделите 108 минут... сказка с набором намеков....
-
-
08.04.2006 в 20:11-
-
08.04.2006 в 20:20Ты про "AI"?
Хм... я бы сказал... очень тяжелое что-то он оставляет... в некотором народе говорят - "грузит"... сильно...
-
-
08.04.2006 в 22:37К великому сожалению смотрела только вторую половину фильма, и то с перебоями, но этого хватило, чтобы выразить здесь с тобой согласие. Я очень люблю тяжелые, по настоящему тяжелые фильмы, чтобы прогрузило всмятку...
Но по теме. Что вы пожете предложить, как относиться к ценности жизни Езекии, Девида, Электроника и иже с ними, даже оставляя вопрос о том, возможно ли подобное существо принципиально. Ну и этот конкретный вопрос тоже можно обсудить.
-
-
08.04.2006 в 22:38-
-
09.04.2006 в 00:10Лепра! Надо обязательно смотреть первую половину фильма (там происходит нагнетание)! Дело в том, что то, что в середине (путешествие Девида) - это дело второе... Основная часть (части) фильма - это его жизнь в семье (в первой половине), и его встреча с профессором, создавшим его и далее (середина-конец второй части).
- естественно это на мой взгляд
Спилберг нагрузил порядочно...
как относиться к ценности жизни Езекии, Девида, Электроника
Ха! Это жуткий вопрос... что-то замыкает где-то... хотя в общем система не сбоит...
возможно ли подобное существо принципиально.
Это дело веры, нет? Я верю, что да - возможно (технически).
Но тут уж у тебя надо спрашивать... природа чувств... насколько она раскопана... если раскопана...
-
-
09.04.2006 в 15:46-
-
09.04.2006 в 21:14Ну... сбылась то она может с сбылась...
Но что ему пришлось пережить? А что его ждет дальше?
-
-
09.04.2006 в 22:57Да. надо будет еще раз посмотреть...
Это жуткий вопрос... что-то замыкает где-то...
ну все же, неужели мне надо снова ставить эксперименты типа голосования? Насколько ценна жизнь Девида? Кстати, по твоей формуле она на сто процентов равна ценности жизни биологического мальчика с той же самой судьбой...
Но тут уж у тебя надо спрашивать... природа чувств... насколько она раскопана...
то, что у меня можено было спросить, я ответила, если есть дополнительные вопросы, я всегда выслушаю, а вот осознание причины тех или иных проявлений механизма как тех же, которые являются причинами наших собственных проявлений - это уже из области философии.
Киллен, ну а ты что скажешь?
-
-
09.04.2006 в 23:23Да. надо будет еще раз посмотреть...
Угум... обязательно посмотри... интересно будет узнать твое мнение о полном фильме (можно в качестве отдельного поста))).
по твоей формуле она на сто процентов равна ценности жизни биологического мальчика с той же самой судьбой...
И?
Спилберг примерно об этом и говорил, нет? Т.е. он имел ввиду... что различия уже стерлись... и Девид ни чем не отличается.... уже...
Но, что-то, где-то замыкает...
(Это как в машине... вроде едет, вроде нормально едет... но что-то, где-то поскрипывает... и...)
-
-
10.04.2006 в 08:51-
-
10.04.2006 в 09:00ЗЫ я говорю о будущих роботах, хотя сейчас еще их уровень развития можно сравнить пожалуй что с... даже не знаю... с простыми млекопитающими... наверное. Хотя, это скорее к Lepra вопрос =))
-
-
10.04.2006 в 13:42Хм... ну так если он способен на "...верить в нечто заведомо нерациональное и нереальное...", любить... так чем он отличается от человека (кроме того, что внутри него - искуственное волокно)?
с простыми млекопитающими... наверное
Я где-то слышал про уровень таракана...
-
-
10.04.2006 в 14:53еще раз дам определение жизни в современном понимании, так как ты недавно на моем дайре.
Жизнь, это явление, отвечающее всем трем условиям без исключения:
1) Метаболизм. Живая система - это открытая термодинамическая система, обменивается с окружающей средой веществом и энергией, то есть в ней идут процессы метаболизма. Причем бетаболизма во многом в соответствии с внутренней программой, заложенной в живой системе.
2)Реакция на раздражение Живая система способна изменяться в соответствии с каким-то изменениями окружающей среды, отвечать на них, опять же, детерминированным образом.
3) Самовоспроизведение. Пожалуй, самый принципиальный признак. Создание собственных копий в процессе метаболизма со всеми свойствами, информацией и возможностями, каковы есть у материнского.
Полагают, что это необходимые условия, но соглашаются также, что вряд ли достаточные... Так или иначе ни один биолог не будет утверждать, что мы знаем, что же такое жизнь.
Вот тебе биологическая часть, теперь твоя очередь думать, как программиста ))) Я по этому поводу пока не буде высказываться. Слаба.
В любом случае, мы разговариваем о ценности жизни. Даже если признать системы механические живыми, надо еще утверждать об эмоциональном аспекте, обладает ли существо механическое даже в случае сильного интеллектуального развития человечностью, или это удел фантастических машин из сказок.
-
-
11.04.2006 в 11:02Что же касается ИИ… Мне кажется, что прежде всего человек должен быть осторожным с тем, что он делает. Это вечная дилемма – конфликт творца и творения. Я читала книгу о Франкенштейне, в общем-то, похожая ситуация, тоже нечто было собрано из комплектующих, только биологических, а не механических. Мы с друзьями спорили на тему: есть ли у него душа? Ответа не нашли, но пришли к выводу, что раз появилось это существо, то пусть живет, не убивать же его… Другое дело, что надо было думать прежде чем его создавать… А теперь уж – сумел сварить, сумей и скушать, теперь у него тоже есть права…
Робот, описанный Лепрой, очень похож на человека, но дело все в том, что книгу-то писал человек, и он наверняка от себя что-то вкладывал…
Думаю, что только тогда, когда они появятся, можно будет судить о том, какие они и на что имеют право, и, кстати, еще вопрос: а появятся ли? Ибо сам термин ИИ – дискуссионный, а на вопрос: возможен ли ИИ, аналогичный человеческому? на сегодняшний день нет ответа.
-
-
11.04.2006 в 12:45готовится к выпуску тема, где этот вопрос будет фигурировать, правда не с ИИ )))) Я бы и здесь спросила, но здесь такой подход неэффективен, мы еще не разобрались, вообще есть ли тут выбор между ценностями.
Робот, описанный Лепрой, очень похож на человека, но дело все в том, что книгу-то писал человек, и он наверняка от себя что-то вкладывал…
это точно, но сие как раз меня поразило. Писал книгу человек, а не робот, а написал он ее категорически против антропоцентризма, как будто он уже общался с роботами и в чем-то соучаствует им. Самое поразительное, это тот эпизод, когда человек не был шокирован и чуть ли не одобрил мнение машины о том, что человечество по сути - это так, локальный фактор.
И я не согласна, что это именно конфликт творца и творения. Для меня здесь более важно не то, кто создал робота, я, или не я, а то, чувствует ли он, есть ли душа и проч.
Ибо сам термин ИИ – дискуссионный, а на вопрос: возможен ли ИИ, аналогичный человеческому?
вот как раз об этом мы и думаем здесь... и ничего не придумали.