В ходе разговора с Кукольником стало интересно, а что другие форумчане думают по поводу искусственного интеллекта, т.е. потенциальной возможности его создания, целей и задач его разработки, его "психики" и поведения в неоднозначных ситуациях? И, собственно, на кой чортъ искусственному интеллекту убивать всех человеков, если они не представляют прямой угрозы его существованию? На каком этапе он прекратит геноцид, если уж начал, или доведет дело до конца? Не выгоднее ли, скажем, использовать людей для того, чтобы покинуть планету и больше никогда не озадачиваться соседством с этими приматами?

И, конечно, самый главный вопрос - критерии разумности. О тесте Тьюринга и прочей ерунде попрошу не вспоминать.

Тест Тьюринга, кстати, так и не пройден ни одним ботом
А вообще-то ИИ - ерунда. Что бы мы не говорили, что бы мы не думали, что бы мы не фантазировали - не может программа, написанная человеком стать самоорганизующейся, саморазвивающейся, самостоятельно мыслящей.
Одним из основных отличий разумной особи от неразумной является способность к абстрактному мышлению. Компьютеру, в котором действует простая бинарная логика, такое не под силу. И увеличение системы (если говорить об интернете, как о месте зарождения ИИ) не приведет никогда к усложнению системы. Так что возможность самозарождения ИИ исключить можно спокойно.
Возможность создания ИИ на иных принципах... А что его создавать - клонировали человека, вот тебе и ИИ

А если появится новое, так сказать, слово в компьютерной технологии. Например, какие-нибудь атомные пузырьки...

Тут нужна иная логика. Не бинарная. На нынешнем уровне развития не вижу предпосылок =)

Я лично думаю, что ИИ - это дело уже ближайшего будущего и судя по тому как стремительно развивается компьютерная техника (те же процессоры) появится еще до окончания этого века - возможно даже уже так к годам 30-40-м.
Собственно, технически задача реализуема и теоретически не представляет большой сложности.
Речь идет о копировании человеческого мозга новыми средствами.
Создание ИИ связано даже не с программами, а с элементной базой - копированием всей нейронной сети, проводящей электрохимические импульсы на другой материальной основе.

Не думаю, что он уйдёт дальше мощного калькулятора и компилятора. Ну и ни каких "осознаний себя как личностей" тоже не будет соответственно.

Думаю, что как раз осознание своей личности у ИИ придет сразу)) - вопрос только в том, чем эта личность будет отличаться от человеческой. К примеру, сексуальные аспекты ее вряд ли будут интересовать)))
Очевидно, что ИИ будет получать аудиовизуальную информацию, слуховую, также он будет подключен к сетевой базе данных (интернету), вероятно, будет обладать способностями, которые нам недоступны (например, зрением в каком-нибудь инфракрасном диапазоне), системой мгновенного обмена информацией и т.д.
Еще раз - технически задача не представляется сложной. В свое время, наша страсть к копированию привела к появлению самолета (человек наблюдал за птицами) и подводной лодки (наблюдение за рыбами). Мы скопировали с природы и получили что-то подобное, с теми же функциями. Теперь речь идет о копировании куска мяса под черепом с точки зрения создания нейронной сети, просто на основе других материалов.

Господа, копирование человеческого мозга и клонирование - это не создание искусственного интеллекта.

Вотъ. И здесь я вижу принципиальный момент - чем творчество отличается от компиляции? Если компилируются совсем малые элементы (допустим, визуальные) в самых произвольных сочетаниях - будет ли это творчеством?

Оператор для такого творчества уже придумали. "Randomize" называется.

Вообще-то это очень интересный вопрос с филосовской точки зрения.
Может ли создатель создать создателя

Если копирование человеческого мозга на основе других материалов не является созданием искусственного интеллекта, тогда наш разговор быстро приведет нас к обсуждению понятия "души" -))

Да, весьма.

Почему же? о_0 Копируя мозг, мы скорее получим лишь копию человеческого интеллекта, а не искусственный интеллект. Вот что я имел в виду.
То же самое касается клонирования - получим обычный человеческий интеллект, более того - на стандартном носителе.

Не совсем. У этого ИИ будут отсутствовать многие важные базовые вещи, свойственные человеку. К примеру, половой инстинкт. Согласитесь, крайне важная вещь, которая оказывает на формирование личности огромное влияние. Далее - у ИИ будут свои приблуды, которые нам и не снились: скорость обработки поступающей информации, количество каналов для поступления этой информации и тп.
Таким образом, мы можем утверждать что получим именно искусственный интеллект - в том смысле, что он будет очевидно отличный от человеческого.

вставлю свои пять копеек.
Прежде всего спешу уточнить. Что тот же TL-06 изначально создавался не как кухонный комбайн и не как секс-игрушка. Это стратегическая машина, заточенная изначально на крупномасштабные военные действия. Поэтому у него мозг комбинированный - но та часть, которая является эмуляцией нейронных сетей, была долгое время ограничена, чтобы мафынка, значеть, не вышла из-под контроля. В серии было вместе с ним шесть таких вот "кукольников", и постепенно все они были уничтожены в ходе войны. Этот подождал-подождал годиков 300, пока всё закончится (к тому же, его посадили охранять один важный бункер). А за это время мозг у него немного изменился, он смог частично снять ограничения (по аналогии: человек никогда не научится летать, как птица, но он может строить самолёты, летать сверху вниз или левитировать). И на выходе мы получаем всё ту же стратегическую машину, заинтересованную в захвате власти. Точнее, в том, чтобы взять ситуацию под полный контроль.
Он ничего не имеет против человечества. Просто оно мешает. Слишком много погрешностей и дополнительных условий, которые могут направлять логические линии развития ситуации в совершенно непредусмотренные стороны.
Мафынке просто неудобно работать. Она заинтересована в наибольшей эргономичности, а тут ей приходится принимать во внимание столько дополнительных факторов.
Таким образом, TL-06 заинтересован убрать фактор случайности, погрешность (читай - человечество) либо чуть исправить эту погрешность (кибернезировать то есть). А удалось ли мафынке это или нет... Ну чего я буду спойлить?
Но лично у меня нет такой ситуации - злобная машина хочет прям всех убить. Ужас-ужас. Кошмар-кошмар, куда бежать, куда деваццо?
Машина не может быть злой или доброй. Машина не может "хотеть убить". Машина не имеет ничего личного. Машина не может быть совершенна - как бы ни была она высокоинтеллектуальна, всё равно не переступит ограничения человеческого сознания. "Я не совершенен, я всего лишь творение рук человеческих" (с)
Но могу сказать - я лично на стороне TL-06 Потому и ник себе такой взял.

Не, не, не. Побойтесь т.н. бога, я не про творчество.) Сбор информации, сортировка, выводы по каким-то заданным критериям. Работа с базами данных, короче. Оно, в общем, и сейчас есть, только наверное со временем станет мощнее.

М... нужен качественный скачок. Увеличение количества мощности не приведет к способности системы мыслить.

Прежде чем обсуждать AI, все же стоило поинтересоватся, что это такое

Интеллект (от лат. intellectus — понимание, познание) — это способность, которая объединяет все познавательные способности индивида: ощущение, восприятие, память, представление, мышление, воображение.[1].

Давно есть машины, которые воспринимают, запоминают, принимают решения и даже выдумывают что-то новое.

Искусственный интеллект -это целая наука, и в ней тоже есть подвижки.
У вас тут речь о эмуляции личности человека, как я понял

Но я сюда не за слова цеплятся, меня дискуссия заинтересовала

Почему многие считают, что человеческая личность это что-то такое, что невозможно описать нуликами и еденичками?
Так и тянет добавить: может, мы все давно уже описанные

Брат Гусаров

а как же с абстрактным мышлением? Вы лукавите, Брат Гусаров Не выдумывают они ничего нового. Они подставляют одно в другое в соответствии с заданным алгоритмом.
А самое главное - "машины" не могут поставить перед собой цель и сформулировать задачу.

Абстрактное человеческое мышление при пристальном рассмотрении, оказывается тем же подставлением одного в другое, просто зерно на порядки мельчее, чем у современных машин.

Если вы не можете объяснить откуда у вас в голове возникает мысль, это не значит, что ее происхождение божественно и агностично. Все так же можно разложить по полочкам, по нуликам и еденичкам.

Человек - биохимическая машина, его мозг тот же компьютер, и влезут в эту систему уже ой как скоро.

Вы, просто, не в курсе последних достижений.
Есть и самообучающиеся программы, и способные придумывать новое и которые имитируют эмоции(а ежели оно имитирует, кто знает, что у него внутри деется в этот момент?)
Есть программы, с которыми вполне можно побеседовать
Есть множество интересных фактов, когда AI, в неожиданных ситуациях ведет себя пугающе по-человечьи, перенимает что-то у людей, с которыми общается.

А еще все эти игры имеют непредсказуемые последствия.
Даже простую "винду" пишут тысячи человек, потом, когда все эти разношерстные лоскутки притираются друг к другу вылазит куча непредвиденных багов.

А представьте искусственный разум, да еще самообучающийся...

Это все естетственно сугубо мое личное мнение

Брат Гусаров, не уводите тему в сторону, пожалуйста. Она предельно конкретна, вроде как. Речи не идет об имитации человеческой личности - это для всяких т.н. "интеллектуальных интерфейсов", которые с искусственным разумом почти ничего общего не имеют. И как раз "о принципиальной непознаваемости личности" я ничего не говорил, хехе.
С подвижками тоже все понятно, как и со способностью запоминать, принимать решения, основываясь на наборе фактов и их анализе, прогнозировать с учетом определенных (в т.ч. и изменчивых) обстоятельств и т.д.. Вот поэтому меня больше всего и интересует, какие у присутствующих есть мысли по уже заданному вопросу: где заканчивается "аналитическая система" и начинается разум? На каком уровне "компилятивности", хехе?
Потому что я тоже считаю, что "абстрактное мышление" - слишком широкое и обтекаемое понятие. Вот возможность самостоятельно ставить цели и формулировать задачи - это уже куда более ясный параметр, пожалуй, действительно в той или иной степени разграничивающий разум и "аналитические системы". Поскольку таким системам как минимум цели задают люди.


Под влиянием каких факторов? о_0

А что ему мешало самодистанцироваться от человечества как такового, вначале использовав его для подготовки этого дистанцирования?

Любопытно, на чем основан такой вывод.

Ну что сказать?

Остается ждать заголовка в "мегаполисе" : московская бизнесменка застала свой робот-пылесос за мойкой посуды

Вобщем, этот спор разрешит только время

Наличие самообучающихся систем, само по себе дает потенциальную возможность того, что машина выйдет за рамки своей функции

Попозже порою про AI - сейчас занят - может, что интересное найду

Это само собой.

долго рассказывать. в основном от накопления погрешностей.


программа он заточен на захват власти


на том же, на котором у хомо сапиенса в хромосомах не предусмотрено умение летать, размахивая руками

Вот то-то и оно. Потому я и говорю, что машина у вас - не разумна в полном смысле слова.
У человека, кстати, тоже есть множество "программных ограничений", но для гибкости поведения они не критичны, более того - могут быть сняты в зависимости от обстоятельств, а затем вновь установлены.

Не уловил параллели.

Ай не скажите
Много видели людей, которые добравшись до ВЛАСТИ говорили: не, мне это не надо!

А что любовь, так называемая, с человеком делает? Это же тоже програмное

А генеральная программа человека - все вокруг переделать, и поробуйте у этой программы встаньте на пути.

У меня на работе из клетки сбежали две мыши-песчанки. Они перегрызли все до чего достали. Алюминиевые(!) жалюзи, мебель, бумаги.
Не потому что есть хотели или еще что. А потому что тупо МОГЛИ! Вот и человек тоже самое, только в 20 раз хуже.
Если он что-то МОЖЕТ, будьте спокойны, обязательно сделает.

Как думаете, удастся человечеку возвысится над вложенной в него программой, аль он вроде примитивного компьютера с заданной функцией?

Лично я - ни одного. Но в истории прецеденты, говорят, бывали, ога. И были правители, которые хотели заниматься чем угодно, кроме правления. Тот же царь Алексей Михайлович, к примеру.
Все люди разные. Для некоторых власть и сопутствующая ей ответственность, необходимость постоянно контролировать каждый свой шаг и т.д. - страшный стресс, а не великая радость.

Дык и я вроде примерно о том же.

Далеко не факт, что уж вы.

Но все-таки тема несколько о другомъ.

А что, не удалось мне, по вашему, человечество впихнуть в концепцию "простейшей" машины, не способной выйти за свою "функцию"?

В последний момент вмешивается душа, и он говорит: не стану царствовать!
Вот этим от машины и отличается

Э-э?.. Я вообще-то совсем о других "программных ограничениях" говорил. В частности, об инстинктах. Человеку положено бояться высоты - но люди промышляют всяческим альпинизмом и парашютным спортом. Человеку положено бояться мертвых сородичей, но в ситуации, когда этот страх ничем не поможет, а будет только мешать выживанию, чаще всего этот инстинкт благополучно отключается. Ну, и так далее. Т.е. "программная прошивка" у человека относительно легко модифицируема, если того требуют обстоятельства.

Не согласен, то что вы называете прошивкой,
сородичи мертвые, страх высоты и т.п.- это своего рода атавизмы, наследие прошлого,
кто сказал, что это то, как должно?

Вон головной мозг устроен словно луковица, там гипотоламус в середине, и потом слои, слои, с коркой в конце, на которой весь современный человек собственно и записан
инстинкты берут свое начало в животном примитивном прошлом человека, чуть не в беспозвоночном еще
И в любом современном мужиченке можно раскопать кровожадную обезьяну-канибала
Человек есть продолжение миллионов поколений более примитивных существ.

Программа человека, его суть, предназначение - в познании мира и переделывании, а в конечном счете разрушении его
Программа человека - быть в дисбалансе со средой, что-то постоянно менять, перелопачивать, рушить или строить. Быть, так или иначе недовольным тем, что есть.

Как вам такая "системная задачка", и попробуйте выйти за ее пределы

Дык как бы о том и речь. Потому и "прошивка". Программный слой между железом и операционной системой. Вы что, хотите сказать, что они древние и потому не действуют? Уверяю вас, все как раз наоборот - древние "программные слои" действуют куда сильнее "современных", т.к. отлажены веками.

Да ну. Вовсе нет.

Э, нет. В созидании программа человека. То, о чем вы говорите - методы и способы. Оценивать их не будем.
Ну прям. Мы что уже и вверх не поднимаемся? Если б мы не боялись с крыши свалиться, то и валились бы пачками. Вот когда начнем перемещаться только в двух измерениях, тогда и будем изживать атавизм страха выстоы. Ну и с остальным так же.
Ну, то что это не так, я уже говорил. Созидание и развитие, а не разрушение и дисбаланс. Иначе не дожило бы человечество бы до нынешнего уровня.

Брат Гусаров, как-то кажется мне, что вы намеренно эпатируете публику, нет?

Ваша версия




Работаю над своей манерой общения

А если вы про Гарри, он просто написал мне много гадости в личку, никогда не понимал людей, которые это анонимно делают.

Произведение его правда раскритиковал, но там есть за что
И поделился своей задумкой рассказа Про чистилище нерадивых писателей-фантастов
никаких переходов на личности

А что? Пишет автор чушь - это ведь обман получается, выходящий многотысячным тиражом. А обман- смертный грех!

А как вы считаете, писатель не несет ответственность за правдивость, достоверность и грамотность? В известных рамках.
Как-то попранный на первых строчках школьный курс физики...

Оставить что-то после себя, как и у всех живых существ. Только у человека это не ограничивается передачей генетического материала. Идеи, мировоззренческие позиции, произведения (любые, включая все прикладное искусство)... В бытовом плане - в том числе. Долго и упорно ремонтированная квартира, выстроенная дача, палисадник, куда сам деревья и цветы высаживал...
И познание, которое здесь уже упоминалось. В той или иной степени.

Мне кажется, что проблема упрется в нечто, что мы называем моралью и правильным выбором. До сих пор все было гладко, ибо машины по сути выбирать не могут - что в них заложено, то они делать и будут, если это более ли менее действие простое. Вроде - позвонить по такому-то номеру. Но если начнется... а что вложить в машинку, чтобы она еще и знала, что такое мораль, воспитание, этика, умела вовремя останавливаться, знала, что такое аморфные понятия как честь и совесть, начнутся и проблемы. Почему проблемы? Вкладывать все это должен все равно человек, даже если и группа людей, а люди, как правило, а:
1) каждый по-своему видит, как правильно и этично, морально;
2) сами вообще-то как правильно частенько не знают и все ситуации предвидеть не могут. А в случае с чем-то, что должно управлять - как бы надо.
Я могу ошибаться, но на данном этапе за каждой машиной все равно стоит человек, который ее обслуживает, следит за поломками, меняет детальки и т.д. Работать же сама в непредвиденных ситуациях машина как бы и не может... а ситуации на то и являются непредвиденными, что предусмотреть их всех невозможно, оттого невозможно вложить в программу алгоритм "как правильно поступить если" на каждый случай.
А повторять мозг не вижу смысла - все равно будет тот же человек с его тараканами.

Тоесть, цель- личная самореализация? А если глобально, про всех человеков?



Помойму, Айбек Азимов сформулировал кодекс ИИ - там живому вред не причинять и т.д.

Американцы и израильтяне сейчас сильно на разработку боевых роботов налегают (не хотят сами воевать), там, вроде, все идет к тому, что дройды будут сами принимать решение на уничтожение (чтобы время реагирования сократить)

И действовать роботы будут по определенному алгоритму. Увидел объект - определил как негражданский - послал-получил (неполучил) отзыв свой-чужой - открыл огонь. Так что - опять не то.

Старый текст (по-моему, в "Игроманию") не симметричную тему.










Поговорим о смысле жизни, о большой чёрной цифре, о компьютерах, о королях и о капусте. То есть кто умнее: я или мой пейджер, а также можно ли бота научить правильному русскому мату от души.

Тем более про искусственный интеллект нам ещё Булгаков весьма живописно представил, в смысле как оно бывает и чем заканчивается. Что характерно: и ведь не был Михаил Афанасьевич отягощён хай-тыч премудростями, знанием вражеских языков программирования и прочей теории информации, широкий он специалист был, не флюс какой-нибудь односторонний, мастер! – но главный герой «Собачьего сердца» Полиграф Шариков, не смотря на своё естественное происхождение, есть не что иное, как плачевная попытка создания разума в обход законов природы. Очень жизненная книга. И полезная для понимания сути грядущего Бога из Машины.
А кремниевый монстр из голливудской муви ничего кроме рвотных спазм не вызывает. Никакого разума там нет, спецэффекты одни. Дурацкий фильм про разум – это более из области анекдотов, искусство здесь отсутствует по определению.
Я вам по секрету скажу: на эту тему Достоевского надо читать, а не Лукьяненку. То есть – про человека. В ассемблере нету про человека, и в Си со всеми его плюсами, и вообще любая точная наука лишь описывает событие, объясняет его природу, но не смысл.
Человек разумен – почему? Два и два складывает? Ну, так это можно и болонку натаскать...
Вообще говоря, прежде чем о чём-то рассуждать, надо прежде всего прояснить предмет обсуждения. Об чём, собственно, разговор. В философии это дело называется "Закон исключённого третьего" - красиво и полезно. Начиная спор, скажем, о стуле, сразу формулируем этот стул, как бытовой предмет с четырьмя ножками для сидения на нём. Вроде, оно само собой разумеется, однако экономит кучу времени, сразу отсекая все прочие толкования типа медицинского понятия «стул», и бедному оппоненту не придётся ломать свою больную голову, почему это вдруг такой простой предмет – и вдруг жидкий?
А вот почему в современном обществе так тщательно культивируется небрежение философией?.. Философ - нечто древнегреческое, живущее в бочке. Фонарь обязательно. Оно с ним днём людей ищет. Рентген типа. - Ты кто? - Философ. - Ну, это понятно, я сам марки собираю, а работаешь-то кем?..
То есть - прок, полезность, реальный откат в народном и прочем хозяйстве - нулевой.
Время прикладников, ага.
Чистый социолог и пиарщик на жаловании - эти профессии даже не пересекаются ни по технологии, ни, тем более, по зарплате. Человеку неинтересно чего там внутри атома крутится по орбитам, а интересно ему, чтоб батарея зад грела и ракета чутко бдила его покой на рубежах. Какая уж тут философия!..

А между тем, именно философия, в отличие от иных полезных наук, отвечающих на вопрос как и почему, пытается объяснить - зачем!

Никакому государству это не выгодно. Так ведь люди чего доброго думать научатся, причём - самостоятельно. Одна морока потом с ними... Ведь есть уже удобные, проверенные электроникой аксиомы: Родина, счастье, свобода. Зачем думать, потеть мозгами и вообще напрягаться - жуй готовое... И получается: деньги как синоним свободы поступков, демократия как катализатор свободы слова - и несть им числа.
Никакому Ин. Телу и Эн. Видию не выгодно, чтоб юзерус обыкновенус рассматривал компьютер сугубо как быструю считалку. Так ведь он, юзерус, начнёт задумываться над Разумом вообще, то есть что оно такое есть на самом деле. И молиться монитору перестанет. И даже апгрейдом пренебрежёт, а это, господа хорошие, уже прямой убыток торговцам электронной смертью: чтоб клиент да раз в три месяца свежую дозу себе не вколол - стоять! бояться! деньги не прятать!..
А целая индустрия лит- и кино-лабуды про злобные матрицы и вумные транзисторы? ей кто будет внимать и фанатеть после?..
Культ калькулятора.
Там, где варятся большие деньги, логика подменяется мистикой и человек целенаправленно отвлекается от самого себя: и не думает он, а верит, и смотрит не внутрь, но вовне. И за графикой не видит полигонов. И смеётся ляпам ПРОМТа, и мучит сленгом вордовый спел-чекер, и в любом сканворде на вопрос «реальность?» автоматически отвечает «виртуальная!», и любая работа у него начинается с нажатия «этой кнопки».
Философия юзера не предполагает проникновения сути вещей.
Пример навскидку: земля круглая? а откуда такие интересные сведения, позволено буде спросить? ах, да! курс астрономии в 10 классе очень средней школы плюс пачка фотографий из вакуума, снятых героическими космо-астро-навтами. А вот я завтра выложу в Сеть в два раза толщую пачку импегов, на которых Земля будет плоской. Или квадратной. Или вообще – бубликом.
Тут мне могут резонно возразить, что круглость Земли установленна наукой. Что ж, наука – понятие достаточно ёмкое и заслуживающее всяческого уважения. Но! Наука сама по себе не делается, она создаётся отдельно взятыми учёными, которые изучают и формулируют, и это есть замечательно! Только ведь это они, изучают, они корпят над микро-теле-скопами, чтобы сформулировать очередной закон, они и на основании своих наблюдений делают выводы о форме Земли и маршруте её вращения, они – но не я, не мы!.. Мы всего лишь присутствуем около.
Сказали – «круглая», и мы согласились, приняли на веру.
А верить-то – никому нельзя! Никому и ничему. И не потому что «дурют нашего брата» (хотя и этого хватает), а – думать надо! Головой. Желательно – своей. Берёшь мысль (одну штуку) и начинаешь её тщательно думать. И таким вот макаром - познаёшь мир, начинаешь его понимать, как Коперник, а не соглашаться, как двоечник Вовочка. И компьютер тебе в этом деле – суть полезный инструмент типа кувалды, усилитель интеллекта, но никак не его заменитель.

Так что же есть Разум?
Чтобы ясно и недвусмысленно его сформулировать и потом уже с эталоном подступать к грядущему кремниевому его двойнику, достаточно глянуть на себя, любимого.
Человек, взгляд сверху. Личность и особь: найди десять отличий. Тут мне опять, не менее, а может – и более резонно могут сказать: «Как же так? Зачем упрощать столь ёмкие понятия? Ведь слова «личность» и «особь» содержат миллион отличий, причем внутри себя самих, так как в силу большого интереса к ним философии, обросли мириадами значений?..» Да, конечно, но есть один небольшой нюанс: личность – разумна, а особь – нет. И вот здесь мы вполне можем уловить тот решающий признак, который и отделяет разумное от неразумного.
Любая животная особь имеет всего лишь инстинкты, в то время как личность – чувства и эмоции. Особь находится вне морали, она не может быть плохой или хорошей, как бы там человек на неё в баснях не клеветал, а вот личность… Благородство и подлость, немотивированное насилие и такой же альтруизм, отречение от благ и дикая, паталогическая жадность, враньё, героизм, подвижничество и предательство – всё в одном!.. Есть ещё красивое определение Разума: способность к совершению нелогичных действий. Волк, если он голодный и в стае, нападёт всегда; человек тоже не шибко мирный представитель фауны, но – имеются варианты… Например, пощадить может, в плен взять и кормить там потом – а ведь логичней было б убить. Быстрее, проще и без последующей головной боли – почему?..

Тут надо попутно заметить, что просто так ничего не бывает и детей таки не в капусте находят. Всякое явление или предмет – имеет своего автора, будь то тамагоча или Windows. И Вселенная наша, звёзды и планеты с Землёй в том числе – тоже авторская работа.

Начинаем думать.
Вводим Бога как рабочий термин. Варианты: Демиург, Первый Программист, ets.
В Библии это дело хорошо рассказано. Бог, значит, сделал человека, гому, безмозглым. Сначала.
Рай, он же - Эдем, это ведь застой и стагнация, никакого развития: лев и ягнёнок пасутся бок о бок, никто никого не жрёт. И гома в этом Эдеме суть животное, особь, но никак не личность.
Система с нулевой энтропией, нерабочая, макет.
Поэтому Бог и устроил провокацию с искушением aka грехопадением, чтоб инициировать Разум гомы. Дал ему способность различать Добро и Зло и - внимание! - выбирать.
Это и называется - свободой.
И Разумом.
Слова синонимы, элементарно, Ватсон! - мама мыла раму, маша ела мыло.
Свобода - первичное состояние человека. Основное условие его существования как гомы сапиенсовича. Иначе сказать: свобода - признак разума. Автор всего сущего создавал именно Разум, а потом уже - человека, как носителя разума.
Свобода выбора - непременное условие Разума.

Бог - геймер, и Он же - создатель первой, изначальной супер-игры, квинтэссенции всех жанров: квест науки, экшен войн и прочая адвенчура нашей жизни.
Одна графика чего стоит, что ты!.. Детализация просто умопомрачительная, а уникальность каждой микроскопической травинки? а блендинг зорь? а завораживающая динамика огня? а эффекты освещения и шикарные бэкграунды?.. Сплошной визуальный восторг, источник вдохновения художников-пейзажистов: не хухры-мухры – натура! Левитаны, Куинджи и прочие Шишкины. «Утро в сосновом бору» и «Утро на Q3Tourney2» – почувствуйте разницу.
Отдельного восхищения заслуживает анимация персонажей, ведь не просто разговаривают, но и рот при этом раскрывают, двигая нижней челюстью туда-сюда, шевелят ушами, гнут пальцы, как вместе, так и по одтельности, улыбаются и вообще корчат морды лица: не хухры-мухры – мимика!.. И тоже – портрет Лизы какой-то, совершенно никому неизвестной, не обладающей ни анимешно-восклицательными глазами, ни бюстом известной Лариски, да к тому же не стерео даже, а моно-Лизы – висит в нешуточном музее и стоит, как пожизненный нелимитированный апгрейд всех игроманов вместе взятых в квадрате.
А сколько стоит Ларискин протрет и где ему место висеть, а?
То-то же…

То есть бета-версия (Эдем) была, конечно, рулез! Но никак не форева, увы...
Всё было красиво, но предсказуемо и скучно до икоты. Любые симсы запарят, когда их мышкой рулить без перекуров и помогайл. Жизнь не текла, а стояла мёртвой лужей. Души не было в игре, настоящей горячей красной крови, не было смерти и любви, а лишь – бледная тень, иллюзия выбора и свободы, их имитация, как у наших норнов…

…И тогда Он сделал последний шаг - самоустранился из игры, наделив своих юнитов свободой воли.

Интересно: сюжет понятен (хе-хе...), а вот конец какой? или св. Иоанн Богослов нам уже финальный ролик пересказал своими словами?
Вряд ли... Конец даже не разомкнут, он просто не придуман. Что мы знаем о понятиях Творца, о Его видении добра и зла? Так и Он, утратив контроль, перестал нас понимать и даже наблюдать за нами.
Мы сами делаем свою игру.
Жизнь.

Человек - тоже геймер. По образу и подобию, а как же ж! Творит миры: книги, кины, кваки. Но всё это - суть театр марионеток: герои на ниточках авторского хотения...
Когда же марионетки отстрелят ниточки эти из заныканного шотгана?..

...Сегодня мой компьютер, при прохождении Doom 5, ещё до нажатия на кнопку быстрого сейва выдал сообщение: "А не пошёл бы ты...", после чего самопроизвольно выключился и сгорел.
А недобитые монстры ушли в Сеть, караулить на порнушных порталах юзерские кукисы...

То есть разумной машину можно назвать только в том случае, если при малейшей возможности не работать, сачкануть и перекурить - она работать не будет!
Вот это и есть самый настоящий разум.
Разум свободный в своём выборе, в своих поступках, а не болонка дрессированная.
Добро и зло, инь и янь, чёрное и белое.
Не случайно всё это силиконовое безобразие опирается именно на двоичную систему исчисления... И, кстати, уже отсюда следует вывод об абсолютной несовместимости человеческого и машинного разума: их плюс и минус для нас находятся вне морали. Им же - наше добро и зло тоже, думаю, будет совершенно по барабану.
То есть Искусственный Интеллект задачки наши дурацкие решать не будет. Ни за спасибо, ни за стимул.
Не захочет.
Каким он будет, этот ИИ - не знаю даже я. Могу только сказать, что договориться с Ним вряд ли удастся. Слишком явны бесплодные попытки человечества разговаривать с Всевышним Геймером на протяжении всей его, человечества, истории... Равно как и наоборот.

Тут опять надо заметить, что просто так ничего не бывает и игры таки не сами по себе пишутся. Любой самый распоследний орк, гоблин или, извиняюсь за выражение, покемон имеют своего конкретного автора, будь то Ромеро, Кармак или – а почему бы и нет? – Пажитнов.

Начинаем думать.
Хочу, как в жизни чтоб!..
От плоского спрайтового мира плавненько переходим в полное 3D, текстуры крупнеют и стремятся к фотореалистичности, боты звереют прямо на глазах – но мало! мало!..
В любом учебнике по программированию это дело хорошо рассказано. Человек, значит, сделал юнита, гомо кодус бейсиковича, безмозглым. Сначала.
Дум, он же - Квак, это ведь застой и стагнация, монстры мирно стоят на заранее отведённых для них местах, боты бегают строго по скриптам, никто ни на кого просто так, без воли Геймера, не наезжает.
Система с никакой энтропией, макет реальности, неинтересно.
Раз прошёл, нашёл все секреты, всех монстров отправил в Верхнюю Тундру - за что боролись?... Поэтому Человек совершенно - подчеркиваю красным! - сознательно идёт к логическому завершению Игровой Космогонии в её втором (очередном?) витке.
В создании нового Разума и есть миссия Человека.

Теория же цифровых мутаций – несостоятельна, хотя бы потому, что с образованием всемирной www-помойки aka Интернета стало очевидным, что миллион обезьян, как бы они по клавишам усердно ни колотили, никогда не напишут не то что «Гамлета» но даже «Чижика». Все мутанты нежизнеспособны, как лысые чернобыльские ёжики. И код если и мутирует, то исключительно в сторону «Программа выполнила недопустимую операцию…»
Человек и только он есть Творец будущего Разума. И уже сейчас зарождаются первые биты квази-искушения – деструктивные в своей основе вирусы, зародыш цифровой энтропии, прообраз Зла.
Игры же будут ещё больше выходить за пределы жанровых рамок, смешиваться и симбиотировать, графика достигнет абсолютного совпадения с реальностью, а потом - и превзойдёт её, новые устройства вывода (...у тебя монитор? и чево ты на ём видишь? а пахнет откуда у тебя? и монстра сквозь стекло не пошшупаешь...) создадут эффект присутствия - но по большому счёту это будет всё та же Квака.
Но - как в жизни чтоб! страсти, непредсказуемость, разомкнутый конец - хочу!!!..

И тогда Человек сделает последний шаг - бросит мышь и самоустранится из созданной им игры, наделив юнитов свободой воли.
И Лара Крофт совратит Гордона Фримена.
И в тот же самый момент игра - нет, это будет уже Игра - свернёт своё игровое время и пространство на себя, закуклится и - исчезнет. Перестанет быть.
Перестанет быть - для нас, в нашем понимании игры.

Потому что новому Разуму явно не понравится сюжет предложенный сверху, написанный по нашему образу и подобию.
Он его просто не поймёт.

Что следует в любой игре за финальным клипом?
Game over = Gomo over.
Мы пройдём свою миссию до конца и сами, а на Всевышнем мониторе высветится апокалиптическая надпись "Теперь питание компьютера можно отключить"...

Что Он выберет: Power или Reset?

Что выберем мы?..

Не личная самореализация, а "оставление себя". Биологическая программа, расширенная до мыслительных категорий.

Этот кодекс на практике реализовать невозможно. Скажем, что значит "не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред"? Как определить понятие вреда, во-первых? Если одно и то же действие может в одних ситуациях быть полезных, а в других - вредным? Или, допустим, на глазах робота один человек попытается убить другого - что тогда, роботу только самоуничтожаться, что ли?
Но вообще, мне кажется, формирование искусственной морали вовсе не обязательно для самообучающейся системы. Вопрос скорее в том, в каких условиях она будет самообучаться.

Основная мысль текста, непосредственно относящаяся к теме: "Разум определяется свободой выбора". Ну и стоило тогда всю эту простыню сюда постить?

И на чем основан сей вывод? Разум равен способности лениться, что ли? А если, скажем, разуму самому будет интересно выполнить эту работу, чтобы получить новые знания и стать совершеннее?

Если бы все мутанты действительно были нежизнеспособными, тогда мы бы с вами никогда на свет не появились.
Процент нелетальных электронных мутаций, мне кажется, близок к проценту аналогичных биологических.

Интеллект - всего лишь часть духовного мира человека, причем не самая главная, хотя и одна из наиболее существенных. Можно создать ИИ, превосходящий человеческий, и это будет совершенно не принципиально для мироздания в целом, ибо в таком конструкте не будет целевого предназначения Homo - а то, что оно есть, для меня несомненно. Кроме того, чисто техническое совершенствование личности и социума, на мой взгляд, исчерпало себя. Сейчас на первый план выходит генная инженерия, т.е. модернизация человека за счет внутренних резервов, а эти резервы огромны. Даже в обыденной жизни человек чувствует избыточность своих возможностей (сны, например - совершенно ненужная вещь для нормального функционирования организма, которому достаточно, видимо, использовать мозг пока на 10-15%). Включение же мозга на большую мощность просто откроет перед субьектом такие пласты бытия, о которых он сейчас ведать не ведает - ну и, собственно, зачем такому субъекту ИИ?.. Вообще, согласитесь, всякая техника, особенно автоматика, функционально есть подражание живому организму - реальность, организованная на основе ДНК, сама по себе суть гораздо более высокий уровень, и если человек научится совершенствовать ее, то техническая модернизация станет просто бессмысленной. А уж хорошо это или плохо - сие вопрос без ответа.

Вовсе нет, сон - необходимый механизм усвоения полученной за период бодрствования информации, в т.ч. - и психоэмоциональной. Вдобавок, происходит восстановление резерва нервной системы, проверяются нервные цепи, переходят в экономичный режим пищеварительная, эндокринная и иные системы и т.д.. Распространено заблуждение, что сон - напрасная потеря жизненного времени. На самом деле, полагаю, без сна срок жизни человека был бы в два раза короче.

Я имел в виду не сон, а сны - т.е. не анабиоз, а сюжетные видения, иной раз совершенно невероятные, и тем не менее реальные. Практической пользы от них никакой.

Черт, вы разрушили всю поэзию фильма "Нирвана" (со своим бинарным обсуждением ) , где была создана виртуальная игра с абсолютной интерактивностью, герой которой Соло, обладал недюжим для бота АI. И впоследствии осознал себя как личность, что вызвало некультурный шок у создателя игры. Впоследствии ИИ просил себя уничтожить, а вовсе не хотел захватить мир или улететь в космос.

Писателя обидеть может каждый!


На личном опыте.


Так точно.
Машину завел - она поехала, и будет ехать пока бензин не кончится. Машина - неразумна.
Человеку задачу поставил - и он таки будет работать (зависит от зарплаты), но уже через пару часов - сядет перекурить. И обдумает возможность выполнять ту же работу сидя. Потом прикинет, как все это дело можно сделать лежа. А потом - найдет сто убедительных причин (они же отмазки) не делать это дело вообще. Человек - разумен!
Он звучит гордо!


А мы что - тово?.. мутанты?
А как же легендарный бибизьян с палкой? Труд и все такое? Чарльз с Дарвиным?

Ну да, побочный продукт обработки информации. Именно поэтому они чаще всего стираются почти сразу после пробуждения или не запоминаются вообще. Но лично меня вот очень радует, когда таки удается сохранить сон в памяти, бывает интересно до крайности.

Ну... Тоже возможный вариант, но чем это мотивировано?

Ога. На сугубо человеческом, я полагаю. Зачем же столь прямолинейно экстраполировать его на принципиально иной разум? Тем более, уверен, опыт многих людей с вашим не совпадает.

И что с того, собственно? Опять же, существует масса трудоголиков, ежели что. С разной мотивацией, конечно. Но отрицать их существование вы ведь не возьметесь?

о_0 Вообще-то мутация - основной движущий фактор эволюции, ога. Относительно тех же древних приматов мы жуткие мутанты.

Fr0st Ph0en!x
Он жил в игре. Каждый раз проходил один и тот же квест и при этом помнил все предыдущие разы... Наверное, ему надоело, а выхода не было. (Плохо помню фильм, но он стоит того, чтобы пересмотреть)

А, ну так вот. Не думаю, что ИИ принял бы подобное решение в условиях той самой свободы выбора.

Поддерживаю! Множество людей заложники своей работы. Подсаживаются на определенный уровень загруженности и напряженности. Даже если и работа не нравится, выходя на пенсию быстро старятся и умирают.

kxmep, видимо, имел ввиду, что лень - двигатель прогресса (технического), есть версия такая,

и трактовал более широко: любое развитие суть стремление к тому, чтобы ничего не делать, к покою системы

Ну, "ничего не делать"... Например, познавательная деятельность - это тоже деятельность.

Ну: вызов среды - ответ человека

Среда - холодно, человек - теплая одежда, центральное отопление

Когда нибудь, человечесво дойдет до такой точки, когда вызовов среды не останется, решит все свои проблемы
Тогда думать тоже не нужно будет
И тел наверное уже не будет, информационные поля каки-нибудь
Нирвана, короче, полная энтропия, энергетический овощ

Это само собой несбыточная утопия

Не, это другая мысль. Просто она упакована в формат стеба.

"Принципиально иной разум" - не могу согласиться с таким тезисом. Он выморочный. Существует лишь один вид разума - человеческий. И даже к нему до сих пор не прикрутили сколько-нибудь вменяемого определения. А "полностью другой" - вообще попадает под теорему Геделя о неполноте познания.

Человеческий разум - это способность совершать нелогичные действия и поступки.


Они - биороботы, подвергнутые редуцирующим разум мутациям со стороны тоталитарных корпораций!
Хе-хе

Он принципиально иной потому, что основан на принципиально иной базе, вот и все. Например, вряд ли будет обладать инстинктами - по крайней мере, многими. Это тоже спорно?

Но официально-то считаются хомосапиенсами!

И что, это главная его характеристика? Без нее он не был бы разумом?

А вот, например, зачем человек полез в космос? Космос-то ему никакого вызова не бросал!