Интересная тема. Настолько интересная, что я даже рискну заняться некропостингом.
Цитата(Fr0st Ph0en!x @ 15.6.2011, 5:31)

В ходе разговора с Кукольником стало интересно, а что другие форумчане думают по поводу искусственного интеллекта, т.е. потенциальной возможности его создания, целей и задач его разработки, его "психики" и поведения в неоднозначных ситуациях?
Полагаю, создание искусственного интеллекта вполне реально. Уж если возможен естественный разум, то возможен и искусственный.
Думаю, любой естественный разум на определённом этапе развития становится способен создать разум искусственный. Главное условие тут, вероятно, знать, что же создаёшь. А вот с этим у нас большие сложности. Сегодня наука имеет только смутные представления о том, что такое разум. Сейчас он — пойди туда, не знаю куда, найди то, не знаю что. Мы не знаем, что строим. Ориентируемся не на сущность, а на явления (даже отделить их друг от друга пока не в состоянии).
Оттого и реальные перспективы создания искусственного интеллекта пока что крайне туманны. Безусловно, есть значимые успехи, однако коррелируют они практически исключительно с прогрессом в области вычислительной техники — с тем, что понятно. Но связывать искусственный разум только с железом — сложно придумать большую глупость.
Очевидно, что в таких условиях искусственный интеллект может получиться только случайно, и очень вероятно, на его создание уйдёт примерно столько же времени (или сопоставимо), сколько потратила природа на создание интеллекта естественного. Впрочем, возможно, что-то получится быстрее с использованием биологического моделирования.
Насколько я знаю, наиболее впечатляющие успехи в конструировании искусственного интеллекта достигнуты как раз с использованием данного подхода. Если точнее, то наибольшие успехи показывают смешанные модели, но всё-таки с преобладанием биологического подхода. Рано или поздно даже без понимания сути он позволит создать подобие естественного разума. Вот только тот будет по всем характеристикам уступать оригиналу. А если когда-то будет возможно создать копию, то она всего лишь повторит оригинал.
Но это я уже в сторону ухожу.
Цели будут (и есть) исключительно академические, по крайней мере, поначалу. Однако как только удастся добиться успеха, то есть создать работающий образец, они в немалой степени станут утилитарными. Ну как всегда.
Об его «психике» и поведении в неоднозначных ситуациях сейчас сказать нельзя ничего. Они могут быть любыми. Зависит от того, как именно будет реализован искусственный интеллект: какими средствами, в какой среде и т. д. и т. п.
Цитата(Fr0st Ph0en!x @ 15.6.2011, 5:31)

И, собственно, на кой чортъ искусственному интеллекту убивать всех человеков, если они не представляют прямой угрозы его существованию?
Абсолютно незачем. Кстати сказать, любопытный психологический феномен. Если правильно понимаю, это нормальный человеческий парохиализм, но спроецированный на искусственный интеллект. То есть когнитивное искажение.
Цитата(Fr0st Ph0en!x @ 15.6.2011, 5:31)

И, конечно, самый главный вопрос - критерии разумности.
Смешно сказать, но их нет. Точнее — у каждого свои. Давайте и мы свои выработаем.
Я предлагаю для начала не различать интеллект и разум (философы различают), а потом выработать определение. Оттолкнуться можно, скажем, от
интеллекта из википедии:
Интеллект — качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.
Или от
разума в словаре Ушакова:
Разум — высшая ступень познавательной деятельности человека, способность логически мыслить, постигая смысл и связь явлений, уяснять законы развития мира, общества и сознательно находить целесообразные способы их преобразования.
Только уберём упоминания человека. И с психикой, наверное, придётся что-то сделать. Не обязательно убирать, можно оставить, но тогда надо и её определить.
Должен заметить, мне эти определения не очень нравятся. Может, предложите лучше?
Цитата(Fr0st Ph0en!x @ 15.6.2011, 10:56)

Вотъ. И здесь я вижу принципиальный момент - чем творчество отличается от компиляции?
Так компиляция — это уже какое-никакое, но творчество. Полагаю, здесь должен быть другой критерий — осмысленность компиляции. К сожалению, на данном этапе развития науки это требование формализовать не представляется возможным.
Цитата(Fr0st Ph0en!x @ 19.6.2011, 2:25)

Оставить что-то после себя, как и у всех живых существ.

Только у человека это не ограничивается передачей генетического материала.
Человек в этом плане ничем не отличается от животных, и у него только передача генов. Всё остальное (посадить сына, вырастить дом, построить дерево и т. д.) — это, так сказать, побочный эффект нашей эволюционной адаптации.
Цитата(Fr0st Ph0en!x @ 20.6.2011, 21:03)

Т.к. многие чувства - продукт сознания, а не тела.
Какие?
Цитата(Fr0st Ph0en!x @ 6.3.2013, 16:40)

Более того, говорил о возможном способе получения ИИ в ходе конкуренции саморазвивающихся систем.

Я где-то слышал краем уха, что кто-то когда-то нечто подобное уже пробовал.
Для получения полноценного искусственного интеллекта данный способ не годится. Дело в том, что даже на ускоренную эволюцию требуется значительное время, плюс очень сильно сказывается ограничение в виде компьютера, на котором процесс протекает (это можно понимать как наличие некоторых проблем с вариативностью давления среды).
Результаты получались любопытные: практически идеально приспособленная для существования в заданной среде программа, но вот разум, к сожалению, был ей тупо не нужен. По факту моделировалась эволюция простейших что ли. А дальше эксперименты не пошли.
Цитата(Fr0st Ph0en!x @ 6.3.2013, 16:40)

Я говорил, в большей степени, о естественном коллективном разуме, описываемом в фантастике
Кстати, любопытный факт: человеческий разум в некотором смысле коллективный и без всякой фантастики. И я говорю не о второй сигнальной системе, не о коммуникации посредством речи. Я имею в виду зеркальные нейроны — для них ни речь, ни даже самосознание не нужны.
Цитата(Эээх @ 15.6.2011, 9:23)

Компьютеру, в котором действует простая бинарная логика, такое не под силу.
Вы уверены, что не путаете двоичный способ хранения информации с бинарной логикой? Это ведь не догма: ни способ хранения информации (в железе можно реализовать и какой-нибудь другой, но бинарный проще всего), ни используемая для вычислений логика (например, в различных системах искусственного интеллекта часто используется нечёткая).
Цитата(Эээх @ 18.6.2011, 10:04)

А самое главное - "машины" не могут поставить перед собой цель и сформулировать задачу.
В определённых пределах вполне могут. Есть для этого алгоритмы.
Цитата(Эээх @ 20.6.2011, 22:31)

Уточню: как определить, что добро - это хорошо, а зло - это плохо?
Да хотя бы так же, как это делает человек.
Цитата(Каркун @ 15.6.2011, 10:23)

Я лично думаю, что ИИ - это дело уже ближайшего будущего и судя по тому как стремительно развивается компьютерная техника (те же процессоры) появится еще до окончания этого века - возможно даже уже так к годам 30-40-м.
Крайне сомнительно. Скорей всего, ничего не появится, пока в сфере вычислительной техники не произойдёт фазовый переход. А его ничто не предвещает.
Цитата(Каркун @ 15.6.2011, 10:23)

Собственно, технически задача реализуема и теоретически не представляет большой сложности. Речь идет о копировании человеческого мозга новыми средствами.
Это и на данный момент нереально (а уж на тот, когда было написано ваше сообщение, тем более). Ни у кого нет требуемых мощностей. Даже если собрать в кучу все суперкомпьютеры на свете, этого не хватит. В среднем в мозгу человека 86 миллиардов нейронов и что-то около квадриллиона связей между ними. Представьте хотя бы объём оперативной памяти, необходимый для хранения этого дела. Я даже не говорю, что оно ещё и функционировать должно параллельно и асинхронно. Так что решить данную задачу сегодня совершенно невозможно.
Вон ребята из Blue Brain Project в конце 2006 года смоделировали на суперкомпьютере Blue Gene всего одну колонку неокортекса крысы. Только одну колонку. 10000 нейронов. Было задействовано 8192 процессора. Причём оно работало даже не в реальном времени. Правда, в прошлом году им вроде бы удалось связать в нейросеть уже 100 колонок (т. е. 1 миллион нейронов), и они надеются скоро запустить модель целого мозга и аж в реальном времени. Ага. Оптимисты. Чтоб вы поняли, откуда мой скепсис: в мозгу крысы порядка 200 миллионов нейронов. И это только нейроны. Без учёта связей.
То есть мы даже коннектом крысы пока не можем смоделировать, а вы на человеческий замахнулись.
Цитата(kxmep @ 20.6.2011, 12:03)

"Принципиально иной разум" - не могу согласиться с таким тезисом. Он выморочный. Существует лишь один вид разума - человеческий.
Это либо ксенофобия, либо глупость, либо и то и другое сразу.
Цитата(kxmep @ 20.6.2011, 14:55)

Я тут подумал, посоветовался с окрестными разумными хомами: разум может быть только человеческий.
Ну, в реальности-то это не так.
Цитата(kxmep @ 21.6.2011, 17:20)

Разговор о разуме неизбежно расширяется до разговора о сознании (что мы и имеем в настоящей теме).
А если расширить разговор о сознании - неизбежно всплывет термин "душа".
Душа — лишняя сущность. Сознание можно прекрасно объяснить и без неё.
Цитата(maika @ 20.6.2011, 23:09)

Тем более, что это евгеника.
Это не евгеника. Евгеника — это селекция, то есть искусственный отбор и гибридизация, а клонирование — это копирование и больше ничего.
Цитата(maika @ 20.6.2011, 23:09)

С одной стороны, клонировать человека запрещено. Морально-этические проблемы и т.д.
Да, ох уж эти надуманные проблемы.
Цитата(maika @ 20.6.2011, 23:09)

Но только не мозги! Человек разумный - в восторге от своего ума, и право считаться единственным разумом во Вселенной никому не отдаст.

Так он ведь даже на планете Земля не единственный.
Цитата(Серый Манул @ 20.2.2013, 19:58)

Существует эмпирический закон Мура, который гласит: «количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца». <…> Тем не менее, закон Мура имеет свой предел, вызванный атомарной природой вещества и ограничением скорости света.
Это заблуждение. Вообще-то закон Мура не о физике, а об экономике. Вот здесь немного подробней:
http://habrahabr.ru/company/intel/blog/237607/.
Цитата(Серый Манул @ 20.2.2013, 19:58)

Имеет ли AI точно такие же права как человек?
Нет, конечно. Поначалу уж точно.
Цитата(Серый Манул @ 20.2.2013, 19:58)

Является ли он аналоговой формой жизни?
Что такое аналоговая форма жизни?
Цитата(Серый Манул @ 20.2.2013, 19:58)

Или он есть всего лишь симуляция разума?
Если вы не видите отличий от настоящего разума, то вам всё равно, симуляция это или нет. Относиться будете как к настоящему, лишь бы был похож на человеческий. Потому что психологический перенос.
Цитата(Серый Манул @ 20.2.2013, 19:58)

Смотрели мультфильмы или фильмы про трансформеров? Они машины или живые организмы? Каждый может считать по-своему.
Тут нет пространства, чтобы «считать по-своему». Они не организмы, они выдуманные живые механизмы и электронные компоненты.
Цитата(Серый Манул @ 20.2.2013, 19:58)

Некоторые учёные на полном серьёзе проверяют реальность мира. Кто знает, быдь может они докажут, что мы все живём в матрице.
Уже проверили. Вселенная вполне реальна.
Цитата(Наталья Неженцева @ 20.2.2013, 22:33)

Никакого прогресса в этом направлении нет, и совершенствование железа или софта тут ничем не помогает.
Ошибаетесь, прогресс есть.
Цитата(Наталья Неженцева @ 20.2.2013, 22:33)

жизнь даже мухи - принципиально иное и неизмеримо более сложное явление, чем работа любого суперкомпьютера
O'Керрол с Бринквортом с вами не согласятся.
Цитата(Наталья Неженцева @ 20.2.2013, 22:33)

Рекомендую почитать книжки Дж. Сёрля.
Он не может ошибаться?
Цитата(Наталья Неженцева @ 20.2.2013, 22:33)

полноценный ИИ в принципе невозможен. Что создано Богом, по определению ниже Бога, и повторить своё творение не может.
Чудесно.
Цитата(Наталья Неженцева @ 22.2.2013, 16:38)

Во-первых, этих "сотен миллионов лет эволюции" на самом деле никто не видел.
Изумительно. Собственно, чего-то такого и не хватало после упоминания вами доброго бородатого дедушки, сидящего на облаке.
Цитата(Seele @ 27.2.2013, 12:34)

В психологии существует
Напрасно вы о психологии вспомнили, потому что психология — это, в общем случае, блуждание в потёмках. Она работает с разумом по принципу чёрного ящика, не видя и не понимая причин явлений, с которыми имеет дело.
Цитата(Айрис @ 6.3.2013, 5:41)

Любая программа является алгоритмом или набором алгоритмов, а разум - нет. За доказательствами, опять же, к Пенроузу.
Ну, пока что Пенроуз неправ. То в разуме, что у человечества хватает мозгов понять, так или иначе, алгоритмизируется. А что человечество не понимает сегодня, поймёт завтра, или через год, или через десять лет, или через сто.
Цитата(Айрис @ 6.3.2013, 8:53)

И как следствие, возникает производная от этой ошибки - вера в возможность аппроксимации человеческого разума машинными алгоритмами.
Не так уж они и ошибаются.
Цитата(Айрис @ 6.3.2013, 8:53)

Но программисты и вообще айтишники при этом останутся не при делах, в лучшем случае - их роль в создании будет сугубо второстепенна.
Так ведь как бы и сейчас искусственным интеллектом занимаются-то не совсем программисты и айтишники. То есть они, конечно, программисты и айтишники, но не в первую голову.
Цитата(al1618 @ 6.3.2013, 14:24)

Возвращаясь к теме - есть два момента сдерживающих развитие ИИ.
Отнюдь. Момент, сдерживающий развитие ИИ, всего один — категорическое непонимание, что же такое есть разум.
Цитата(al1618 @ 6.3.2013, 14:24)

Но вот странный момент - "железо" (условно) решает далеко не все. Почему-то все забывают о воспитании - человеческий детеныш воспитанный волком (или овцой, обезьяной) небует даже разумным.
Я бы сказал, чаще забывают о том, что человеческое «железо» не статично и до некоторого возраста склонно постоянно меняться. Соответственно, если ему не создать определённые условия, то многие структуры «железо» просто не реализует за ненадобностью, так и функционируя весь срок службы в минимальной конфигурации.