Если так вопрос ставить, то, опять же оглядываясь на историю, главным будет уж точно не интеллект. Главным будет то, что он другой. Чем именно он отличается - без разницы.
А второе - сколько их таких других будет.
Одного, если это не бог всемогущий, способный уничтожить хотя бы страну среднего размера, просто не заметят. Может отметят в анналах истории, может воспоют потомки, но для современников это пустое место, каким бы гением он не был.
Если их много, то будут резервации, касты, религиозные группы и т.п. Кто именно окажется в резервации так просто нельзя сказать, нужны дополнительные данные, а то что общество разделится - это уж точно. Элитарная власть, кстати, тоже относится к такому же разделению независимо от того на каких принципах она строится и чего проповедует.
Конечно, тут ещё следовало бы включить пятую колонну, которая обязательно будет и поддержит гнусных поработителей, но это уж больно глубоко копать придётся.

В детском саде, если появится кто то типа вот такого,123 его сразу отправят куда надо.
Просто, более мудрый, не будет мешать. И люди уже стали это понимать, не всегда вмешиваясь в жизнь каких то племён в джунглях Амазонки.

Еще в рамках размышлений на тематику безысходности.
Вселенная бесконечна. Это невообразимо колоссальное пространство, по сравнению с которым даже вся наша галактика - песчинка на пляже. Она существует миллиарды лет и будет существовать еще сотни миллиардов - если не сотни триллионов, и если она вообще когда-нибудь прекратит существование. Человеческая жизнь по сравнению с этим временем, да даже и по сравнению со временем существования только лишь нашей небольшой планетки на отшибе галактики - это даже не миллисекунды, это вообще ничто. Сказать, что мы в масштабах Вселенной лишь пыль - это ничего не сказать. Все мы, все человечество. Которое, к слову, вряд ли сможет хоть когда-нибудь освоить хотя бы значительную часть нашей же галактики. Напомню, что этих галактик во Вселенной примерно два миллиарда, и это, опять же, как минимум.
Ну и что же? Люди из-за осознания этого факта массово впали в депрессию и прекратили свою деятельность? Да ни в коем разе. Мало кто вообще всерьез задумывается о том, что его сверхценная жизнь даже для земной биологической эволюции не значит фактически ничего. Там сотни миллионов лет - а сколько может прожить человек? Какое максимальное количество потомков оставить, даже если очень стараться? А сколько видов уже вымерли бесследно - мы ведь можем только примерно подсчитать, исходя из того, что науке известна лишь небольшая часть вымерших. Человек как максимум может внести свой вклад в культуру - но сколько культур давным-давно обратились в прах? Не особенно при этом повлияв на остальные и оставив минимум следов.
Ну и что? Почему-то никто не считает нужным на основании этого факта прекратить бесплодные попытки плюнуть в вечность и смириться с тем, что его жизнь для Вселенной не сильно важнее, чем существование какого-нибудь атома водорода. Почему при обнаружении\создании интеллекта, во всем превосходящего человеческий (допустим, хоть это и крайне некорректная формулировка), что-то в этом плане должно принципиально измениться? Человечество в массе своей все равно не станет считать себя бесполезной пылью, у нас и специальные механизмы защиты психики предусмотрены для подобных случаев. Ими порождены, в частности, все религиозные верования.

Вы не умничайте, а скажите предметно в граммах, что делать человеку-Манулу?

Хехе. Тут необходимо разделять практическую сферу применения ИИ и психологический аспект. О психологическом аспекте я высказался, на мой взгляд, вполне подробно. И считаю, что это вообще такая себе проблема: как минимум восьмидесяти процентам населения будет абсолютно наплевать, что какой-то там комп умнее них. Ну умнее и умнее, подумаешь. Верующие скажут, что зато у него души нет, представители творческой сферы - что он не способен прочувствовать красоту заката (ну и прочее в этом духе) и мыслить художественными образами (даже если на самом деле и способен, но это типа не те образы и не оттуда идут, не личные), ученые только порадуются подспорью в лице этого самого ИИ на пути познания. Обывателей, как обычно, гораздо больше будет заботить, что написал очередной деятель в "Твиттере", когда выйдет новый айфон, можно ли в школе упоминать о геях и роботоложцах, с кем замутила третья нейроинкарнация Ольги Бузовой, какой скандал развернулся вокруг позабытого шоумена, вокруг чего пляшут в Богемской роще и правда ли американцы высаживались на Луне во второй половине двадцатого века, а не только в конце двадцать первого вместе с русскими.
Ну а что касается воздействия ИИ на экономику, то он вряд ли внедрится сразу и во все сферы человеческой деятельности, это почти невозможно. Так что в этом плане изменения будут плавными, и человечество к ним успеет привыкнуть. Куда более значительную проблему представляет повсеместная автоматизация, но и то в основном для низкоквалифицированных работников. Я вообще не очень понимаю демонизацию ИИ, модную в массовой культуре. На мой взгляд, ИИ - это скорее очень ценный помощник, например, для того же освоения космоса. Как и автоматизация труда, впрочем. Ясно, что тут есть целый ряд этических проблем, но они принципиально разрешимы.

"..Причем каждый закон в отдельности и все в целом, предполагают несколько уровней восприятия и применения. Мы уже говорили об этом, в зависимости от уровня развития цивилизаций, составляющих эту разумную Вселенную. Первые уровни восприятия, действительно носят характер запретов, как вот ваши 10 заповедей. А уровни складываются примерно так: 1-й уровень – нельзя, жесткое требование на уровне табу, без объяснения причин. 2-й уровень – нельзя, потому что… Требование достаточно жесткое, но, по возможности, объясняющие причину запрета. Это следственный уровень понимания процесса. 3-й уровень – нельзя, потому что, в виду того что… Это уже уровень не жесткого запрета, а осознания и принятия. 4-й уровень – не желательно, но можно изменить, если… Это уже уровень оператора собственной реальности. Здесь появляется алгоритм действия и возможность изменения событий. Что касается вашей цивилизации, современного уровня, к сожалению, большинство социума (порядка 70%) находятся на 1-м уровне осознания и принятия законов. Но отдельные индивидуумы, до 4-го, включительно. 5-й уровень – возможно, если… Это уровень Инженера или Архитектора. Возможность создания или изменения событий или явлений планетарного порядка. Внутрисистемное оперирование, материализация вещества в конечных объемах пространства. 6-й уровень – это уровень Демиурга. Это свободное оперирование массами материи и энергии, от планетарной системы до Галактики. Этот уровень является законотворческим началом. 7-ой уровень - уровень Абсолюта, ибо Абсолют, находясь в рамках законов им же созданных, эти законы соблюдает. Правда, на своем уровне.
http://www.x-intellect.org/wiki/index.php?...%D0%B8_20131031

Ну я с тревогой опасаюсь, что постепенно человек станет инфантильным придатком этих ценных помощников.
Как в Москве-Кассиопее: полное счастье и лимонад каждый день.
Собственно в современном смысле слово "обыватель-потребитель" и содержит этот риск.
И по поводу автоматизации... Ставки-то растут. Скоро профессия бухгалтера канет в лету, программирование тоже под натиском, набор персонала и т.д. Не сказать, что это низкоквалифицированный труд. Я не могу сейчас оценить скорость замены в точных цифрах, но вроде бы скорость замены живых человеков разными автоматизациями растет год от года.
И это при росте количества населения. Единственное спасение - сельское хозяйство и сфера услуг, особенно не в очень развитых странах. Там настолько низкие почасовые оплаты, что ни о какой автоматизации речи нет.

Ну космос вряд ли сможет осваиваться автоматически, почти без участия человека, например.

Почему не может?
Летит себе железяка за орбиту Плутона, картинки шлет на землю таким же железякам.
В ЦУПе ИИ заправляет, на сборочной линии - роботы бездуховные, в КБ - опять же шустрые ИИ кульманы пользуют. Благодать
Не, ну строительство космодрома мы отстоим иначе где распиливать-откатывать будем., Рогозин лично будет контролировать.
Остальных человеков вышлем на дальний восток, жень-шень растить на продажу китайцам.

Понятненько. То есть, ИИ ещё не появились, а вы уже готовы им присягнуть?

Я дам вам парабеллум, будем отстреливаться из гранатомета как Сара Коннор

Ну это-то нам не грозит в ближайшие сотни, а может и тысячи лет.
Я ведь не просто так допытывался у Манула что есть ИИ, интеллект и прочие жизненные проблемы, пока он марсиан не присовокупил. Все почему-то определяют ИИ (да и сам интеллект) как умение решать сложные задачи. Не будем углубляться в понятие "сложные", поскольку опять же никакого хотя бы сносного определения тут дать нельзя, но умение решать задачи это лишь одно из свойств интеллекта, а не он сам.
С таким же успехом можно оценивать интеллект можно оценивать крышей над головой: в пещере живёт - стало быть совсем тупой, под соломой - чуть поострее, под железной уже интеллектуал, ну а из пластиковых бутылок ну просто гений.
Интеллект это способность к познанию окружающей среды просто так, без цели, мотивации или потребности. В жизни мы это называем любопытством. Оно к нам вместе с жизнью приходит.
От нечего делать мы ковыряем в носу. Зачем? Нам станет веселее? Нет. Принесёт пользу? Нет.
Ребёнок хватает всё что попадёт на глаза. Зачем? Он голодный? Нет. Он разбирается в надуманном искусстве? Нет.
Какая-нибудь амёба усердно без передыху гребёт лапками. Куда? Пожрать? Откуда она может знать, что там жратвы больше, и вообще зачем ей это, если она только что нажралась?
Любопытство позволяет нам действовать без программы. Кто сейчас вспомнит про заложенные в нас генетические коды, мол это и есть программа. Это конечно программа, только крайне узко специализированная, предназначенная лишь для того, чтобы потомство походило на родителей, любопытства в генах нет. У вируса ген есть, а желания бегать по утрам нет.
Поэтому разговоры о коварных замыслах ИИ, об его интеллекте бессмысленны. Да он может захватить мир, но только если ему запрограммировать такую цель. У компа нет любопытства, он не может что-то делать, если ему не будет заданна конкретная цель.
Пример в качестве пояснения. Можно составить программу роботу измерить площадь комнаты с максимальной точностью. Можно заложить в него теорию измерений, как создавать измерительные устройства, как повышать точность. Робот будет мерять, чего-то там изобретать, и измерять всё точнее и точнее в миллиметрах, микронах, нанометрах и т.д. Но этому гению никогда не придёт в голову, пойти и померять соседнюю комнату, если мы только явно ему это не укажем.
Саморазвиваюшиеся программы точно также ограниченны. Можно заложить роботу не конкретную комнату, а понятие жилья в целом. Да он обмеряет все комнаты на Земле, но стадион измерять не пойдёт. А человек пойдёт!

Я так понимаю, вы говорите о свободе воли? (а то любопытство это еще более расплывчатое что-то).
Ну вроде бы "капитан очевидность", что это один из признаков настоящего ИИ. Какой смысл рассуждать об ограниченных ИИ, которые измеряют комнаты?

С точностью до наоборот. Как раз в наличии у нас любопытства никакой свободы воли нет - оно есть и всё.


Назовите мне хоть какой-то программный продукт или железяку, которая эту программу выполняет, которая имеет свободу воли.
Я сам программист и знаю как реализуется широкий выбор в программе, когда невозможно заранее определить входные параметры. Да, можно написать достаточно изощрённый набор условий обработки, но свободой воли там и не пахло.

Я говорю о том, что мы способны действовать без смысла, побуждений или пользы. Попробуйте придумать алгоритм "пойди туда - не знаю куда, принеси то - не знаю что", да ещё с условием что результат нафиг никому не нужен.

Вообще, конечно, есть такая проблема. Людям придется развиваться, а не только пользоваться благами труда роботов. Ну в идеале, само собой. На деле все вполне успешно может скатиться в квинтэссенцию гедонизма и потребительства - пока ресурсов будет хватать, разумеется.
Собственно говоря, сия тема в немалом количестве фантастических произведений освещалась, волнует она умы.

Как раз таки есть. Все высшие животные, если угодно, на уровне инстинктов запрограммированы тяготеть к восприятию нового опыта. Особенно в юном возрасте. Это и дофаминовой системой активно поощряется, почти на уровне потребления пищи и продолжения рода. Поскольку опыт полезен для выживания. Осторожность, впрочем, тоже заложена в инстинктах - чтобы на пути получения опыта не помереть случайно.

Это вряд ли)
Человек в нынешнем виде существует примерно 40 тыщ лет. От кроманьонцев мы отличаемся лишь тем, что потеряли некоторые адаптивные способности и усыханием мозгов. За это время мозг сократился примерно на 5-10%.
Появление роботов в широком применении только ускорит эти процессы, но никак не приведёт к развитию.

Любопытство присутствует у всех живых существ, по крайней мере у тех, которые могут двигаться или как-то шебуршиться в окружающем пространстве. Нет такого инстинкта, как познание мира, хотя бы с целью пожрать. Есть инстинкт пожрать, а вот для его реализации нужно проявить интеллект.

Ну, в культурном и интеллектуальном смысле. Понятно, что для эволюции время не измеряется тысячелетиями. Максимум, что можно в этом плане осуществить, - улучшать свой геном точечными модификациями.

Ну что вы, у всяких там микроорганизмов оно отсутствует напрочь, все их реакции - это примитивный ответ на изменение условий среды. У низших животных - примерно та же картина, даже среди позвоночных далеко не все проявляют тягу к изучению нового. В основном она свойственна птицам и млекопитающим, современным рептилиям - в куда меньшей степени.

Любопытство - это более эмоция. Так сказать, часть "эмоционального разума".
Но реализация акта любопытства невозможна без свободы воли.



Не назову конечно сейчас.
Но если эта наша функция (свобода воли) будет реализована каким-то образом в ИИ - этот ИИ по поведению будет очень близок к человеку.
Правда, тогда есть риск, что кофемолка перестанет работать.



Не согласный.
В любом нашем поступке\мысле есть позыв (мотив, спусковой крючок, входной сигнал и т.д.). Он может идти не от разума, а от эмоции, от подсознания, и чаще всего мы этот мотив не можем ясно выявить. Вроде бы это называется динамический хаос (снаружи кажется как хаотическое поведение, но внутри системы есть некие сигналы), как частный случай динамической системы.
Но если создать такой же искусственный аналог - то вот вам и ИИ со свободой воли и желанием левой пятки.
И это не обязательно через жесткий алгоритм - это крайне сложно, здесь я согласен.
Как вариант - некая система на основе динамического хаоса.

Да нет конечно, Fr0st Ph0en!x. Это бредни, что обожравшись и завалившись на диван, все тут же начнут расти культурно и интеллектуально. Поговорка "в здоровом теле - здоровый дух" имеет буквальный смысл. Конечно не в смысле проблем со здоровьем, ростом или весом, в том, что весь наш интеллект построен на физической деятельности. Упрощённо говоря, скульптор ваяет скульптуру не потому, что он "вырос" культурно, а потому, что некий неандерталец догадался расколоть камень, чтобы сделать скребок. Не сделай он скребок, не было бы и скульптора. Нафига людям развиваться, когда у них всё есть и им ничего не надо добиваться?

Ябадзин, вы подходите с писательской точки зрения. Такое тоже никто не запрещает, а при определённых условиях даже необходимо. Но если нужно решить вопрос с практической точки зрения, надо быть более прагматичным.


Компьютеру никто не запрещает приделать себе колёсики и отправится на Северный полюс. Но он этого не сделает, если мы ему не укажем, что он должен туда добраться.

Не с писательской, а с точки зрения физиологии\психики.
Любопытство - это не изначальное качество или категория, а всего лишь проявление\следствие как раз разума\интеллекта\инстинкта.
В данном случае вы подменяете суть разума\интелекта каким-то узким проявлением.
Таракан тоже любопытный. Это свойство почти всех животных видов. Один из аспектов модель поведения и адаптации животных в мире (а может найду где чего слопать?).



Он сам себе мешает. У него нет собственных желаний и мыслей.
Если бы у него мотивация (желание) туда добраться - он бы нашел способ реализации. Приделал бы колеса, запряг бы людей в тележку, и вперед залетные...

Да нет же. Первобытные люди были намного любопытнее нас хотя бы потому, что их любопытство было связано с риском для жизни, а для нас это не более чем развлечение. А уж с крысой человека и не сравнить, в смысле любопытства мы им и в подметки не годимся. И это не врождённое и не приобретённое качество, оно часть нас самих. Ну как у физического тела есть объём, он не вложен в это тело, это его неотъемлемое свойство.


Вот именно! Не в свободе воли, а в том, что нет желаний. Мотивация тут вторична. Мы не можем вложить в комп желания, мы можем лишь задать ему цель и способы достижения этой цели. Это как-то не очень укладывается в понятие желаний. Какой бы "умный" он не был, но достигнув цели он остановится, а человек нет... и крыса тоже)

Под ИИ я имел в виду личность, как и мы с вами, только превосходящую нас во всем. Я пока не рассматриваю возможность онной, специально попросил рассмотреть крайний вариант событий.

Пользуясь случаем, мне кто нибудь может помочь перепрограммировать код на ардуино?

Серый Манул, у вас талант задавать неразрешимые вопросы) Если ИИ личность, то какая разница ИИ он или марсианин?


Для себя бы поэкспериментировал, а для других могу лишь посоветовать поискать в интернете подходящий вариант. Ардуино сейчас очень широко применяется и есть куча программ на любые темы. А если у вас некое конкретное устройство, работающее на ардуино, то на сайте производителя наверняка есть готовые решения.

Ну дык помимо физиологических потребностей, потребности в безопасности и так далее есть и потребности более высокого уровня, которые человек начинает удовлетворять только тогда, когда удовлетворены потребности всех предыдущих уровней. Пирамида Маслова, все дела.

Ну если завалиться на диван, то, конечно, не будут. Нет, я понимаю, что в гипотетическом случае всевозможной автоматизации и повсеместных интеллектуальных систем вовсе не наступит утопическая идиллия, когда все заняты искусством, наукой и прочей самореализацией, да еще и космос параллельно осваивают. Но есть все предпосылки для того, чтобы какая-то часть человечества занялась именно этим, а не только просмотром "Дома-2" и ютуб-каналов.

Он не любопытный, он тупо ищет жрать, тепло и воду. Любопытны, к примеру, котята или щенки.

Но если это полноценный интеллект, то есть аналог существа с развитой ЦНС, но на электронном носителе, то он способен сам выработать какую-то мотивацию для определенной деятельности.

Нельзя разделять физиологию и психологию. Это одно целое и неделимое. Тут все писатели, все пишут про ахи-охи под Луной, но любовь по факту всего лишь проявление одного из базовых и примитивных инстинктов. Но как влияет на психологию!


А тут мы начинаем по второму кругу. Чтобы рассуждать на эту тему, необходимо сначала определить что такое интеллект.

Мало ли что... мало ли кого я превосхожу, как личность. Но почему-то властвовать ни над кем не получается. А иногда так приятно было бы кого-нибудь загнобить.
Гм-м-м... у меня родилась мысль. Кто-то же нами управляет, есть министры, есть капиталисты. Может это уже произошло? Нас захватил и эксплуатирует некий превосходящий нас разум. Даже не слышал о таком языке.

Это не язык, это платформа для управления промышленными устройствами, обработки сигналов датчиков и т.п. Имеет собственный язык программирования - модифицированный C++. Применяется от промышленных роботов до детских игрушек, например, "бесполезная коробка" (забавная штука https://www.youtube.com/watch?v=tGCW8xftdOA ).

Это качество, приобретенное в течении эволюции.
Это такая же нас часть самих, как чувство жалости и тому подобное.



Ну хорошо, не свободы воли. Желаний.
Почему вы как-то в лоб все с этим компом? В принципе, можно сделать эмулятор желаний, который будет перебирать заложенные варианты.
Но я не об этом. Кто мешает сделать систему, которая будет иметь желания? Если человек может - то и абстрактный ИИ в будущем тоже сможет иметь желания, мотивы и волю.

Да не приобретённое и уж тем более в процессе эволюции. Любопытство, как исследование окружающего мира, заложено изначально.


По существующим понятиям это будет обычный компьютер. Сколько бы мы не ставили на него программ для разных задач, он как бы умнее от этого не станет.


Потому что мы сталкиваемся с понятиями, которые не можем определить.


Другое дело, что возможно когда-то мы создадим нечто, чего не сможем отличить от себя самих, например, по мышлению и реакциям. Конечно, философы и фантасты того времени наломают целый лес копий, доказывая друг другу что же это такое, но по факту мы должны к этому относится просто как к человеку с определёнными качествами. Из чего это сделано и как работает уже не будет иметь никакого значения.

Зациклило вас на любопытстве (по мне так какое-нибудь переживание интереснее). Ну кем оно заложено?
Павлов, Вавилов и Дарвин плачет кровавыми эволюционными слезами...
Потому как это обычный наработанный алгоритм поиска\обследования территории. Хомяк проверяет клетку, медвель лезет в помойку, червяк ползет куда-то...



Да, верно.



А чего мы не можем определить-то? Какие понятия?




Э нет, батенька... Это будет банальный тест Тьюринга или китайская комната. Сделать машину, которую нельзя отличить от человека по реакциями не сложно уже сейчас (слово "мышление" отдельно следует рассматривать).




Вот здесь я прислоняюсь в некотором смысле к Манулу..
Ведь этот самый "настоящий" ИИ не обязательно должен будет копировать человка. Ну то есть наличие желаний не означает идентичности этих желаний нашим.
Мы хотим мира, макарон и твилечек, а этот ИИ захочет кроварых жертв, картофельных оладий и охотиться на снарка.
Невозможно будет относится к нему как человеку. Но он будет полноценной личностью при этом.
Как тебе такое, Илон Маск?

Куда ползёт-то? И зачем? Он нажрался, червичиху три раза в щечку чмокнул, чего ему ещё надо? А он, гад, всё равно ползёт! Ну и хрен с ним, пусть ползёт)


Мышление, интеллект. И даже желания, по существующим понятиям это всего лишь действия гормонов в определённых ситуациях. У компа гормонов нет, хоть японцы и делают роботов всяческих видов и полов)


Тест Тьюринга не работал даже во времена Тьюринга. Он лишь обозначил проблему, ну и предложил вполне очевидный вариант решения. А уж если в машину заложить алгоритмы, по которым подобные тесты работают, то вероятность успеха вообще уйдёт к нулю.


Ну это уже тонкости формулировок назвать ли его человеком-извращенцем или гнусным марсианином)
Но всё же человеком, имхо, будет правильнее. Раз его делали человеки, то и качества он унаследует человеческие, как ни крути, другим просто неоткуда взяться. Может как-то исказятся, но не более. Так что, чтобы мы в этом ИИ не нашли, оно всегда будет отражением самого человека.

Ну это слишко упрощенно, про гормоны.
Можно сделать модель мышления, которая будет иметь желания, определяемые не биологической моделью поведения, а другой.
Это не будет человеком в нашем понимании, но это существо будет обладать мышлением\интелектом.



ну почему отражением? Для этого не надо никого создавать, полная планета людей.
Он\оно будет наделен разумом\интелектом, но его желания вообще будут вне нашей привычной системы. Потому что модель его желаний не должна копировать нашу.
Ну вот Бог создал нас по своему подобию. Но наши желания явно отличаются от желания Бога.
Бог в этом смысле не человек.

Но мы-то не можем мыслить без гормонов! Как мы будем сравнивать наше мышление с "его" мышлением? По скорости решения дифференциальных уравнений? Это, как бы, сомнительный критерий.


Никакая модель не бывает полной. Раньше или позже вылезут ограничения, которые заложены в эту модель.


Про Бога ничего не скажу, а вот про человеков попробую)
Попробуйте придумать желание не нужное человеку, но нужное ИИ. Желания типа лучшего моторного масла для шестерёнок не прокатят, это лишь разновидность человеческих желаний еды и выживания.

Потому что мы биологические объекты, потому и не можем.
Солярис помните? Пример не очень, но я это к тому, что разумное существо может быть и не основе биологии.



ну предположим (условно!), что у этого существа будет стремление к энергетической симметрии в пространстве Калаби-Яу.
И оно начнет схлопывать или разворачивать эти пространства во Вселенной.
Или бегать голым в Мытищах по четным годам второго октября, востанавливая уровень прекрасного.
Папа Карло сделал копию из полена, а мог получится Голем-желающий-странного.

Ага, Солярис вспомнили)
Но если вы вспомните ещё, то там герои так и не определились разумен ли океан или нет, да и считать ли его вообще живым. Но пример хороший как образец попытки понять чего-то, построенного и действующего на принципах, сильно отличающихся от наших.


Ну в целом это усложнённый вариант еды и выживания. Но это пол беды, хуже обстоит со "стремлением". Придётся придумать причины и механизм как это "стремление" могло возникнуть.

Что заставило Малевича нарисовать "черный квадрат"? Ну понятно, символизм-супрематизм и все такое.
Но ведь были конкретные причины и механизмы. Можем ли мы их вскрыть до самого сигнала единичного синапса? Не уверен...
Но мы рисуем черные квадраты, независимо от причин и механизмов. Не думаю, что Бог создавал нас с целью рисовать эти квадраты. Он просто дал нам свободу воли, свободу желаний\мотивов. Но никак не ограничивал их рамками. Хочешь - рисуй квадраты, хочешь - убивай студенток и кидай их отпиленные руки в речку.

Малевича заставил нарисовать квадрат режиссёр спектакля за 15 минут до начала, поскольку Малевич прошарился неизвестно где и не доделал обещанные декорации. Но дело не в этом.
В тех принципах, которые сейчас используются для создания ИИ, нет понятий стремлений и желаний. Там есть то, что с некоторой натяжкой, можно назвать мотивацией, а именно поиск в сети наиболее подходящих связей и средств для выполнения поставленной извне (!) задачи.

ЗЫ Ябадзин, я этот вопрос обгладываю уже 2 месяца, а именно попытаться создать логически непротиворечивые и хотя бы условно выполнимые возможности для возникновения у компа хотя бы примитивных желаний. Меня без хрена хрен сожрёшь!)

Можно использовать цифровые аналоги гармонов. Вопррс реализации ИИ мы сейчас не решим. Изначально мне хотелось понять, как человеку существовать в мире, где естт существа, которые могут заменить его во всем и везде. Причем, все они делают лучше чем он сам. Сейчас, можно провести параллель с бушменами. Им пофигу, и так баунти. Но это стагнация.
Очевидно, что превосходящий ИИ во всем и вся это утопия. Очевидно, что проблемы не будет, если ИИ будут узкоспециализированы, очевидно некоторые занятия даже не смотря на ввод ии, останутся, хотя бы на уровне любительском. Процесс не менее важен результата. Просто, лентяи начнут дегоадировать, а люди, которые найдут стлу продолжать развиваться, будут это делать не смотря на то, что они биомусор на фоне этих высших сущностей.

Я больше не про чичас. Понятно, что сегодняшний ИИ это инструмент навроде дрели. Умной, но тупой.
Если посмотреть, то как некий вариант ИИ - это колонии животных сейчас (пчелы, муравьи, стаи рыб и т.д.).
У муравья нет мотивации, но она появляется в рамках над-системы (колония).
Вспоминаем Лема.

Я не очень понимаю, почему вы проводите жесткую связку "всемогущий ИИ=заменить людей".
Ну вы же не заменяете муравья или бобра в его повседневной жизни. Хотя могли бы построить хатку быстрее, больше и выше.
Если это будет всемогущий ИИ - он вообще не будет лезьт в наш муравейник и делать за нас нашу работу.
Вот сейчас же Бог не приносит мне зарплату, чтобы я на работу не ходил.

А кто ее тут разделяет? Понятно, что психологические процессы обусловлены физиологическими. Но когда удовлетворены базовые потребности, человек (в норме) начинает удовлетворять прочие - высокоуровневые по отношению к физиологическим.

Ну это да. Однако в этом обсуждении предполагается, что речь идет об интеллекте, обладающем всеми признаками нашего. То есть в том числе и мотивацией. Ясно, что реального ИИ, если он будет создан, это может и не касаться. То есть, вероятнее всего, интеллектуальные системы не будут выходить за рамки заданного функционала. Но ежели обсуждать в заданном ключе, то придется учитывать и наличие желаний у ИИ. Вопрос в том, какими они будут.

Именно что приобретенное, и именно в процессе эволюции, как иначе-то! У примитивных животных (и бактерий) никакого любопытства нет вовсе. Их может сподвигнуть на деятельность только голод (нехватка питательных веществ), желание размножаться или избежать опасности.

Жрать хочет. Или там, откуда он уползает, червей и так слишком много. Или там самок не хватает, хотя черви в большинстве таки гермафродиты. Или там слишком жарко\холодно\светло\темно\сухо\сыро\ядовито, или много хищников.

Гормоны и прочие там нейромедиаторы - это, грубо говоря, биологические регуляторы нашей программы. У ИИ на базе электронных устройств вполне могут быть и другие регуляторы. Собственно, электронные или цифровые.

Сейчас сказал всезнающему Интернету и пророку его Браузеру: я тебя, с..., сделаю. И дал запрос: "фитюлька ханум". Где там смайлик с соответствующим случаю жестом? Я их сделал. В ответ всего 25 тысяч (не миллионов!) ответов и ни одного попадания.

Знай наших! Нет искусственному разуму!

В Индонезии чиновников начали заменять на искусственный интеллект. Президент Джоко Видодо планирует реформировать отвечающие за бизнес госорганы, сократив часть людей и поставив вместо них алгоритмы. Он надеется, что это сократит масштаб коррупции в правительстве, и если эксперимент окажется успешным, Джоко продолжит автоматизировать «верхушку» страны.

Вот у нас бы так.
Автоматам не нужны блага, захваченные и узурпированные нашей верхушкой. Да разве ж они поменяют себя на какой-то там ИИ...

Согласен на 100%. Я недавно так смеялся, когда Кудрин пожаловался президенту, что бюрократические припоны правительства стали настолько сложными, что не позволили украсть триллион рублей.))) А прозрачность трат на нацпроекты такова, что видно - ими никто не занимается.)))

программисты могут оставить лазейки или продумать алгоритм скрытой коррупции и воровства, через эти проги

Не надо нам так. Это и есть та тайная власть, о которой так любят говорить. Дело, конечно, не в засилье роботов, а в том, что в виртуальном общении нет обязанностей, нет ответчика. К тому же вы вообще нигде и никогда не узнаете, кто реально стоит за всем этими виртуальными услугами.
На деле это уже так и есть. Моей знакомой надо записаться в ГИБДД. Записаться можно только через госуслуги виртуально, а сайт госуслуг сейчас такую услугу не предоставляет по неведомым причинам. Власть есть, услуги есть, а виноватых в том, что ничего не работает, нет. И даже обратиться некуда! Техподдержка вообще на госуслугах сроду не отвечала, а в ГИБДД отвечают тупо - плевать нам на закон, у нас приказ - всё только через сайт госуслуг.