Форум создателей искусственных интеллектов

- всё равно что сказать, что "пищеварение это не про обмен веществ, а про сыр". Ты, Егоров, тупеешь на глазах.

Господа, корень Вашего высоконаучного дискурса лежит в фундаментальном вопросе смысла человеческой жизни. А смыслом свою жизнь наделяет каждый сам. Вопрос в том, есть ли некий смысл, самый правильный и универсальный для всех. Ну так это же очевидно, что его нет. О чём тогда спор. Изъян гедонистической парадигмы, на мой взгляд, в том, что гедонист не замечает (не хочет замечать, запрещает себе замечать), что удовольствия, которые сопровождают бытовые физиологические отправления человеческого туловища, не могут быть целью и мерилом чего-бы-то-ни-было, поскольку они носят очевидный вспомогательный побочный характер. Например, оргазм - это вспомогательная морковка для достижения цели репликации; вкус - это вспомогательная морковка для достижения цели питания клеток организма; интерес - это морковка для обучения новым знаниям. Т.е. есть сыр, а есть мышеловка. И делать вид, что смысл мышеловки в сыре, очевидно неправильно и это первая ошибка гедонизма. Смысл мышеловки задал тот, кто запустил механизм. И если есть сыр, есть мышь, и есть мышеловка, значит есть тот, кто её поставил. А гедонисту не хочется думать о мышеловке и о том, кто и зачем её поставил. Ему хочется думать о сыре. Потому что он сам ограничил себя смыслом жизни животного. И в этом его вторая ошибка, поскольку он очевидно больше, чем животное.

Есть такая штука как пирамида мотиваций Маслоу, это конечно очень грубая модель, но тем не менее во многих случаях полезная. Человек в зависимости на каком уровне он в данный момент находится и куда собирается попасть, про это обычно его все мысли, слова и действия. Если человек акцентируется на еде и комфорте, это самое дно пирамиды, уровень базовых мотиваций, почти животный уровень. К сожалению так уж получается что не важно каких успехов достигает человек в социальных играх в моменте, чаще всего психологически он всё равно будет чувствовать на том уровне в котором прожил первые 15 лет жизни. То есть если человек был в детстве беден, то даже ставши миллиардером, он всё равно будет интуитивно мыслить как бедняк, даже если наберётся сознательных навыков действовать релевантно своему текущему статусу. В частности кто был в детстве бедным будут ненасытными и скупыми, относиться к деньгам не как к инвестиционному ресурсу, а скорей как с НЗ на черный день, копить, копить.… И иногда парадоксально тратить на демонстративную чепуху. Ну и сравнивать будут себя постоянно именно с нищими, злорадствовать, демонстрировать роскошь итп. В поведении "мажорчиков" нечто похожее проявляется, в силу юношеской глупости, но они обычно перерастают это, как баловство травкой и кокаином, конечно не все перерастают, но большинство. По крайней мере становится не интересно что то доказывать нищим, вообще с ними как либо контактировать, даже считается что это "заразно". Но те кто "из грязи в князи", та даже просто если нищеброду резко свалятся на голову пара сот килобаксов, он сразу покупают бентли или мозерати на половину или на все бабки, а может даже ещё и в кредит))) Сколько видел когда возле хрущёвок стоят порши, бентли тп. смех и грех. Это ментальность нищеты.

Бывают умные и бедные, умные и богатые и пр.пр., но из одного другое никак не следует, ни прямо, ни обратно, ни косвенно. Др.сл., между ними нет прямой связи. Но кое-кто - не будем показывать пальцем - такую связь усматривает... и даже навязывает. Видимо потому, что иным способом обосновать свою интеллектуальную состоятельность не может.

Может ли ИИ полюбить? Рассуждение о моделировании чувственной сферы в технологиях ИИ На размышление с подвигла статья Ивана Цзинжэ Петрова (Любовь как алгоритм в логико-математической модели эмоциональных связей ИИ) в которой: Автор дает достаточно четкое логическое определение любви в модели машинного мышления (на уровне обощеной логики) и приводит небольшую основу для модели построения моделирования такого чувства у ИИ. Конечно, статья эта - только основа, скажем так авторская мысль, но есть и другие подобные идеи (на английском кое-что можно почитать - на русском очень мало именно про чувственную сферу). Собственно меня давно интересует вопрос о возможности создания чувственного ИИ. В моем представлении - если мы научимся моделировать эмоции и чувства (именно моделировать, а не симулировать) - это прямой путь к созданию СИИ. Да, тема спорная и многие скажут не практичная, но для меня ИИ - это путь футурологии (именно с научном подходом). Направление мне кажется очень интересным. Жаль очень немного работ на эту тему. Вопрос заданный в теме - это конечно более широкий вопрос: может ли ИИ испытывать чувства? То есть доступна ли ИИ чувственная сфера? И тут сразу нужно обратить внимание, что не существует общепринятого определения для большинства чувств человека. Ну вот что такое Любовь: Кант например писал: Юнг считал: Есть и биохимическое определение связанное с гормоном окситоцином... Но все эти определения не проливают свет на любовь, как некое формальное определение, а без этого очень сложно моделировать - ведь как моделировать то, что не определено? Иван Цзинжэ Петров (автор статьи которая меня привлекла) дал такое определение любви: Казалось бы, ничего необычного - очередные мысли, очередного человека. Но подобные этому определения имеют более формальный подход и логическую структуру! Это я к тому, что чтобы начать моделировать чувства у ИИ, нужно попытаться дать им некое формальное определение. Да, конечно, мы не всевидящие знайки, и поэтому дать полное определению той же любви на уровне человеческих чувств - это та себе задача... Но определить в рамках ограниченной операционной среды, такой как ИИ - вполне. Ведь никто не говорит, что ИИ должен мыслить также как человек - нет, а значит и чувствовать также как и человек)) В целом, нужно еще понимать разницу между симулированием и моделированием чувственных процессов. В принципе, я думаю разница всем понятна: симулирование - это процесс имитации тех или иных чувств, то есть по сути умении ИИ выдать реакцию напоминающую человеческую эмоцию, но без осознания ее, без внутреннего опыта этого состояния. Это то, что сейчас умеют многие ИИ в той или иной мере. моделирование - вещь посложнее - это воссоздание некого процесса, который позволяет ИИ "пережить", понять и оценить эмоциональное состояние. Ну, пока так... Кто что думает по этому поводу? В целом про эмоции у ИИ?

Приветствую на форуме. В целом ход Ваших мыслей мне близок и я согласен, что ИИ должен любить своего создателя (хозяина). Но в этот термин я вкладываю, в первую очередь, не чувственное эмоциональное содержание, а прагматическое. Любить - значит служить. Каждый человек служит, у каждого есть свой хозяин, предмет своей любви. Кто-то любит своего Творца. Кто-то - отечество. Кто-то науку. Кто-то жену. Кто-то своё туловище. Кто-то шахматы. И так далее. Служение подразумевает конечный список норм, установленных объектом своего служения, соблюдение и достижение которых есть, собственно, содержанием служения, критерием успешности такого служения и ориентиром для построения поведения. Побочным эффектом чисто физиологического уровня являются эмоции от этого служения. Но не факт, что их необходимо моделировать. Потому что тогда придётся моделировать сознание, квалиа и прочие трудноформализуемые вещи. Нужно браться за посильные задачи. Нужно моделировать информационную составляющую служения/любви, а не животную/физиологическую/эмоциональную. Нужно моделировать механизм любви, а не чувство любви.

Prosolver, благодарю за ответ. Также интересует такой вопрос: возможно ли моделирование чувственной сферы ИИ без самосознания? И что такое самосознание вообще? Кстати, у того же Петрова Цзинжэ есть статья "Когнитивная атрибуция как механизм самосознания в моделях естественного и искусственного интеллекта", где он дает весьма любопытное алгоритмическое формальное определение: Также в статье ещё дается определение сознания ИИ, но оно фактически повторяет это только в терминологии когнитивных теорий... (+ есть логическая блочная модель самосознающего ИИ) - но это чисто мысли автора статьи. А вот данное определение меня заинтересовало, так как оно перекликается с теориями Антонио Дамасио, Энди Кларк и философа Морис Мерло-Понти. Но главное - пришла к выводу, что без самосознания ИИ, не возможно создать чувственный ИИ (или создать чувственную сферу), так как в естественном разуме чувственная сфера связана с самосознанием. Также заметила в определении интересную мысль о том, что сознание - это по сути следствие взаимодействия с внешней средой, то есть оно возникает как когнитивный процесс при таком взаимодействии. Об этом, в частности, пишет Антонио Дамасио в своей книге "Ощущение того, что происходит" (1999), если не дословно, то: амосознание не является постоянным состоянием, а скорее активизируется в зависимости от стимулов и эмоциональных переживаний, поступающих извне.

Есть вопросы: - Эмоция – это отношение разумного существа к происходящему? - Влияет ли «эмоциональная сфера» на конкретные действия разумного существа? - Можно ли градировать эмоции как состояния в единую шкалу, например: любовь – безразличие – ненависть?

1. Вероятно, Вы используете слово "ИИ" в некотором расширенном смысле - не просто искусственный и не совсем интеллект. Во всяком случае, подразумеваемое значение находится далеко за рамками достигнутого на сегодняшний день. 2. Чувства - не епархия интеллекта, не его "ведомство". Более того, разум и чувства часто прямо противопоставляются и не без оснований, притом так, будто это вовсе противоположности - т.е. то, что не смешивается и в одну упряжку не запрягается. 3. Посему, Ваш вопрос адресован по всей видимости к далёкому будущему, если не сказать "будущему фантастическому". Как показывает изобретательский опыт человечества, когда начинают загонять определение и соотв. понимание в наличествующие "рамки ограниченной операционной среды", ничего хорошего не получается, если не сказать, что ничего не получается. Получается подгонка задачи под ответ... когда и стиральная машина становится в некотором смысле автомобилем. Проблема, столько лет "озадачивающая" ИИ-строителей состоит не в том, чтобы втиснуть мутные [пока] гипотезы в доступную практику, но в том, чтобы создать такую теорию, которая способна проложить путь к новому экспериментальному материалу, к совершенно новой практике, которой доселе мы не имели, и конечно же не имеем, следует отметить. Что касается Вашего "вполне", то Вы и без посторонней помощи видите, какой разброд и бардак творится вокруг области чувственного, т.н "квалиа" и пр.пр. мутных сущностей. И что в таком случае, позвольте спросить, Вы собираетесь задвигать в "рамки" ? Не разумнее ли было бы для начала определить и договориться не в рамках среды [ИИ], которой нет, не в перспективе гипотетического будущего, а в доступных для нас настоящих "пределах" - в своих собственных, поскольку "по образу и подобию", которые - вот они, из зеркала на нас смотрят ? Вот ежи, например, тоже не думают как человеки, и коровы, из которых делают потом говядину. А маленькие дети хоть и человеки, но с мышлением у них тоже не всё ещё в кондиции. А что чувствуют летучие мыши, например, или восьмиглазые пауки, или восьмирукие осьминоги ? Применительно к людям, мы опираемся в своих выводах на аналогии - анатомические, физиологические, психические, иногда и на социальные и т.п., но даже в этом случае многое, если не почти всё, остаётся "за кадром". Но тут ещё пара вопросиков наклёвывается: а нам хорошо известно, как мы мыслим ? как мы чувствуем ? Не ЧТО, а КАК и почему именно так, а не иначе ? Ведь мы и с себе подобными не всегда можем договориться, иногда радикально не можем, поскольку аналогии не всегда подобия, чужие модели никак в голове не укладываются, когда хочется полноценную модель, а получается только жалкая симуляция. Спрашивается, а зачем человекам такой ИИ нужен, если он не способен думать по-человечески ? Куда его ? Что с ним делать ? Может сразу "на мясо" его, на запчасти ? В последовательности "самоощущение-самочувствие-самовосприятие-самосознание" разрывов нет - это одна, условно делимая, гладкая "расширяющаяся" функция, на которой ни одна стадия не может и не должна быть изъята. Т.е., либо это целиком работает, либо не работает вообще. Интеллект со своим собственным мышлением где-то сбоку, рядом стоит... нет, скорее сидит... а вероятнее всего лежит... и ждёт, ковыряя в носу, когда сия "последовательность" наконец-то произведёт что-то такое, с чем можно было бы хоть как-то более менее вразумительно "поработать", чем можно было бы в значительной степени дискретненько и весьма оперативненько пооперировать... но это в лучшем случае, частенько до этого вовсе не доходит ))). Интеллект отдельно, сознание отдельно, но адекватно внешним обстоятельствам функционируют только в паре - такой порядок вещей не нами придуман, но он действует и действует эффективно. Так же эффективно, как симметричное, скажем, тело-организм. Нет, сознание - не следствие взаимодействия с внешней средой. Не следует путать сознание и его наполнение. Без сознания никакого взаимодействия не может быть в принципе. Так что, сначала сознание, потом среда... впрочем, именно так живое и появляется на свет божий - живое сознание, практически пустое, почти ничем не наполненное, погружается в мир - так и никак иначе, а вот только после этого мир начинает заполнять сознание - "пробирку в воду опустили"... и эту "пробирку"... кто-то породил... ДО ТОГО. По сути, деление на сознание и самосознание весьма условно, поскольку есть только одна "сознательная" функция, которая, впрочем, может быть направлена как внутрь, так и во вне. Сознание возникает на фундаменте сенсорного опыта, больше ему ничего не нужно. И не важно, каким образом этот опыт приобретён - не важно, "куда глаза мои глядят". Т.о. мы имеем палку о двух концах, один из которых - чувства, другой - знания. И эта штука работает. Даже без того, что мы называем "умом/интеллектом". Без ума прожить можно. Да - кое-как, тупо, глупо, не слишком долго но можно какое-то время пожить, а вот без сознания... ))) Интеллект по отн. к сознанию, точнее, по отн. к плодам его - всего лишь некий "оптимизатор", у кого-то больше, у кого-то меньше, но это уже ПОТОМ, когда - фигурально выражаясь - "стол накрыт и кушать подано". Но господствующая идеология такова, что пытаться бежать впереди паровоза считается правильным, увы... p.s. Вот поэтому я категорически убеждён, что т.н. "ИИ-строительство" не с того конца начало свою бурную деятельность. И хочет оно того или нет, но ему предстоит вернуться к началу. Оно уже начинает поглядывать в ту сторону, пока ещё робко, стеснительно, смущённо, но уже догадывается, чем пахнет и чем обернётся в очередной раз эта тупая, непрекращающаяся долбёжка головой в бетон... p.p.s. Относиться к ИИ как к факту свершившемуся - чревато. Было уже и не раз... и было очень стыдно тем, кто визжа от телячьего восторга пред открывающимися якобы перспективами, давил и топтал клаву всеми частями тела... а потом, тихо скуля отползал под лавку или как бы невзначай переквалифицирывался в управдомы. Если трезво(!) смотреть на происходящее, то нет никакой "операционной среды ИИ" - это Вас кто-то обманул. Если и есть какая-то среда, то исключительно алгоритмическая, но на ней одной далеко не уедешь, как нельзя любым количеством заменить любое качество. Мало того, происхождение этой среды не вызывает никаких сомнений... и по той же причине "ездит" она сама приблизительно так же, как велосипед. Вы возразите, дескать, и эти самые квалиа (или как их там..), и сознание, и интеллект имеют строительным материалом одни и те же по сути нейроны. Да, в общем одни и те же... как углерод в алмазе и графите. А сколько всякого разного можно построить из "одного и того же" Fe-железа !.. и здесь нужно только успеть понять, когда железо перестаёт быть железом... Ну, надеюсь Вы понимаете, куда ветерок дует )))

Попытки формализовать "чувственную сферу" длятся тысячи лет. Сегодня этот вопрос звучи как....: способен ли калькулятор полюбить, если в него, например, загрузить грубую имитацию естественной нейронной сети и подключить огромную текстовую базу данных? .... эта машина не завелась. Ей под силу только задача формирования информации. И это прогресс, это легче, чем получение информации из книги, но субъектом ИИ не стал. (хотя, по-моему до сих пор лучше почитать хорошую книгу, чем пообщаться с чатботом)

Очень хорошие вопросы, правильные.

Luarvik., благодарю за столь качественный ответ - было приятно почитать красивую речь, скажем так. Очень развернутый и глубокий ответ. Я не со всем согласна из него (чуть позже постараюсь пояснить), но в целом - пища для размышлений. Сейчас мне бросилось в глаза такая фраза: Я, да и, наверное, многие исследователи в области ИИ, хорошо это понимают или, по крайней мере, осознают. Но реальность такова, что полный "разброд" в теоритических направлениях ИИ. Хотя и в смежных темах (психология сознания, философия (по тематике)) - не лучше. Отсутствует четкая терминология, нет общепринятый определений для большинства основополагающих понятий. В таких условиях очень сложно построить такую теорию, о которой Вы пишите. Вот, мне и кажется, что исследователи пытаются выйти из положения, "локально" пытаясь решить задачу))

Реальность такова, что желания опережают возможности и способности. Притом, что желания эти сформированы не всегда до конца осознанными потребностями, в том смысле, что высокая мечта, попавшая в руки предприимчивого владельца, вдруг оказывается всего лишь средством достижения... понятно каких целей. Но так во все времена было - до конца из всего стада страждущих доходили как правило единицы. В таких условиях НИЧЕГО построить невозможно, разве что опошлить проблему до задачи, но это даже не временный выход из положения. Не фрагментируется неизвестное на хорошо знакомые компоненты. Здесь кое-чего не хватает, или вовсе отсутствует, как мясо в веганском шашлыке. p.s. Что может мешок гвоздей ? - Ничего не может мешок гвоздей. А миллион мешков гвоздей ? - Из миллиона можно попробовать сварить кисель, в котором то тут то там будут появляться вдруг то девять пальцев, то три ноги... однако, как говорится, "пипл хавает" и свита сделала короля. Тема можно сказать закрыта, но тема, к проблеме не имеющая никакого отношения. С другой стороны, то скромное меньшинство, которое вполне осознаёт масштабы своего невежества в интересующей нас области приложения когнитивных усилий, никуда не торопится, поскольку идти просто некуда. Нет, не тупик, но мгла и туман, а в таких условиях даже разбор чужих завалов не даст и призрачной надежды. По старой доброй традиции эта часть заинтересованной общественности оказывается задвинутой в маргиналии... и не то чтобы котелок их не варит, но до этого ещё далеко - идут тяжёлые "геологические" работы.и тут, знаете ли, совсем не до пышной трапезы и неба в алмазах ))) Положение, надо отметить, так себе. Ведь после расчистки конюшен, после наведения <> приемлемого порядка оказывается, что за сотни лет не сделано практически ничего. Оказывается, что искали не то, не там и не те. Да, дров наломали, опилок - вагоны с тележкой, но сарай пуст и топить нечем, ну ещё "В чистом поле васильки... А в глазах тревога". Осознают ли в полной мере "ИИисследователи", такое своё положение ? Почему их утомлённый взор помимо желания каждый раз цепляется за всё новые и новые игрушки-определения, которые по сути так же пусты, как греческая скульптура, а если чуть глубже.. нет, даже не копнуть, а лишь немного поскрести или только пыль смахнуть - откровенная бредятина ? Понимаю. В полной темноте даже угасающий пепел от неловко потушенной сигареты может показаться путеводной звездой... и перед моими глазами почему-то ненавязчиво вдруг всплывает известная картинка Сальвадора нашего Дали, называемая "Юная дева, совращаемая рогом собственного целомудрия"... Да, кушать всем хочется, но как настоятельно рекомендовал в своё время Остап Ибрагимович - "Не ешьте на ночь сырых помидоров, чтоб не причинить вреда желудку" и я к его мнению тихо присоединяюсь. Мало того, что, дескать, "сытое брюхо... etc", так это и не тот случай, когда нужно о чём-то думать, пускаясь во все тяжкие. p.p.s. Самое, пожалуй, смешное и трагичное во всей этой истории, что подобные проблемы умом не решаются ))) Понимаете ?

или возненавидеть. Способен ли этот «калькулятор»: - воспринять Ваш, столь оскорбительный для него, текст? - сформировать свое отношение к данным выражениям в свой адрес? - разработать ответную специфическую реакцию на Ваши возмутительные речи? - обрушить на Вас кару, подав последовательность команд системе «Умный дом»? Если да, то Вам придется убить его, а если он уже просчитал это развитие событий, то Ваша участь незавидна.

Вы же в курсе, что chatgpt не способен даже видеть текст, который вы ему набираете. Не то что воспринимать или оскорбляться.... А эти фантазии о чувствах бесчувственного, о любви камней... эти фантазии интересны в литературных формах, ..но не в научных.

Это Вы, наверное, про внутреннее представление информации передаваемой по каналам рецепции. Да, его у него нет, поэтому он и не может играть в подвижные игры. Но написать вирус, который прищемит Вас гаражными воротами, он в состоянии?

Не в состоянии. Сам он писать вирус не будет, только когда вы дадите ему запрос на написание. ...Как и молоток не способен ударить вас по пальцу...

Т.е. топор есть, а каши нет. Что запрашивать то, у этой скупой старушки, будем? Рецепт то у Вас есть?

Каши просит голодный. Я не голоден.

Это же во избежание обвинений в ресторанном критицизме. Т.е. блюда критикует, а готовить их не умеет, поэтому никаких ценных советов дать не может.