Форум создателей искусственных интеллектов

Обнаружил странное поведение популярных чат-ботов. Возможно, это связано с недопустимым содержанием, но в таком случае непонятно, как бот буквально повторяет недопустимое слово. Или, возможно, это связано с тем, что базовый язык тренировки не русский.

1. Почему обходят понятно, потому что сказывается кумулятивный эффект от знаний всех тех людей, которые участвовали в создании тренировочных данных. Можно сказать, что такая инс содержит "слепок" общечеловеческой мудрости, а это само по себе мощно. Представим, что мы вернёмся на 10000 лет назад и создадим 2 раздельных сообщества: 1) диких людей и 2) диких инс. Первое через 10к лет породит культуру и технологии. Второе 10к лет будет ждать, пока первое сообщество породит культуру и скормит ей в качестве тренировочного датасета... Мне видится это очевидным. 2. Впечатление - это главное, на что претендуют создатели эти систем. Хотите больше впечатлений - покупайте платную версию. Просто бизнес. Не то чтобы "больше" творческих возможностей. Просто у человека такая возможность в принципе есть и именно она продуцирует все его знания. А у инс такой возможности в принципе нет в архитектуре, она способна только обезьянничать входные данные т.е. плоды творчества человека. В этом и есть фундаментальное отличие. И совершенно не просматривается, на каких основаниях в инс мог бы возникнуть зачаток сознания, ход времени, квалиа и другие плюшки человеческого ума. Я тут немного намекал на то, как я вижу процесс работы квалиа и сознания. Попробую расширить. Когда мы говорим про единый момент "сейчас" мы пребываем в сильной иллюзии. Моментов "сейчас" в каждый момент (такой каламбур) много, в зависимости от масштаба во времени, на котором происходит мышление. Если мы осознаём цвет, то "момент сейчас" - это доли секунды; если мы осознаём сказанную фразу, то "момент сейчас" - это секунды; если мы едем на авто, то "момент сейчас" - это минуты (от одного поворота до следующего); если мы переживаем войну, то "момент войны сейчас" может длиться годами. И логично продолжить, что высшим моментом "сейчас", доступным человеческому осознанию, есть вечность. Один "момент сейчас" заканчивается, когда начинается следующий. Это значит, что мы живём в многослойном субъективном торте времени "моментов сейчас" разных масштабов, и задача ума творчески породить эти слои, а сознания - гармонизировать их между собой, установить причинно-следственные отношения на каждом слое без перепутывания и построить целесообразное поведение организма на каждом из этих масштабов. Если человеческий ум работает примерно так, то очевидно, что оно рядом не лежало с вялым обезьянничанием плоских текстовых чат-ботов. В тёмной комнате. Это не опровергает творческое начало у любых человеческих знаний. Сначала человек что-то придумывает, а потом обнаруживает это в сенсорных данных. Если же нечего обнаруживать, то и нечего запоминать. Ростки знаний завяли, потому что их не поливали (сенсорно не подкрепляли).

С этим спору нет, спор только в том, что понимать под термином "обучение". В моём понимании человеческое обучение - это процесс постоянного внутреннего безусловного конструирования с последующим отсевом неудачных вариантов и запоминанием удачных. Парадигма инс исходит из того, что все данные "приходят" только извне, ничего не создаётся внутри. Это контрчеловеческая форма "обучения", и поэтому странно ожидать, что она когда-либо сравнится с человеком. Нельзя с помощью фотоаппарата воспроизвести работу палитры, кистей и холста художника. Внешне результаты работы того и другого (фотоаппарата и художника) очень похожи, но это принципиально разные подходы и по своей механике и по своему потенциалу.

Строго говоря, это чисто умозрительная гипотеза. Насколько мне известно, до сих пор нет внятного научного представления о чётких физических/физиологических субстратах памяти, квалиа, сознания в мозге человека (если они там вообще есть). Я могу понять дельцов от IT-индустрии, которые спекулируют на физиологических терминах типа "обучение", "нейронный", "интеллект" - им за это деньги платят. Но мы не должны обманываться этой внешней пропагандой, полагая, что между НС и ИНС есть нечто более общее, чем только термин. В этом смысле я солидарен с Luarvik.ом.

Вы не заполнили анкету, поэтому я вынужден угадывать Ваши убеждения из текста. Насколько я могу судить, Вы - материалист. Соответственно, Ваше представление про обучение человека выглядит примерно как отражение в зеркале. Снаружи есть некое готовое "знание" и человек его отражает в своих знаниях. Моё представление про обучение в корне иное. Человек буквально выращивает своё знание внутри себя, а внешние стимулы только подкрепляют или наоборот угнетают ростки этих знаний. Человек активно сам создаёт свои знания. Такого способа обучения в ИНС просто нет, это не предусмотрено их конструкцией. Поэтому для меня очевидно, что ИНС не воспроизводят тот процесс, который у человека называется "обучение". Соответственно, я вообще не жду, что ИНС когда-либо вдруг продемонстрируют обучение, которого в них нет. Всё, что они могут воспроизвести - это именно обезьянничание. А без обучения не создаются новые знания. А без этого нет смысла говорить про интеллект. ИНС - это некая тупиковая но забавная ветвь развития информационных технологий. На это можно тратить время. И деньги. А можно не тратить и пытаться заниматься действительно интересными делами.

Александр, приветствую. С интересом изучил предложенную концепцию. Сначала поблагодарю за то, что мне понравилось. 1. В подходах автора нет никаких нейросетей, чат-ботов и прочей мутотени. Всё строится на логике, алгоритмах, последовательностях. Это хороший подход. 2. У автора явно есть навыки программирования и готовые проекты, просматривается нацеленность на программный продукт, а не "просто поговорить". 3. Автор стремится к унификации и упрощениям. Теперь поругаю за то, что мне не понравилось. Это неправда. Сигнал частотно-модулированный. Чем выше частота сигнала, тем более интенсивное воздействие он моделирует. Это гипотеза, она явно недостаточная и она тенденциозно и вредно ведёт по ложному пути к тем самым ИНС. Точнее сказать, что в процессе обучения необходима способность образовывать новые объекты и связи между ними. На этом странном и очевидно ложном утверждении автор строит очередного ИИ-материалиста. Пример с жёлтым цветом или известная иллюзия с тенью на шахматной доске доказывают, что осознаваемая сцена восприятия генерируется внутри механизма мышления, а рецепторы только опосредованно верифицируют её. И "мнение" рецепторов слушают в последнюю очередь. Sanek22, Вы допускаете мысль, что все атрибуты и сами воспринимаемые объекты - это такие субъективные механизмы, для прогнозирования субъективных действий? Ну, например, Вы проснулись, глаза закрыты, и Вы знаете, что находитесь в комнате, соответственно, перед открытием глаз Вы уже знаете, что Вы должны увидеть белый потолок. Соответственно незачем мозгу перебирать варианты того, что это такое белое видят глаза. Мозг, по мере своих возможностей, подсказывает глазам, что они должны увидеть. И чем больше у него таких возможностей, тем меньше глаза подсказывают мозгу и тем больше мозг подсказывает глазам. Тем человек умнее. Очевидно, что это очень упрощённое представление. Оно годится для описания работы с кубиками и пирамидками. Но это совершенно непригодно для описания тех опознаний, которые человек делает в практической реальности. Например, такой образ как "отношения между РФ и США" это образ, распознавание которого (для тех, конечно, кому это интересно) не прекращается годами и новые элементы дополняют или полностью перечёркивают образ. Конструирование образа и постоянное его воссоздание в сознании подразумевает, что активное начало этого процесса лежит внутри ума, а не на рецепторах. Заинтересованность в построении и попытки самого построения образов реальности всегда опережают сигналы с рецепторов. Кроме того, сигналы с рецепторов очень кратковременны, а объекты, которыми оперируют человек имеют масштабы минут, дней, лет, столетий, эпох и т.д. где быстрые рецепторы явно ничем не помогут. Да, это так. Но Вы не уточнили откуда берётся цель. Цель, в моём понимании, возникает как отклонение от некоторой нормы. Если нет нормы и нет отклонения от неё, то нет и цели. Да, это так. Я бы сказал ещё жёстче, что интеллектуальная задача всегда подразумевает множественность правильных решений. Если правильное решение только одно, то интеллект здесь не нужен, здесь нужен автомат. Но Вы не уточнили как устанавливается причинно-следственная связь между действием и последствием этого действия? Каков алгоритм установления этой связи из анализа сырого жизненного опыта? Мне думается, что в этом и есть суть обучения. Это не какой-то вспомогательный механизм, он центральный и было бы интересно, если б Вы на нём остановились и разжевали поподробнее. Человек учится на ошибках. Не совсем понятно зачем разделять понятия "хорошо" и "успешно". Мне кажется, это одно и то же. Навеяло:

1. Образ яблока - это совмещение квалиа. Совмещение понятно как сделать, например, списком указателей. Вопрос в том, как сделать квалиа. В этом смысле можно упростить вопрос и спросить, как сделать так, чтобы компьютер мог представить (или видеть) жёлтый цвет так, как это делает человек. Это обширная тема. Можно обсудить. 2. Вопрос темпоральной связи между образом слова и образом яблока лежит в плоскости установления причинно-следственной связи вообще. Образ слова вызывает образ соответствующего квалиа по той же механике, что и образ кондуктора вызывает образ билетика.

Вот это правильный вариант вопроса. Нам важно, чтобы искусственное квалиа работало как натуральное. А не чтобы было им. Что, имхо, входит в этот функционал: 1. Квалиа всегда имеет два полюса. Первый полюс (назовём его "внутренним"), это модель некоторого процесса. Например, яблока. Когда мы думаем (видим, воображаем) о яблоке, оно содержит квалитативность цвета, например, жёлтое. Т.е. чтобы думать о жёлтом или видеть жёлтое, должен быть порождающий его процесс, из которого жёлтое квалиа происходит как следствие. Второй полюс (назовём его "внешним") - это сигналы от рецепторов. Они могут подтверждать или не подтверждать прогноз внутреннего полюса. Но, важно отметить, что осознаём мы ту квалитативность, которая порождена именно внутренним полюсом, даже если она не подтверждается рецепторами. Но внешний полюс тоже важен, например, при составлении новых моделей. Когда мы ничего не знаем о яблоках, то при построении новой модели вынуждены будем полагаться только на то, что присылают рецепторы. Точнее сказать, что внутренний и внешний полюсы постоянно помогают и подкрепляют другу друга. Например, если внутренний полюс подсказывает, что мы сейчас видим "белый автомобиль, едущий вправо", то рецепторы на соответствующем участке сетчатки уже готовы подтвердить или опровергнуть, что они видят белый цвет. Если они видят белый, то внутренний полюс продолжает рисовать свою галлюцинацию, если не видят, то внутренний полюс перестраивается и срочно что-то изобретает, например, что автомобиль остановился. Если бы квалиа порождалось только внешним полюсом, то мы были бы лишены творческого начала, не было бы иллюзий восприятия, воображения, и чувства работали бы чрезвычайно медленно. Если бы работал только внутренний полюс, то мы были бы полностью оторваны от реальности и пребывали бы в мире снов и галлюцинаций, не имея возможности осуществлять целенаправленную деятельность. 2. Квалиа всегда имеет место. Когда мы видим сквозь ветви деревьев голубое небо мы не собираем из тысяч кусочков голубого цвета (которые отсекаются ветвями) одно цельное небо. Внутренний полюс образа "небо" подсказывает нам, что всё голубое, что мы сейчас видим перед собой в "кадре" за ветвями - это небо. Это прямо противоположно тем системам искусственного зрения, что разрабатываются сейчас, где сигнал с рецепторов имеет решающее значение. Благодаря этому в "кадре" восприятия человека не бывает разрывов, ум всегда заполняет все места некоторой квалитативностью, тем самым порождая целостную осознаваемую картину реальности. 3. Квалиа всегда развивается и существует во времени. Простая квалитативность (как цвет), очевидно, требует для своего определения и изменения доли секунды. Что намекает на небольшие вычислительные ресурсы для своего обслуживания. Более сложная квалитативность, например оценка шахматной позиции, требует больше времени, т.к. подразумевает построение сложной модели внутреннего полюса, которая породит квалитативность позиции - ничейная, выигранная или проигранная. 4. Исходя из вышеуказанных 3-х пунктов становится ясно, что квалиа - это универсальный механизм для работы сознания, по сути всё, что мы ощущаем - это квалиа, разных масштабов и сложности. Вопрос в том, что представляет собой этот внутренний полюс, как механизм, и по какому алгоритму он взаимодействует с внешним.

Исходя из вышесказанного, для создания функционального аналога квалиа на компьютере нужно: 1. Создать операционное пространство, которое, собственно, будет вмещать квалиа. Можно начать просто с некоторого массива. 2. Создать конструктор внутренних моделей (механизмов), которые будут прогнозировать квалитативность и проецировать их на операционное пространство. Внутренний полюс. 3. Создать внешний полюс. Тут, видимо, проще всего, подкючить камеры/микрофоны для валидации внутренне спродуцированного квалиа. 4. На основании этого операционного пространства дальше можно переходить к интеллектуальным функциям и целеполаганию.

"Сущностно" это ведь и есть квалиа. Для человека не бывает иной сущностности кроме своих квалиа. Поэтому требовать выразить квалиа через квалиа - это нонсенс. Мы можем говорить только и исключительно о функционале. Так же как и при обсуждении вопросов сознания. Как показывает практика, это не так. Квалиа нужны, чтобы отличать элементы жизненного опыта. Чтобы быть интерфейсом между внутренними представлениями и данными рецепторов. Чтобы иметь координаты для запоминания/вспоминания жизненного опыта. Чтобы в их алфавите выражать результат работы внутренних механизмов.

А "что", в данном случае, это не квалиа? Видите ли, Вы не можете выразить квалиа, через не квалиа. Потому что выразить - это всегда через квалиа. И это не игра слов.

Точка. Обмен словами происходит тоже только посредством квалиа. Чёрным по белому. Или белым по чёрному. Сначала квалиа, а потом всё остальное. Поэтому требовать выразить квалиа через что-то неквалитативное - это из той же серии, что выразить существование через несуществование. Поэтому корректные вопросы это: "как квалиа?", "для чего квалиа?", "почему квалиа?" и т.д. но не "что такое квалиа?".

Это хорошо, что Вы начали думать в предложенной солиптической парадигме, а не просто отбрасывать её с порога. Вопросы здесь, действительно есть, и на них надо искать ответы. Что конструктивнее, чем заниматься тупиковыми инс или утверждать, что всё невозможно. Как показывает практика самонаблюдения, "генератор всего" не генерирует всё всегда, наоборот, он изощрённо пытается выдумывать как можно меньше нового, тяготеет к готовым схемам и пользуется максимумом априорных данных, чтобы сэкономить усилия. "Где я?" - это первый вопрос, ответ на который резко ограничивает варианты генерации реальности - локация. Следующий ограничитель - это задачный локус. Устранение конкретного изъяна, конкретная деятельность ограничивает сферы используемой памяти. И, наконец, сам жизненный опыт, если он есть, проще его вспомнить, чем изобретать сызнова. Но если ничего этого нет, тогда да, приходится генерировать реальность с нуля. И в этом человек хорош. Очевидно, что это не так. Сознание не бывает пустым, независимо от влияния на рецепторы. Сновидения это подтверждают. С закрытыми глазами мы видим чёрный цвет, а не "ничто". В процессе восприятия аппарат мышления пытается выдать максимально ясную стабильную галлюцинацию, которая, якобы, соответствует чему-то извне. Мы не должны обманываться этой иллюзией, но и ничего лучшего у нас нет.

Парадокс в том, что отрицая первичную роль иллюзии, Вы пребываете в жёстком плену и зависимости от своих собственных галлюцинаций. Иного и быть, конечно, не могло, но надо же отдавать себе в этом отчёт, а не присваивать своим снам статус "объективной, независимой от меня, реальности".

Вижу смысл прокомментировать ещё только это. Конечно же масса, объём, форма, длительность, расстояние и прочие физические параметры - это такие же наши квалиа, как цвет или вкус. И чему они соответствуют "снаружи" (и соответствуют ли вообще) мы решительно не знаем. И чем раньше придёт осознание того, что 100% контента восприятия - это субъективно сгенерированный продукт, тем раньше мы перестанем толочь воду в ступе пустыми препирательствами и начнём искать ответы на действительно интересные и содержательные вопросы.

Не знаю как другие участники, но я иного варианта и не рассматриваю. Что будет? Неизвестно. Им будет сформирована некая самобытная картина мира. Важно, чтобы она хоть немного была совместима с картинами миров людей. Люди между собой договориться не могут, ввиду большой разницы между сгенерированными ими мирами. А тут ещё один искусственный генератор реальности появится. Как минимум, будет не скучно. В этой связи уместно отметить, что если человек материалист и всю жизнь изучает только свой "внешний" (как ему кажется) мир, то в части построения своих представлений об устройстве своего внутреннего мира он остаётся на уровне младенца, со всеми вытекающими осложнениями.

1. "Шизофрения" от греческого "schizo-phren" - "расщепление ума". Делайте выводы. 2. Видимо, в норме, должно быть достаточно одного мира, чтобы описывать всё многообразие бытия. Не обязательно сначала выдумывать атомы, материи, поля и прочие "внешние" атрибуты, чтобы потом через эти костыли пытаться описать механизм, который их же и придумал.

Спасибо, конечно, за мотивацию. Но лучшим стимулом, как мне кажется, было бы изложение Ваших собственных представлений о квалиа и всего, что с этим связано. Чтобы думать и общаться на такие трудные темы, как элементарное вспоминание яблока по слову, нужно всё-таки больше усердия и терпения. Этот процесс нужно рассматривать пошагово, как в замедленном воспроизведении видео, осознавая все мелкие этапы этого процесса. Если сказать человеку слово "яблоко", то сначала его слуховой аппарат уловит звуковое возбуждение и спровоцирует ум подбирать модель (механизм) для наилучшего предсказания дальнейших событий. Подберётся модель для буквы "я", на основании этого ум построит несколько вариантов того, что бы это могло быть. Если до этого были произнесены и опознаны какие-то слова, то они заведомо сузят возможный спектр вариантов. Откроется следующий временной слот "сейчас" для данного события. Далее подберётся модель для буквы "б", спектр вариантов ещё сузится. Ум скорее всего остановится на слове "яблоко", ещё до того, как оно будет полностью произнесено. Но оно уже попадёт в сознание. Временной слот закроется. Момент "сейчас" завершится и мы осознаем слово "яблоко" так, как будто оно было произнесено мгновенно. Хотя, очевидно, что это не так. Слуховой аппарат продолжит сличать звуки, сгенерированного в уме и осознаваемого слова "яблоко", с теми звуками, которые поступают с рецепторов. Если существенных отличий не будет зафиксировано, то слово "яблоко" окончательно закрепится в сознании, как свершившийся факт и отправится в память до востребования, как жизненный опыт. В привязке к тому кто и почему его произнёс. Мужчина или женщина, с каким намерением. Если при произнесении будет зафиксирован акцент, шепелявость, ошибка в слове, не то ударение - это будет отмечено. Далее ум, ввиду того, что он находится в процессе слушания, для дальнейшего построения наилучшей модели реальности вызовет из памяти в сознание весь свой багаж сведений о яблоке (вот тут возникает образ яблока, как следствие) и попытается увязать его с образами по произнесённым ранее словам. Понять в чём задача, почему и для чего сейчас идёт речь о яблоке. Построить механизм своего дальнейшего поведения, возможно, ответа на обсуждаемую яблочную проблемную тему. При этом, параллельно будут открыты ещё десятки слотов "сейчас" для построения модели реальности о мебели в помещении, погоде, политической обстановке, состоянии организма, участников диалога и т.д. Это я очень грубо, быстро и неряшливо описал. Опуская важные детали и унификации. Для настоящего моделирования в компьютере, каждый из этих этапов нужно разжевать намного медленнее и детальнее. Спешка тут неуместна.

Это иллюзия. Сначала необходимо рассмотреть и разобрать механизм работы ума, как он есть, максимально непосредственно. И только потом подбирать физические костыли, чтобы воспроизвести аналог этого механизма, его функционал, во "внешнем" мире (собственно, это и будет ИИ). А не сначала напридумывать костыли, которые годны для укладывания асфальта и собирания помидор, чтобы потом через этот неуместный инструментарий пытаться разглядеть ум. Но я понимаю откуда это - от лени, от нежелания создавать новое, и от стремления полагаться на что-то, кажущееся привычным и надёжным. Но этот лёгкий путь - ложный. Не надо искать лёгких путей. Надо искать правильные пути.

Слово "непосредственно" значит изучать и обращать внимание на то, чем и почему наполняется Ваше сознание, непосредственно. По какому принципу из памяти достаются те или иные воспоминания. На что обращается внимание и почему. Вы же опять всё материалистически вульгаризируете. Ожидаемо.