Форум создателей искусственных интеллектов

Предлагаю следующий план действий в направлении создания СИИ. 1. Составление списка мыслительных операций и процессов от простых к сложным. 2. Через дефис - описание их функций. 3. Попытаться воспроизвести эти функции на компьютере. Пишите свои мыслительные операции и процессы - с описанием их функций. Потом повторим их функции на компьютере, соединим в единое целое и получим СИИ ))). 1.Составление списка мыслительных операций и процессов от простых к сложным. где происходят мыслительные операции? в сознании поэтому начнём с сознания сознание - оперативное пространство, где над актуальной информацией(может быть в виде моделей) совершаются актуальные операции(действия). состоит из оперативного пространства и внимания к этому пространству наблюдаемое - оперативное пространство заполнено самой актуальной информацией и к чему в данный момент привлечено внимание внимание - это область на которую направлено наблюдение и извлечение актуальной информации представление образа - в оперативном пространстве, например при чтении слова "яблоко" возникает модель яблока ассоциация - поиск в памяти наиболее похожего образа(модели) узнавание, детекция - наблюдая что-то, находить его соответствие в памяти по признакам формирование образа наблюдаемого - построение модели внутри информационной системы и сохранения его в памяти сравнение - нахождение разницы(и совпадений) между сравниваемыми объектами оценка - запись результатов сравнения по степени приближения к целевому состоянию например, по шкале от -2 до +2 или очень плохо плохо норма хорошо очень хорошо возникновение потенциала действия - постановка целевого состояния при отклонении актуальных параметров ниже "порога терпения" планирование - построение плана действий для перехода из одной ситуации в другую возникновение вопроса - когда для осуществления какой-либо цели нужно знать какую-то необходимую информацию, а она неизвестна возникновение ответов - поиск необходимой информации или её синтез выбор - нахождение лучшего приемлемого варианта из множества вариантов на основании критериев выбора ------------- планируемая информационная система будет производить действия над моделями,( которая сама сформировала, с помощью своих первичных органов чувств - датчиков видеокамеры, микрофона и т.д.), а не над их идентификаторами, именами, словами, текстом, которыми шифруются эти модели, как это делают чат-боты, например чат-джипити 1,2,3....

Пробовали уже так, неоднократно, называется "экспертные системы", камень преткновения в объёме данных и алгоритмов которые следует подвергнуть ручному препарированию и хардкоду, и затем ещё и интеграции в единую систему. Чтобы сделать это даже в маломальской узкой области например в каком нибуть моделировании, требуется тысячи человеко-лет работ, про "мир в целом" речи даже не идёт, не мало алгоритмов вообще не могут быть вменяемо получены путём хардкода, те которые "далеки от физики". Поэтому сейчас все забили на ручной хардкод конкретных закономерностей, коих в мире миллионы, а полагаются на автоматику, мы хардкодим только алгоритмы которые будут затем аппроксимировать кучи примеров, выводя из них модели. В данный момент хардкодятся тн. "архитектуры нейросетей", позволяющих оптимально работать со специфическими форматами данных, которые на прямую не есть вектора с персистентной сущностью компонент.

Этот топик - похвальная инициатива. Сам когда-то таким занимался. В самом начале я считаю необходимым предостеречь от избыточной дифференциации операций. Т.е. то, что кажется отдельной операцией, может представлять собой просто побочное проявление другой операции, либо результат совместной работы нескольких операций. Поэтому в процессе составления списка операций нужно стремиться минимизировать их количество и, по возможности, сводить одно к другому без потери функционала. В целом согласен, но считаю необходимым сразу конкретизировать, что "информация"/"модели" не бывает в каком-то другом виде, кроме как в виде действующих механизмов. Даже когда мы просто видим (осознаём) сплошную белую поверхность - это процесс, разворачивающийся во времени, фиксируемый как правильный/неправильный, однозначный, различимый, отличимый. Поэтому я бы сказал, что сознание может быть наполнено только механизмами и больше ничем. На мой взгляд, внимание определяет конкретное место оперативного пространства сознания, в котором в момент "сейчас" происходит верификация правильности работы некоторого механизма, который в данный момент есть в данном месте внимания/сознания. Поиск подразумевает перебор, насколько я могу судить память организована таким образом, что из неё просто достаётся нужный кусок, который лежит на нужном месте. Т.е. ассоциация - это адресация (локализация) памяти по нескольким критериям. Склоняюсь к мысли, что таких выделенных операций нет, это иллюзия. Но она действительно неизбежно появляется, как побочный эффект при накоплении опыта. Например, у нас есть механизм "человек" и у нас есть механизм "дядя Петя". И тот и другой хранятся в некотором месте памяти и в некоторых случаях мы можем обнаружить, что "человек", как механизм, применим к операциям с "дядей Петей", но механизм "дядя Петя" не всегда применим для "человека" и из наблюдения за этим мы создаём такой механизм как "обобщение". Но это не обязательно, имхо. Поиску предшествует ожидание. Т.е. базовой операцией тут есть всё-таки ожидание. Поиск - это активное ожидание. И вообще не является базовой операцией. Такой выделенной операции тоже нет. Сам факт наличия механизма в сознании уже есть его ожиданием и его прогнозом. Бывает такое, что ты собрался что-то сделать, подумал об этом, представил это действие, и запомнил что ты его уже сделал. А "на самом деле" нет. Здесь важно уточнить, что механизмы могут верифицироваться как в "реальности" так и в "воображении". Собственно, тут уместно разделять интеллект - как машинку для генерации/верификации/запоминания/вспоминания механизмов, восприятие - как часть оперативного пространства сознания, которую мы полагаем "реальностью" и мышление (воображение) - как часть оперативного пространства сознания, в котором мы тестируем созданные механизмы до запуска их в "реальности". Сравнение - это очень важная операция её нужно детальнейше обсуждать отдельно. Стоит уточнить, что выявление одинаковостей - это ничуть не менее важная операция, чем нахождение разностей. Интеллект, похоже, так устроен, что он тяготеет обнаруживать (синтезировать) одинаковость. Если что-то можно признать таким же, как что-то иное, то это здорово экономит все ресурсы. Поэтому картина нашего восприятия не настолько детальна и дифференцирована, как могло бы быть (если верить материалистам). Если мы хотим делать AGI по честному, а не как язычники со своими чат-ботами с прицелом на эффектность, а не на эффективность, то диалогом нужно заканчивать, а не начинать. Диалог - это сложная слаженная работа всех других механизмов интеллекта-мышления. К этому можно подходить, только когда элементарные операции отработаны. Диалог подразумевает наличия в сознании механизма собеседника, механизма себя, механизма задачи, вариантов решения задачи, правил языка, механизма мира в целом. Поэтому диалог нужно оставить на самый последок. Как по мне, представление о норме или правильности - точнее. Суть существования интеллекта в том, что одни механизмы он предпочитает другим, отсюда появляется целенаправленность в поведении. Поэтому вместо оценки я бы говорил о сравнении с нормой. Тем более сравнение, как операция, уже упомянута.

Верхнее сообщение откорректировано с учётом высказанных замечаний. Возникновение потенциала действия у живого - а у ИС это отклонении актуальных параметров от нормы, т.е. если значения актуальных параметров стали ниже нижнего значения нормы(превышен порог терпения) . Норма это слишком широкое понятие. А есть много случаев, когда есть несколько вариантов выбора с оценкой норма, хорошо, отлично при равных затратах, то нужно выбирать лучшее среди множества вариантов. И в этом будет проявление интеллектуальности, и закрепление опыта в памяти на лучшем, а не на усреднённом. Можно свести главную цель, потребность Интеллектуальной Системы(ИС) к получению максимального количества плюсов и минимального количества минусов от собственного оценщика-цензора. Вот и возникает ответственность в планировании и выполнении своих действий. О чём и талдычит уже несколько сообщений подряд cortl. Эти плюсы и минусы заменят системе положительные и отрицательные ощущения биологических систем. И это заставит ИС действовать целенаправленно и интеллектуально. Нужно в ИС ввести систему ценностей. И тогда внутренние цензор и актуатор приведут ИС через поле колючек(-) и плодов(+) к пункту назначения наилучшим путём.

А чем норма отличается от ценности? По-моему, это одно и то же. Эмоциональные оценки - это животная система построения поведения. Она примитивная, необучаемая и к интеллекту имеет ортогональное отношение. При интеллектуальном построении поведения эмоции скорее мешают, чем помогают. Я бы даже сказал, подавление эмоций - это одна из физиологических функций интеллекта. Длина пути, затраты, награды, убытки - это всё опции. Нет универсального мерила "лучшести" пути. Всё зависит от системы ценностей (норм).

Я, наверно, непонятно выразился, но под + и - ощущениями, я имел в виду не эмоциональные оценки. Попробую ещё раз объяснить. По моему представлению, в "сознании" ИС, помимо оперативного пространства, есть ещё некий "наблюдатель", который сравнивает и оценивает наблюдаемое с тем, как по его мнению(в памяти "правильное" сформировано уже предыдущим опытом, хоть годы, хоть секунду назад и одобрено им же - цензором) это "должно" быть. Если оценка ниже "порога терпения", то возникает потенциал действия, , и если в памяти нет подходящего сформированного условного рефлекса(автоматизма), то потенциал действия передаётся в синтезатор алгоритма для достижения цели. А так у живых систем всё воспринимается, через ощущения, будь то это тактильные ощущения, зрительные, воображения, мышления. Всё есть ощущения(квалиа). Солипсисту это будет особенно понятно. А полярность ощущений, присущи всем живым системам, будь то мышка или учёный. Есть автоматические механизмы, заложенные от рождения имеющие полярность ощущений(например боль при превышении механического давления или щекотка). А есть механизмы сформированные опытом самой ИС и закреплённые в памяти. И всё это заставляет живую систему совершать целенаправленные действия. Без этой полярности не происходило бы никакого движения. Это я имел в виду. И это я предлагаю и собираюсь внедрить в ИС, помимо синтезатора алгоритмов. У ИС появляется, что-то вроде духа, активного начала, стремящегося к исполнению своих желаний, на основе своих "ощущений", ведущих свой путь от основных потребностей, своих норм. Положительные и отрицательные ощущения могут исходить от восприятия и механических тактильных ощущений и ощущений механизмов более высокого порядка при решении например трудной научной проблемы с помощью интеллекта. )))

Да, согласен. Именно так и есть. Вот это вопрос дискуссионный. Насколько я понял, Вы хотите ввести шкалу оценок, чтобы "как должно быть" оценивалось не порогово "да/нет", "соответствует/не соответствует", а в виде некоторой дискретной шкалы. Рассмотрим пример. На улице снег, метель, а человек забыл поменять шины в автомобиле на зимние и ему надо ехать. Насколько эта ситуация не соответствует тому, как должно быть? На мой взгляд, полностью не соответствует. Тут нет оценки и нет метрики, чтобы эту оценку выставить. Мне думается, что Вы оценки хотите использовать для ранжирования задач, чтобы ИИ мог определить, какую задачу решать прямо сейчас. Но, как мне кажется, для этого есть внимание, которое отсекает из множества несоответствий те, которые не относятся к текущей решаемой задаче. Возможно я не прав, и не хочу направить ход Ваших мыслей в неправильное русло, но хотелось бы на примерах убедиться, что такая шкала оценок имеет место быть. И если она есть, то как бы она могла работать.

Prosolver-у Давайте пока пропустим тему "насколько широко может быть пространство соответствия норме". Рассмотрим мыслительный процесс, возникающий при возникновении проблемной ситуации у человека и попытки ёё разрешить. Оформим его в виде списка мыслительных операций, чтобы потом перевести этот список в функции, а функции попробовать воспроизвести на компьютере, чтобы в дальнейшем, компьютер встретив проблемную ситуацию начал осуществлять действия, направленные на решение данной проблемы. Это станет маленьким шагом проявления интеллектуальной деятельности со стороны компьютера, но гигантским шагом для человечества. )) Итак, список мыслительных операций при обнаружении проблемы. Наблюдение интересующего пространства и сравнение его с нормой. Обнаружение "чего-то" вне пределов нормы. Действия направленные, на придания "чему-то" соответствия с нормой. --------------------------------------------- Пример проявления и не проявления интеллекта. Решили как-то сравнить интеллект прапорщика и обезьяны. Посадили их в две одинаковые комнаты со скользким шестом, бананом на шесте и палкой в углу комнаты . Обезьяна потрясла, потрясла шест — банан не падает, по шесту залезть не может. Видит палка в углу стоит, зацепила банан палкой, сидит и ест довольная. Прапорщик же трясёт шест, трясёт. Трясёт-трясёт. Час трясёт, два трясёт. Ему говорят: — Товарищ прапорщик, ну вы подумайте немного. Тот отвечает: — А чё тут думать! Трясти надо! ----------------------------------------------------- Комментарий к примеру. Вначале обезьяна действует по заученному действию - трясёт шест. Затем происходит оценка результата этого действия. Оценка отрицательная. Интеллектуальная система обезьяны сталкивается с непривычной ситуацией, на которую у неё не было заранее сформировано автоматическое действие. Включается "синтезатор алгоритмов". Возникает процесс синтеза другого действия, которое может привести к целевой ситуации. Происходит обобщение ситуации. цель - соединение руки обезьяны(объекта №1) с бананом(объекта №2) В памяти находится эта общая ситуация и способы её решения общая целевая ситуация - соединение объекта №1 с объектом №2 способы её достижения 1."объект №1 перемещается к объекту №2" - этот вариант отпадает, так как обезьяна не может залезть по скользкому шесту. 2."объект №2 перемещается к объекту №1" переход от общего к частному банан движется к руке обезьяны как? Память и подсказывает - с помощью гравитации. Воображение рисует падающий банан обезьяне в руки. Почему он не падает? Какая-то связь держит банан. Это плохо Возникает подзадача - прекратить связь банана с шестом. Возникает вопрос - как это сделать? Память подсказывает ассоциации - 1.кинуть что-то. 2. удлинителем руки. и т.д. есть что кинуть? поиск результат - нет удлинитель руки есть? поиск результат - есть - палка в углу комнаты подходит по параметрам. Сформирован новый алгоритм. Обезьяна пробует его осуществить. Получилось. Положительный опыт закреплён в памяти. Прапорщик же действует по заученному автоматическому алгоритму действия, не может оценить эффективность этого действия, не может сформировать новый план действия. Обезьяна интеллектуальна, прапорщик нет. Тряска прапорщиком шеста с бананом может затянуться на десятилетия, что наблюдается на примере спора солипсиста с материалистом.

А если постоянно возникает все новая проблема, которой нет в списке? Вы будете дополнять список... вечно? Вы как прапорщик, трясущий шест....

Мне определённо нравится Ваш подход. В последнее время я это понимаю и объясняю так, что наблюдается работа некоторого механизма, и фиксируется, работает он правильно (нормально) или нет. Это несколько сложнее и шире, чем просто "сравнение с нормой", но зато более точное и универсальное описание. Как мне сейчас кажется. Допустим. А действие это всегда должно быть одним и тем же - синтез некоторого механизма, который должен работать правильно, нормально. Т.е. неправильно работающий механизм можно исправить только с помощью другого механизма, который работает правильно. Это очень важный принцип. Давайте вот эту сцену разберём чуть детальнее и медленнее. Вначале у интеллектуальной обезъяны должно быть отклонение от нормы, чтобы была проблемная ситуация. В чём состоит норма, какой механизм должен работать нормально? Очевидно, что норма эта: "обезьяна сыта". Если обезъяна наблюдает свою сытость, то всё в норме, её не интересует ни банан, ни шест. Предположим, обезьяна голодна, это отклонение от нормы. Обезьяна наблюдает неправильную работу механизма "обезъяна сыта". Само это отклонение от нормы провоцирует синтез механизма, правильная работа которого направлена на исправление этого отклонения. Теперь важный момент. Есть ли у обезьяны варианты механизмов, которые можно синтезировать в этой ситуации? Видимо нет. Вариант один, синтез механизма "еда". Обезьяна синтезирует и запускает механизм "еда". Работает ли он правильно? Нет, тоже не работает. Еда не наблюдается. Чтобы наладить работу этого механизма запускается механизм "поиск еды". И так далее. Некоторую трудность тут вызывают такие вопросы: Как быть, если одновременно несколько механизмов требуют приведения своей работы в норму? Как быть, если есть несколько вариантов механизмов для приведения в норму? Вариативность - это принципиальная особенность интеллекта. Если инстинкт и рефлекс всегда делают одно и то же, то интеллект может с ходом жизненного опыта дрейфовать от одних предпочтений к другим. Да, работающий механизм - это позитивное подкрепление для его запоминания и повторного применения. Мне кажется, юмор этой сценки в другом. У прапорщика, в отличие от обезьяны, всё работает правильно. У обезьяны ряд механизмов работает неправильно ("обезъяна сыта", "есть еда", "банан в руке" и т.д. - не работает) А у прапорщика один механизм: "нужно действовать по уставу" и он работает правильно. Если по уставу надо трясти шест, он его трясёт. В этом смысле прапор даже интеллектуальнее макаки, потому что обезьяна никак не может служить уставу, а прапор - может. Кстати, организм тоже иногда проявляет такое тупое "усердие", если, например в организме вирусная инфекция, то гипоталамус может задрать температуру тела и "трясти" его так, пока сам с ним не сгорит. Итого. Системно я вижу картинку таким образом, что интеллект делает 3 базовые операции: синтез механизма, запуск механизма и контроль правильности его работы. Если механизм работает неправильно, всё, что интеллект может сделать, это синтезировать другой механизм, запустить его и проверить, что он работает правильно и т.д. В помощь ему есть память, которая подсовывает готовые кусочки механизмов или целые механизмы. И в помощь ему есть автоматизмы, которые синтезируются и запускаются вне интеллекта (в спинном мозге), в автоматическом режиме и берут на себя львиную долю рутины, освобождая интеллект для "строительства космических кораблей, которые бороздят большой театр". Я думаю, в данном процессе, каждый получает свой "банан". Материалист - выговаривает свои проблемы, как у психоаналитика. А солипсист - оттачивает свои формулировки.

Как отправная точка вполне годная, не плохая высокоуровневая таксономия процессов в нервной системе человека, что может быть стартом для дальнейшей работы. Если уж вставлять свои 5 копеек, то в таксон восприятие я бы воткнул прежде всего сенсорное распознавание, то есть то самое банальное распознавание образов, как нейросетка классифицирует XOR или MNIST, что нервные системы научились делать со времён губок и медуз. В случае человека, "глубина" нейросеток выше, и модель распознавания сложнее. Тут главное не залезть в следующий таксон, который оперирует "абстракциями", "косвенностями" и тут мы говорим о мышлении. Мышление\интеллект много более загадочно и дискуссионно, чем восприятие, очевидно глупо даже сравнивать нынешние LLM поделки с тем что мы называем "мышлением" или "интеллектом". Мышление оперирует уже не векторами образов(преобразованными сырыми данными с сенсоров), но их так сказать "сжатой формой", на подобии как в компе, большие структуры данных передаются в виде адреса памяти, а не путём копирования всех байтов структуры данных, но с мнемоническими псевдонимами этих адресов. Возникает "язык", обладающий своей архитектурой и логикой, частично отражающий логики мира, который он описывает, а также паттернов мышления\интеллекта которые характерны для нас. "Сознание" как часть мышления\интеллекта, можно также выделить(а можно и нет). Вообще что относить к "сознанию" тоже вопрос дисскусионный и конвенциональный. Например такой процесс как "внимание", то есть грубо говоря логика фокусировки на том или ином фрагменте сенсорного ланшафта или внутреннем потоке асбтракций, часть уважаемых мужей считают "сознанием". То есть даже у рептилий в таком случае есть рудименты сознания, в виде ориентировочного рефлекса. Другие относят к "сознанию", "высшие" формы интеллекта\мышления, а именно "самосознание" и тп.

В рамках данного топика окончательные решения, очевидно, за Сергеем Шуваловым, как за модератором. Но с моей точки зрения, коль скоро Вы прокомментировали мой пост, выделять в восприятии некое "распознавание" - контрпродуктивно. Интеллект, мышление и восприятие - это высокоинтегрированный комплекс, неразделимый на строгие блоки. Интеллект является отличительной особенность именно человеческого типа когнитивности. Именно он, имхо, генерирует реальность в виде и объектов восприятия, и объектов мышления, и объектов волеизъявления. С этой точки зрения, нелепо "распознавать" продукт своего интеллекта в сигналах от видеокамеры. Продукт своего интеллекта нужно сначала создать, а потом оттестировать его на рецепторах (это акт узнавания) и на эффекторах (это акт волеизъявления). И очевидно, что каждый из этих аспектов не работает без других. Например, чтобы распознать предмет иногда нужно взять его в руки и покрутить (т.е. акт распознавания оказывается следствием актов волеизъявления). И ещё чаще, чтобы распознать ситуацию нужно подумать (например, ничейная позиция в шахматах она распознаётся, грубо говоря, зрением или умом?), т.е. распознавание становится результатом мышления. А акт волеизъявления без предварительного раздумья и последующего восприятия вообще бесполезен. Поэтому я за интеграцию и унификацию. Распознавание должно стать частным следствием слаженной работы интеллекта, восприятия и мышления в операционном пространстве сознания при поддержке памяти.

"Разделяй и властвуй" — дивиз не только военачальников но инженеров с программистами, причем думаю инженеров это больше касается, буквально на каждом шагу, нежели военачальников. Взять например тот же компьютер, или автомобиль, всё со всем тоже взаимосвязано, но есть тем не менее отдельные компоненты с заданным интерфейсом и требованиями, тоже относится к любой системе, включая человеческий мозг. "Восприятие" появилось у одноклеточной жизни, любой реакции, изменение поведения в ответ на воздействие из вне, предшествует акт восприятия. Конкретно наш мозг состоит из многоэтажной иерархии модулей, "надстроенных" сверху, которые ранее были самостоятельным "мозгом", а теперь частично либо полностью сменили список обязанностей. Фактически всё можно свести к своего рода "сложному восприятию\моделированию", и не вводя в дополнение мышление\интеллект, это только для нашего удобства и следствие нашего биологического наследия, которое неумело делать масштабную переработку, а только рефакторило и костылики допиливало. Распознавание в данном контексте всё равно что моделирование. Мы строим функцию, которая по примерам даёт результат близкий к примерам, прогноз это распознавание временных рядов. Технически, гипотетический СИИ, может быть такой сложной функцией, вообще без каких либо фетишей вроде "сознания", а тем более рудиментов вроде "эмоций", но имея информацию что это за конструкты и как они работают. И этот СИИ мог бы выполнять ВСЁ, что делает человек, лучше человека, при этом будучи вообще устроен другим способом. Это уже обсуждалось многократно и все согласны с тем что СИИ не необходимо ни сознание ни эмоции ни даже человеческий сенсорно-моторный опыт, чтобы решать любые задачи, в том числе симулировать поведение подобное человеческому.

Нет. Что тогда будете передавать в "функцию" и получать из неё?"