Форум создателей искусственных интеллектов

Всем привет! Вот уже 4 года наша команда (нас пока двое) на голом энтузиазме занимается практическим моделированием индивидуальной системы адаптивности на основе теории МВАП (Модель волевой адаптивности психики). Проект назвали Beast. Сама теория рождалась в течении более 30 лет. Это относится к разработке искусственных систем, обладающих сознанием. Но не знаю какая аббревиатура для них полагается, поэтому пусть пока будет AGI. На сегодняшний день в работе уже третья версия прототипа, есть несколько публикаций в ВАК журналах и множество материалов по теории: статей, рецензий на чужие статьи, книг. Вообще темой гомеостатических агентов мало кто занимается, мне попадалось лишь несколько ссылок, но там в основном теория и общие рассуждения, в редких случаях какие то элементы психических механизмов. Мы пытаемся как то повлиять на это, изменить устоявшееся убеждение, что понятия разум, сознание – это что то запредельно сложное и непостижимое, а потому невоспроизводимое в искусственных системах. Суть идеи в следующем: невозможно получить субъективное восприятие у искусственной системы индивидуальной адаптивности, если у нее нет базовой системы значимости. У живых существ это система гомеостаза, определяющая гомеостатические цели реагирования. Они состоят в том, чтобы поддерживать в пределах оптимума значения критически важных жизненных параметров, выход за пределы которых уничтожает систему. То есть собственно отличие живого объекта от неживого состоит в наличии или отсутствии у него системы гомеостаза. Поэтому, если ставится задача создать ИИ, способный к субъективному восприятию реальности, произвольности выбора – это должна быть система с искусственным гомеостазом. То есть, проще говоря: система должна быть живой, причем не в аллегорическом смысле, а прямом. И вся адаптивность, вплоть до высшей нервной деятельности, строится на основе гомеостатических целей. Звучит диковато потому, что понятие «живое» привычно воспринимается только по отношению к биологическим организмам, а не механизмам и тем более программам. Но один из постулатов теории МВАП: Основные принципы и механизмы эволюционного развития индивидуальной адаптивности не зависят от способа их реализации и могут быть реализованы любым подходящим способом, в том числе на дискретных электронных элементах и даже программным путем. Все материалы по проекту собраны на p-mvap.ru. Здесь готов ответить на все вопросы по нему.

Привет! Добро пожаловать. Возник ряд вопросов. Программная реализация прототипа есть? Или пока только теория? Сам раньше так думал, потом отказался от этой идеи. Вы, видимо, являетесь последовательным сторонником эволюционной парадигмы, и пытаетесь, как и многие до Вас, натянуть сову на глобус выразить интеллект через выживание. Но это дохлый номер, каждый год примерно 1 миллион интеллектов очень изобретательно заканчивает своё существование суицидом. Да и вообще люди ведут свои жизни из рук вон плохо, едят не пойми что, колются непроверенными вакцинами, ходят по тёмным подворотням. Поэтому интеллект это не про выживание. Интеллект - это про создание механизмов для любых целей. В том числе для выживания, как частный случай. Когда математик выводит, например, формулу решения уравнений, у него в гомеостаз что приходит? Благодарю за заполнение анкеты, сразу ясно к какому идеологическому кластеру Вы себя относите. Непонятно только, основная функция интеллекта всё же "поддерживать гомеостаз" или "создавать новое". Мне кажется это взаимоисключающие вещи. Потому что стремление к новому это нечто противоречащее гомеостазу. Как Вы решаете это противоречие? Также в анкете Вы отметили, что для ИИ необходимы эмоции. Зачем? Это что-то библейское? Хотите устроить апокалипсис?

Желательно это показать, вот LLM относится к AGI потому, что умеет строить модели внешнего мира. Просто обладать сознанием, мне кажется, не достаточно. Вот по Лаврику даже отдельная клетка обладает сознанием, но она ведь не тянет на AGI. Прямой смысл жизни - это способность к репликации, ваши системы умеют себя воспроизводить? А какие еще есть варианты, кроме "программного" пути? (всяческие FPGA я отношу к этому же классу)

Есть уже третья версия программной реализации в виде прототипа. Согласно нашей теории: Интеллект - жизненный опыт, не требующий осмысления, база моторных и ментальных автоматизмов высокой степени уверенности, и потому выполняемых без осмысления. Формируется при помощи информационных функций, выдающих вариант решения, чтобы затем использовать его как пробный, при прогнозировании последствий предполагаемых действий, через субъективную оценку «станет Лучше» или «станет Хуже». Успешно выполненный пробный вариант действий добавляется в базу автоматизмов. Разум - способность использовать механизмы творчества для решения новых проблем. Цель реагирования живой системы: Гомеостатическая - вернуться в базовое состояние Норма Ментальная - достижение заданного результата решения проблемы, получившей произвольно высокую значимость. Ментальные цели могут перекрывать гомеостатические, так как возникают в процессе интеллектуального поиска решения в виде построения прогнозов последствий реагирования. Но гомеостатические цели всегда предшествуют ментальным. Это по поводу суицида. Он решает отложенную задачу ставшую доминирующей. Решение вызывает вознаграждение – эмоциональное удовлетворение. Гомеостаз тут заложен как и во всей психической деятельности в виде фоновых стилей реагирования: решать можно будучи голодным, злым, усталым и т. д. И в каждом случае результат будет иной, в том числе и само желание что то решать. Функциональность механизмов сознания – нахождение действия, альтернативного привычному. Это не возможно сделать одними лишь прогнозированиями по правилам реагирования, формируемых на основе кадров эпизодических памяти со структурой: Стимул – Ответ – Эффект. Требуется более глубокое абстрагирование, поэтому ментальные автоматизмы (ветвление мыслей) «модулируются» уже не гомеостатическими стилями поведения (базовыми контекстами) как рефлексы и моторные автоматизмы, а эмоциональными, которые по умолчанию ассоциируются с гомеостатическими, но могут произвольно меняться. Эмоции нужны, чтобы действовать вопреки гомеостазу, чтобы находить альтернативные решения. Какая разница как называть.

Показать что – продемонстрировать наличие сознания у прототипа? Нет проблемы сделать робота, делающих других роботов. У нас программный прототип. Определение жизни в нашей интерпретации это то, что имеет систему поддержания параметров стабильности существования с помощью не менее, чем следующих адаптивных стилей поведения: поисковое, пищевое, оборонительное, агрессивное и репликационное. А в кратком определении – это просто функционирование системы гомеостаза, которая и задает эти минимально необходимые стили для выживания вида. И в определении гомеостаза живого существа главное не перечень регулируемых жизненных параметров, а перечень адаптивных стилей поведения для их регулировки. Так, пищевое поведение - не обязательно пополнение глюкозы. Для одних пищевой стиль регулирует уровень глюкозы, для других - керосина, для третьих - заряда аккумуляторов. Например, на дискретных элементах типа нейристоров. Там будет отличная от программной реализация, но принципы будут аналогичны.

Показать, что достаточным условием AGI есть наличие сознания. Вау! Тогда вам нужно к Маску, он то ли пять десятков ядров то ли сотню выложил на решение этой проблемы. И пока (вслед за всем научно-инженерным сообществом) не знает как. Хорошо, что вы знаете. Мой любимый вопрос традиционно относится к геологоразведке лития и цинка. Внутри программного прототипа выживание - это вообще не проблема. Это просто мозаика памяти. Проблема рубильника в руках сторожа, покидающего серверную - вот реальная проблема выживания в программном прототипе.

Мы как бы о разном говорим. Интеллект != сознание так же как мастерство != творчество. Поэтому AGI как способность делать все более глубокие обобщения может развиваться сколь угодно и это само по себе не будет движение к сознанию, и даже к ощущению потому, что это не нужно для моторных действий. Это собственно и подтверждают существующие модели, где нет никаких ощущений и гомеостазов. Мы разделяем 4 уровня сознания в прототипе: Первый уровень – отслеживание моторных автоматизмов, готовых выполниться в данных условиях. В опасной ситуации они просто выполняются, в противном случае проверяется возможный вред и последствия выполнения так, что автоматизм может быть заблокирован и выполнен найденный альтернативный или вообще не совершено действие. Этот уровень не вносит ощутимую задержку на обдумывание, если только не встречается малознакомый объект при напряженной ситуации. Стоит учитывать, что кроме моторных автоматизмов есть класс реакций на основе психики, которые обычно относят к неорганической психопатологии в виду их чрезмерности и навязчивости, но на самом деле являются психосоматическими автоматизмами, у которых есть как полезная функция, так и негативный субъективный эффект. Второй уровень – если на первом уровне не найдено решение – попытка найти подходящее действие, используя Правила. Это уровень импровизации имеющих достаточный опыт особей. Так ведутся шахматные партии-блиц, делаются артистические экспромты, ведется беседа. Третий уровень – раз не найдено решение, то необходимо мышление об этом. Мышление может проходить в двух режимах: 1) есть определенная цель, задающая направление - активный режим решения проблемы и 2) в спокойном состоянии нет определенной цели и необходимости решения проблемы - пассивный режим. Мышление - это изменение общей информационной картины при запросах к информационным функциям в течении цикла решения проблемы. В контексте текущего состояния инфо-картины выбирается подходящая информационная функция для получения целевой информации, после чего полученная информация дополняет информационную картину. Этот процесс может идти до нахождения решения проблемной ситуации или цикл мышления прерывается более актуальными стимулами и переходит в фоновое состояние, где (в неосознанном состоянии), по возможности, продолжается решение проблемы. Циклы мышления возникают на третьем уровне осмысления, если не первых двух не удается найти подходящее целевое действие. Для поиска решений в различных режимах осмысления (бодрствование, сновидение, мечтания, лень) и текущей особенности ситуации – используются Информационные функции - в каждом из шагов итерации мышления. Четвертый уровень – если решение целевой проблемы не находится более 3-х раз, создается Доминанта нерешенной проблемы – постоянно существующая структура, где запоминается проблема, условия и попытки ее решения. Доминанта активируется во многих местах адаптивных механизмов и позволяет находить решение новым способом – по аналогии. При удачном решении и его реальной проверке, доминанта закрывается (закрытие гештальта), но остается в базе опыта решений. Доминанта — это просто пролонгированная важная Цель. Повышенное время существования Доминанты повышает шансы найти решение по аналогии с уже совершаемым действием. Активная Доминанта, если она есть, все время сопровождает появление новой инфы восприятия так, чтобы была возможность найти решение по аналогии. Решенная Доминанта является третьим типом формирования автоматизмов на уровне пятой ступени развития: творческое формирование автоматизма. Решенные Доминанты являются источниками личного опыта и аналогов решения проблем. Здесь не понял. Я про процесс копирования, конвейер штампующих роботов. Вы судя по всему про проектирование. Проблема внезапного астероида в 100 км также пока не решаема для нашей белковой формы жизни.

Ой. Это вы начали говорить, что сознание = AGI. Покажите, если начали. Если не можете показать, не говорите. А конвейер тоже роботы наштамповали? Отключение сервера все-таки более вероятное событие, давайте вернемся к нему. На уровне кода НЕТ НИКАКОЙ ПРОБЛЕМЫ ГОМЕОСТАЗА, там нет никаких обменов и нет никакой среды. Это вам всё показалось. Там память и адресный конвейер процессоров. Всё.

Я сказал, что не знаю, как по буржуйски называется то направление, которым мы занимаемся, и типа пусть пока будет AGI. Но да, согласен, что это вряд ли корректно. Но из альтернатив попадалось только гомеостатический агент, как то не очень звучит. Репликация, как механизм, легко воспроизводим алгоритмически. Поэтому говорить о нем, как обязательном атрибуте только живых существ не корректно. Я только это имел в виду. При чем тут кто создал механизм и прототип реплики? В прототипе запрограммировано, что при уменьшении параметра Энергобаланс до близких к 0 модель умирает – тупо вырубается. Включить обратно можно, если залезть в файлы настроек и вручную поправить параметры. Это реальная проблема для прототипа – без внешнего вмешательства оператора он не оживет. Штатное же выключение это просто для удобства, чтобы не держать комп все время включенным. Если искать в коде - это пакет undestanding

Вот кстати буржуи копают в похожем направлении, но там как я понял только теория.

Ваши AGI к живому не имеют никакого отношения. Клетка - элементарный интеллект, без всяких там высосанных из пальца довесков. Прямой смысл жизни - противодействие необратимому распаду (смерти).

Смерти вида. Что и обеспечивается наличием системы гомеостаза, позволяющих реализовать минимально необходимые для этого стили поведения: поисковый, пищевой, оборонительный, агрессивный и репликационны. Для этого в простейшей реализации не требуется ни сознания, ни ощущения, достаточно тупо механически (рефлекторно) реагировать + достаточная плодовитость, чтобы был шанс хоть кому то уцелеть. А вот вопрос, зачем тогда понадобилось сознание, самоощущение, если "и так все работает" - мы и пытаемся показать в теории МВАП и на примере реализации прототипа.

Интеллект, низведённый до автоматизма, не внушает никакого оптимизма. А интеллеет как база данных - это что-то совсем унылое.

Какого вида ?! Да ни одна живая тварь про вид свой даже не догадывается, и ничего не знает, что она оказывается какого-то вида-рода-типа...

Насколько известно, такими игрушками ещё в 60-х прошлого века вовсю боловались.

Ей не нужно догадываться. Просто, если ее рефлексы гомеостаза не будут выдавать определенные реакции, она погибнет, не оставив потомства. Поэтому выживают и размножаются только те, кто правильно реагирует.

Жить можно и не размножаясь. И из чего следует, что жизнь с потомством лучше жизни без потомства ?

Живое существо кто то должен родить. Это не вопрос выбора, что лучше. Если бы репликационный стиль реагирования не закрепился в виде инстинкта, все живое тупо вымерло бы. Поэтому репликация обязательный атрибут живого существа.

Еще одна новость для меня, мы, вот, например, с фон Нейманном так не считаем. Ему потребовалось 29 состояний для того, чтобы описать такой автомат. Вас не затруднить дать ссылку на ваше решение.

Да никто никому ничего не должен. Родился - будешь жить. Не родился - никто сокрушаться не станет. То, что живое имеет потенциал к размножению, не говорит о том, что в нём и есть т.н. "смысл жизни". Мёртвые, например, не размножаются, а чтобы им не стать, нужно очень и очень постараться, хотя, иногда и это не помогает. Вовсе нет. Разве Вы назовёте жизнь некоего существа ущербной, если оно, противостоя агрессивной среде и полагаясь лишь на свой ум и сообразительность, живёт вполне себе сытую и довольную свою собственную жизнь, ни с кем ею не делясь ? Вот Вы, например, с какой целью размножаетесь ? Так болеете за судьбу цивилизации, что не можете не поучаствовать в преумножении народонаселения планеты ? Думаю, что эта мысль Вас даже в последнюю очередь не посещает в процессе, так сказать, размножения, несмотря на то, что Вы - существо разумное конечно же, способное целенаправленно и осознанно выполнить столь важную миссию. Однако... Вы возразите, разумеется, что лучше и надёжнее поручить такое ответственное дело тупому автомату, пусть в виде какого-то там "инстинкта", но(!) жизнь отдельно взятого - не абстрактная вообще, до которой никому дела нет - существа не остановится, если автомат сломается, и нужно продолжать жить. Кстати, Вы видели хоть одного кастрированного кота, который на этой почве собрался бы покончить с жизнью посредством самоубийства ? Но он - живой, и без этой Вашей потенции (даже без неё !) будет за свою жизнь драться до последнего. Ради чего, спрашивается ? Какова роль "атрибута", от которого остались одни лишь воспоминания ? А что делать с людьми бесплодными или импотентами ? Они что - становятся в некотором, известном Вам смысле, менее живыми ? Скорее мёртвыми ?