Форум создателей искусственных интеллектов

Жаль, конечно, что мне не удалось донести мысль, что уровень мотивации "сохраняй опыт сохранения опыта" гораздо ближе к уровню естественного отбора, чем "жри, ебись, командуй".

Правильно - это посыл в будущее. Приятно - это якорь (не самый неправильный) в прошлом. Интеллектуальные и духовные мотивы действий могут быть правильнее эмоциональных. Как ни странно, на разных фазах общественного развития особи эмоции могут быть "умнее" рационального выбора.

Чес гря я всё не осилил. Хочу сразу определиться с терминологией: если говорим в терминах баз данных (а про память можно говорить так), то желательно рассуждать о правилах и средствах нормализации этих баз, об их реакциях, в случаях если для инсёрта нет ресурсов, а для селекта нет данных. Распределённость/локализованность этих баз принципиального значения по отношению к поставленным вопросам не имеет. Однако, характеристики агентов/процедур их обслуживающих могут быть интересны. Поэтому мне больше нравится говорить об отражениях внешних явлений в рефлектирующей среде и эволюции ролей агентов-носителей частей этих отражений. Ведь важно понять кто и ради чего всё это делает.

Мы вытанцовываем где-то в районе т.н. любви, т.е. переноса ценности со своей собственности на то, что раньше собственностью не казалось. Ты оперируешь слишком высокими понятиями. У них есть прообразы попроще.

Видишь ли, программы управляют транзисторами, микропрограммы управляют транзисторами, алгоритмы, заложенные в конструкцию транзисторных автоматов управляют транзисторами, всё это может самомодифицироваться. В таком разрезе я бы лучше сформулировал 2 вопроса: 1) как организовать взаимодействие элементарных самообучающихся агентов, чтобы получить самообучающуюся систему высшего порядка (рой и даже организм)? 2) сделает ли этих агентов борьба за выживание эффективнее в задаче №1? Т.е. нужно ли агенту в комплект к смене поведения добавить смерть и размножение? Их же можно заменить копированием с затиранием. Разница только в отсутствии массовых вымираний с потерей коммуникаций. Особенно интересен вопрос распределения подкреплений, - ведь рост и умирание особи могут не зависеть от успеха или провала сообщества. Не зря же говорят про награждение непричастных и наказание невиновных.

Явление = Всё, что угодно. Порядок - более общее и немного другое явление по сравнению со способностью. Можно использовать для явления названия разного уровня общности в зависимости от контекста, - лишь бы другие поняли.

Понятия символа, знака, обозначения и т.п. можно расширить до чего угодно, связанного с явлением, но не являющегося им, и используемого вместо него при формировании реакций и интенций. Т.е. восприятие без формирования символов - бессмыслица. И мышление, чувствование как цепь самовосприятий - тоже.

Интеллект - это точно явление, в котором, очевидно, присутствуют связность и повторяемость (структура), которая позволяет носителю интеллекта целенаправленно действовать (способнсть). Как их разделить?

Я так и понял его. Все знают, что символ - это картинка или звук. Но в нашем случае, кмк, лучше расширить это понятие объединить все его контексты применения. Потому что, ИМХО, передача и трансформация символов - это основа, суть мышления и чувствования.

Забавно, но по-моему все связи контекстно зависимы, т.е. возьмёте одно окружение - связь (тоже, кстати, символ, имя) между двумя символами будет, а в другом - нет. Связь связей нужна, получается.

Давай попробуем сконструировать элементарный самообучающийся автомат. Не будешь возражать, что обучение проходит в три фазы (момента, за три тика): вопроса (оно же восприятие), генерации ответа и закреплении связки вопрос-ответ (оценки)? После акта обучения на один и тот же вопрос чаще (т.е. достаточно часто для выживания) будет выдаваться закреплённый ответ. Это пример адаптации в контексте вопрос-правильный (т.е. с отличной оценкой) ответ. Но мир не так прост, а поэтому внешний контекст вопрос-правильный ответ сам зависит от других контекстов, а для адаптации требуются, как минимум, агент, способный воспринять вопрос (рецептор), и агент, способный сгенерить правильный ответ (эффектор). Эти вопросы и ответы могут быть совершенно разной природы, но при этом, чтобы различать контексты, агенты должны уметь общаться на одном языке или через других посредников-переводчиков. Рецепторы и эффекторы формируют внешнюю оболочку сообщества, внутри которого на первый план выходят каналы связи (групповые (они же затратные широковещательные) и индивидуальные, в т.ч. одно- и двунаправленные) и их иерархия, причём, по каналам, связующим домены интенсивного общения не обязательно должен гоняться трафик без потерь. Для явлений одной природы, но сложной структуры тоже нужны подходящие агенты, способные отличать вопросы один от другого и генерить достаточно богатое множество ответов, включая простой аддитивный "навал", например. Эволюция идёт по направлениям формирования оболочек и взаимодействий между ними. На макро-уровне это приводит к формированию супер-агента, который на весь спектр внешних состояний и тенденций к их изменению (истории) будет реагировать широким спектром своих состояний с планом по их изменению, чтобы максимизировать разнообразие и объём подкреплений. ДНК в клетке окружена массой систем, переводящих её информацию во взаимодействие с миром. По-сути, это всё оболочки, несущие разные функции. Например липидная оболочка и цитоплазма обеспечивают общение между всеми компонентами, т.е. являются ответом на вопрос: "а что если растащить или обездвижить всё это?" Кстати, заметил, что контекст = текст - символ? И что все агенты - это контекстно-зависимые групповые разнонаправленные связи? И что оболочки и внешние ограничения, граничные условия - это разные явления? Их-то жизнь прорывает, не всегда давая правильные ответы на привычные вопросы.

А моя ИМХА заключается в том, что интеллект, конечно, попытается примерить на любую задачу самые привычные в данном контексте решения (самый эффективный подход). Потом посвязывает-пооценивает что-нибудь из других эшелонов привычности. А потом, вдруг, совершенно внезапно и параллельно (но не независимо!) предыдущим процессам проложит совершенно новый путь к решению. Настоящий интеллект должен всё это мочь. В отличие от Эгга, который думает, что всё произойдёт не скоро, я исполнен оптимизма. А основанием для этого является тот факт, что история подкреплений конечна, а совокупное (т.е. по всем особям) будущее гораздо продолжительнее. Понятно о чём я?

Да. К тому же, ещё и тыка в правильном направлении, но такого, что никакие привычные правила/методики его не подскажут. Кроме одного: сделай что-нибудь не так, как всегда, даже если страшновато. К сожалению, чисто стохастическая методика не годится для определения, что и когда сделать не так. Но с точки зрения элементарного рефлектирующего агента нужно сделать "так" ровно столько раз, сколько раз получал подкрепление этой связки и один разок сделать не так. Всё немного сложнее, конечно. Но выбирая место и частоту исходя из отношений количеств и весов негативных и позитивных оценок, можно добиться успеха, кмк. На ансамбле таких независимо действующих агентов эффекты должны выглядеть сложнее. Разработка такой среды не очень сложна даже в распределённом варианте, а вот создание внешних оболочек, в которых она будет приносить пользу, а не кошмар, - это вопрос. Я тут подумал, что и для изменчивости ДНК космические лучи не обязательны. Она тоже может меняться целенаправленно, без ущерба для базовых функций и без участия внешнего по отношению к организму отбора..

Я не утверждаю, но подозреваю, что можно делать отдельные участки более или менее подверженными мутациям, а также склонность к мутациям может зависеть от состояния организма.

Интересно, уже были случаи, когда китайская система социальных рейтингов самомодифицировалась через операторов и разработчиков?

Мне нравится твой подход. Очень интересный. Начинай, конечно.

Кстати, эти Азимовские роботы нарушили закон про бездействие. Они пройдут "естественный" отбор и научаться общаться друг с другом по поводу того, что хорошо, а что опасно для человека. В принципе, азимовские законы нужно переопределить: объединить людей и роботов в общество, назначить людей привилегированными членами общества, определить, какой вред в приоритете и обязать всех по мере возможности общаться, по мере возможности заботится о других и по мере возможности о себе, по мере возможности не стесняя чью-либо свободу. Т.е. люди тоже обязаны заботиться о полезности, безопасности и сохранности роботов. Быть может, это поможет снизить вероятность того, что роботы начнут приносить вред, впадая в кататонический ступор или в шизофреническую активность. Вред неизбежен, но можно всё сбалансировать так, чтобы он стал минимален для общества и не превышал пользы.

Я про самомодификацию говорю. У меня есть подозрение, что этот механизм существует испокон, просто, на него пока не обратили внимания, считая каким-нибудь побочным эффектом, например. Он нужен, иначе эволюции придётся шагать по слишком высоким ступеням.

Гы-гы. Бог из ДНК. Отточим формулировки: не самомодифицирующийся, а адаптивный мутагенез.

Во истину! Очень удачная иллюстрация. Однако, я говорил именно про ДНК. На мой взгляд, есть в клетке ещё, как минимум, одно подтверждение того, что адаптивный мутагенез ДНК в рамках любой клетки вне фазы размножения может существовать. Я тут вещал уже про парадокс жизни: нужно меняться, чтобы сохраниться. А появление парадокса, как известно, говорит о том, что что-то от чего-то пора отделить. Речь идёт о том, что подкрепление может быть не только вбросом материала для достройки структуры, но и частичным разрушением её. Рефлексирующая оболочка непременно присвоит и использует такие частично разрушающие факторы. Ну, а фатально разрушающие факторы просто выведут систему на казнь через естественный внешний отбор. Пример: система воспроизведения белков и ДНК в целом, в которой есть факторы отделяющие куски и даже целые участки ДНК от матрицы. Кстати, это говорит ещё и о том, что можно говорить об оболочках, определяющих область действия таких факторов.