Форум создателей искусственных интеллектов

Научпоп злую шутку играет иногда. Много смотрел фильмов и читал про большой взрыв но только недавно узнал что расширялась не точка, а горизонт частиц. Тяжело познавать мир через журналистов, часто упрощения приводят к критическим искажениям. Недавно заинтересовался вопросом откуда водяной лёд и органика в кометах, как происходят химические реакции в облаках газа, ведь окисление с выделением энергии проходит. Кстати горение водорода очень сложный процесс с множеством этапов. Вот пример хорошей статьи. Она понятна, за исключением пылинок. А вот для углубления в вопрос надо читать плохие статьи, непонятные. Также про молекулярные колебания пришлось почитать. Всё важно, даже то что ДНК прошло отбор под ультрафиолетом. Вибрации интересны с точки зрения рефлексии на гармонические колебания, а также относительно электро-волновой активности мозга. И кстати некоторые химические реакции проходят на десятки порядков быстрее при криогенных температурах а не при комнатных, за счёт туннельного эффекта. Но не об этом сейчас. А о том что специфическая терминология создаёт высокий порог вхождения в общем-то простые вещи. Долго пытался понять что там Перельман доказал, пока Савватеева не посмотрел. В общем считаю что наше природное свойство к упрощению, моделированию, поможет увидеть простой процесс в сложном. Все таки надо не забывать сильные стороны мозга. Взять например стальную балку и несколько поддонов кирпичей, которые она должна выдержать. Нужно взять сталь на анализ, узнать сколько в ней углерода, плотность кирпичей замерить, на объём умножить, а можно постучать молотком, послушать как звенит, кирпич подбросить, объём на глаз покинуть и понять, как то интуитивно, что выдержит. От куда знаю не знаю, но чувствую что выдержит. Число Грэма не один компьютер не вычислит, а человек в силу способности своей к сжатию и упрощению, не в деталях конечно, но представить себе такое число способен.

Новая аналогия в голову пришла, в попытках охарактеризовать то, чего нет. В романе Питера Уоттса "Ложная слепота" сюжет построен вокруг контакта с инопланетной жизнью обладающей большим нежели человек интеллектом, но не обладающим сознанием. Ещё на подлёте к их кораблю лингвист поняла, исходя из радиообмена, что они имеют дело с китайской комнатой. Сложно сформулировать, но попробуем представить что подобная жизнь возьмется за изучение человека, разберёт его в мельчайших подробностях, вплоть до атомов. Найдёт ли она субъективность, чувственность? Взять какое-нибудь эмоциональное состояние. Объективно, эмпирически оно будет выглядеть выбросом одними структурами и поглощением другими определённых химических образований, с последующим изменением поведения объекта. Но смогут ли исследователи в какой-либо форме описать что чувствует объект? Смогут ли они узнать о наличии внутреннего мира, субъективности, эмоционального переживания? Ведь объективно этого нет. Всё таки изучение эмоций важно в изучении интеллекта. Без них поиск искомого будет сравним с бегом впереди паровоза. Ведь если подходить к вопросу последовательно, то именно на эмоциональных структурах развились лобные доли и прочие, работу которых отождествляют с интеллектуальной деятельностью. Но ведь жизнь многие миллионы лет справлялась на "эмоциональном интеллекте. И эмоции, на мой взгляд, это древнейщий язык, как во внутренней коммуникации агента, так и во внешней. Это первые интерпретации увиденного и первые инструкции поведения. Это не тупо мотивации. Не знаю на сколько правда, но читал что у детей есть врожденная боязнь змей. Это значит что образ змеи каким-то образом закодирован в ДНК, а потом развернут на белковых структурах. О наследственности таких характеристик как темперамент и характер вообще отдельный разговор, т.к. врожденное от приобретённого ещё не вполне отделили. P.s. И вообще будет ли у них повод задуматься о наличии чего-то им не доступного? Например будет ли объект проявлять себя как-то иначе, например будет ли он выходить за рамки алгоритмов химического поведения? Будет ли он чем-то отличаться от робота, от них, исследователей?

Жаль, конечно, что мне не удалось донести мысль, что уровень мотивации "сохраняй опыт сохранения опыта" гораздо ближе к уровню естественного отбора, чем "жри, ебись, командуй".

Эмоции имеют к интеллекту одно важное отношение - они ему мешают. Кроме тех редких случаев, когда решаемая интеллектуальная задача связана с некоторой эмоциональной реакцией, как с индикатором успешности. Например, труд композитора или режиссёра. Вы правильно сказали, что эмоциональные реакции врождены. Это дефолтная система управления. Эмоции всегда узко направлены на выживание популяции вида и туловища конкретной особи. Интеллектуальные же реакции воспитываются в процессе обучения, принципиально не врождены, приобретаются в онтогенезе и могут быть направлены на любые произвольные цели. Именно поэтому эмоции и интеллект противостоят друг другу как две параллельные системы управления, помогающие или мешающие друг другу (Вам надо взять змею в руку, Вы - серпентолог, но страх мешает это сделать. Что победит?). Именно поэтому у меня в конторе (и в других институциях интеллектуального труда), при приёме на работу, в требованиях к кандидатам есть пункт: "эмоциональная устойчивость" - т.е. умение противостоять эмоциональным реакциям, подавлять их и оставаться на позициях холодного рационального разума. Я уже неоднократно приводил простой способ осознанного распознавания и разделения этих двух систем управления: Если Вы делаете что-то, потому что это приятно - значит Вами руководят эмоции. Если Вы делаете что-то, потому что это правильно - значит Вами руководит интеллект.

Правильно - это посыл в будущее. Приятно - это якорь (не самый неправильный) в прошлом. Интеллектуальные и духовные мотивы действий могут быть правильнее эмоциональных. Как ни странно, на разных фазах общественного развития особи эмоции могут быть "умнее" рационального выбора.

Вот мы и вернулись к внешней БД которая определяет поведение агента программируя его установки норм, а также методы мышления. Заметьте что эта структура устойчива, агенты меняются - она остаётся. Хотя её вроде как нет. Не подумайте что я психолог, но человека с как самостоятельную единицу считаю рассматривать в корне не верно. Важно рассматривать его в контексте. Напрашивается аналогия с текстом. Например фраза вырваная из контекста может казаться правильной, но помещенная в контекст смысл её может резко поменяться. Не получается сформулировать, попробую так. Если взглянуть на социум стайных животных общающихся межу собой на языке эмоций, то этот принцип всё равно проглядывается. Он, социум, образует собой устойчивую систему с внутренней регуляцией поведения агентов, а также методов воздействия, управления отдельного представителя. Этот принцип, который кстати отбор прошёл, много где можно увидеть, на разных масштабах. Хоть в клетке, где БД будет ДНК, хоть в социуме. Генерацию текста на тему рождения, распространения и закрепления идеи в коллективе, а также роль этой идеи в координации поведения коллектива как единой системы, определение идеи перечислением существенных признаков в контексте мотивов отдельного представителя коллектива можно было бы считать бессмысленным, если бы вопрос долговременной памяти был закрыт. Нейроны действуют исходя из приобретённой БД, где и как она хранится. Как в них хранится целостный образ, который сохраняется при частичной утрате своих носителей.

Чес гря я всё не осилил. Хочу сразу определиться с терминологией: если говорим в терминах баз данных (а про память можно говорить так), то желательно рассуждать о правилах и средствах нормализации этих баз, об их реакциях, в случаях если для инсёрта нет ресурсов, а для селекта нет данных. Распределённость/локализованность этих баз принципиального значения по отношению к поставленным вопросам не имеет. Однако, характеристики агентов/процедур их обслуживающих могут быть интересны. Поэтому мне больше нравится говорить об отражениях внешних явлений в рефлектирующей среде и эволюции ролей агентов-носителей частей этих отражений. Ведь важно понять кто и ради чего всё это делает.

Не хочу с вами спорить, просто использую ваш пример для разделения обсуждаемых сущностей, а именно эмоций от интеллекта. Использую для этого свой пример. У человека есть картошка. Её можно съесть сейчас, а можно посадить и съесть потом, но много. Оба пути служат "удовольствиям" туши, но во втором примере проведение более интересно тем, что оно выходит за рамки алгоритмов продиктованных химией. Вместо того чтобы энергию просто поглотить, объект её наоборот тратит. Вместо пути наименьшего сопротивления он идёт по пути большего, который однако, на более широком временном отрезке оказывается путём с меньшим сопротивлением, с энергетической точки зрения более выгодным. Можно было бы поспорить о том что всё проведение человека обусловлено животными эмоциями, и что человек не способен вырваться из этого "плена", и что даже бунт против этого мнения, с целью доказать обратное, поступая на перекор эмоциональных прорывов будет продиктован этими самыми порывами, но не хочу. Да и сам стройного мнения на этот счёт не имею. Все таки пример удачный. Если вспомнить бессознательных исследователей, то именно это и должно их удивить. А именно то, прочему глядя на химическую картину объекта, вместо того что бы как робот исполнить заложенный алгоритм, он действует наоборот. Эмоции же интересны с точки зрения направления интеллекта на путях "правильно - неправильно" и с точки зрения простейшей субъективности. Простейшее попадая в неблагоприятную среду чувствует неправильность своего движения и меняет своё направление. Это химия, тут нет интеллекта, допустим. А вот если бы у неё был интеллект, то она смогла бы преодолеть барьер из "неприятного", но опять же, если бы за ним было " приятное". В общем считаю что интеллект возможен только в жёстких рамках, которые бы определяли вектор его деятельности и направление его развития. Без них, будучи структурой пластичной и изменчивой, он выродится, растечется, деградирует. Будет стремиться к хаосу. В общем он должен быть в оболочке, в коридоре. Иначе действуя во всех направлениях сразу, сфера его деятельности будет увеличиваться, а количество интеллектуальной силы будет падать пропорционально площади сферы, стремясь к нулю. На квадратный метр.

Вопрос в том что стоит за согласованной деятельностью агентов. Где и как хранится инструкция исходя из которой агент действует вопреки своей исходной мотивации, но в угоду мотивации системы, которую инструкция порождает. Например прекращение срабатывания рефлекса. И вопрос о локальности и распределённости этой инструкции важен. Единый образ хранимый на множестве...на множестве агентов...какую часть образа хранит каждый из них и как он знает своё место в этом образе. Образ - инструкция, но агенту надо знать примерную его схему что бы знать своё место и область своей специфики исходя из места в нем. Таким образом вопрос на сколько внешний, а на сколько внутренний образ относительно отдельного агента. Сознание наше, человеческое, пусть будет образом, инструкцией распределяющей роли, силой согласующей действия агентов. Для агента это запись на листе бумаги?

Правильно будет сказать "чувствует неприятность своего движения". Да, она смогла бы преодолеть барьер "неприятного" (или отказаться от сиюминутной "приятности") с помощью подключения интеллекта, который требует указания только на то, что правильно. Это так. Только задача ведь стоит не в том, чтобы сделать искусственное животное или искусственного человека с эмоциональной мотивацией. Зачем это надо? Воспроизвести надо только вот эту "холодную" машину умозаключений, которая позволяет от одной правильности перейти к другой правильности, игнорируя приятно это или не приятно. Задача создания искусственного интеллекта проще, чем задача создания искусственного человека.

Подумаю какое-то время, но сейчас, в силу подходящего момента, отмечу что наша интеллектуальная "правильность" базируется на "строгой" химической "неправильности", на "приятностях". Поэтому аналогию с сетью сотовых посчитал актуальной. Потому что агент в ней жёстко запрограммирован, но сеть из множества таких, образует, в теории, систему способную действовать "правильно", игнорируя или подавляя при этом "приятности" своих носителей. На этом этапе видится развилка из двух принципиально разных подходов к ИИ.

Мы вытанцовываем где-то в районе т.н. любви, т.е. переноса ценности со своей собственности на то, что раньше собственностью не казалось. Ты оперируешь слишком высокими понятиями. У них есть прообразы попроще.

Окей. Так сформулирую. Надо отделить программу от агентов - её носителей. Раскрытие, открытие транзисторов определяет поведение программы. А вот как наоборот сделать? Чтобы программа определяла закрытие, открытие энтих носителей своих?

Видишь ли, программы управляют транзисторами, микропрограммы управляют транзисторами, алгоритмы, заложенные в конструкцию транзисторных автоматов управляют транзисторами, всё это может самомодифицироваться. В таком разрезе я бы лучше сформулировал 2 вопроса: 1) как организовать взаимодействие элементарных самообучающихся агентов, чтобы получить самообучающуюся систему высшего порядка (рой и даже организм)? 2) сделает ли этих агентов борьба за выживание эффективнее в задаче №1? Т.е. нужно ли агенту в комплект к смене поведения добавить смерть и размножение? Их же можно заменить копированием с затиранием. Разница только в отсутствии массовых вымираний с потерей коммуникаций. Особенно интересен вопрос распределения подкреплений, - ведь рост и умирание особи могут не зависеть от успеха или провала сообщества. Не зря же говорят про награждение непричастных и наказание невиновных.

Давай попробуем сконструировать элементарный самообучающийся автомат. Не будешь возражать, что обучение проходит в три фазы (момента, за три тика): вопроса (оно же восприятие), генерации ответа и закреплении связки вопрос-ответ (оценки)? После акта обучения на один и тот же вопрос чаще (т.е. достаточно часто для выживания) будет выдаваться закреплённый ответ. Это пример адаптации в контексте вопрос-правильный (т.е. с отличной оценкой) ответ. Но мир не так прост, а поэтому внешний контекст вопрос-правильный ответ сам зависит от других контекстов, а для адаптации требуются, как минимум, агент, способный воспринять вопрос (рецептор), и агент, способный сгенерить правильный ответ (эффектор). Эти вопросы и ответы могут быть совершенно разной природы, но при этом, чтобы различать контексты, агенты должны уметь общаться на одном языке или через других посредников-переводчиков. Рецепторы и эффекторы формируют внешнюю оболочку сообщества, внутри которого на первый план выходят каналы связи (групповые (они же затратные широковещательные) и индивидуальные, в т.ч. одно- и двунаправленные) и их иерархия, причём, по каналам, связующим домены интенсивного общения не обязательно должен гоняться трафик без потерь. Для явлений одной природы, но сложной структуры тоже нужны подходящие агенты, способные отличать вопросы один от другого и генерить достаточно богатое множество ответов, включая простой аддитивный "навал", например. Эволюция идёт по направлениям формирования оболочек и взаимодействий между ними. На макро-уровне это приводит к формированию супер-агента, который на весь спектр внешних состояний и тенденций к их изменению (истории) будет реагировать широким спектром своих состояний с планом по их изменению, чтобы максимизировать разнообразие и объём подкреплений. ДНК в клетке окружена массой систем, переводящих её информацию во взаимодействие с миром. По-сути, это всё оболочки, несущие разные функции. Например липидная оболочка и цитоплазма обеспечивают общение между всеми компонентами, т.е. являются ответом на вопрос: "а что если растащить или обездвижить всё это?" Кстати, заметил, что контекст = текст - символ? И что все агенты - это контекстно-зависимые групповые разнонаправленные связи? И что оболочки и внешние ограничения, граничные условия - это разные явления? Их-то жизнь прорывает, не всегда давая правильные ответы на привычные вопросы.

Интересно, уже были случаи, когда китайская система социальных рейтингов самомодифицировалась через операторов и разработчиков?

Предлагаю начать с определения единиц памяти у агента. Рефлексию пока оставим в сторонке не на долго, но обязательно вернёмся к ней, как раз в контексте социального рейтинга, а так же в контексте идеи хранения результатов предыдущей рефлексии не в внутри агента, а снаружи.Тут вот какая проблема. Сформулирую её на примере недавно прочитанной беседы. Постараюсь кратко, без контекста. Человек привёл пример с роботами Азимова которые человека отравили. Один налил чай, другой отнес. Каждый рефлексировал по заданному алгоритму, но каждый из них понятия не имел в каком процессе участвовал. Этот подход понятен и многие его придерживаются и правильно делают, ибо здравый смысл и бритва Оккама. Но честно искренне не могу понять как этот подход реализуется в изменчивой среде когда требуются слаженные, организованные действия в рамках "импровизации". Чуть выше, обсуждалось различие между правильным и приятным.В общем, для "правильного" поведения нужно две ячейки памяти, но что бы было интереснее, предлагаю начать с одной(у агента).P.s. А вообще надо бы чёткое ТЗ сформулировать. Будет ли память вообще? Слово "агент" пока на полку, а результат - преодоление "неприятного" барьера предлагаю пока навскидку.

Мне нравится твой подход. Очень интересный. Начинай, конечно.

Кстати, эти Азимовские роботы нарушили закон про бездействие. Они пройдут "естественный" отбор и научаться общаться друг с другом по поводу того, что хорошо, а что опасно для человека. В принципе, азимовские законы нужно переопределить: объединить людей и роботов в общество, назначить людей привилегированными членами общества, определить, какой вред в приоритете и обязать всех по мере возможности общаться, по мере возможности заботится о других и по мере возможности о себе, по мере возможности не стесняя чью-либо свободу. Т.е. люди тоже обязаны заботиться о полезности, безопасности и сохранности роботов. Быть может, это поможет снизить вероятность того, что роботы начнут приносить вред, впадая в кататонический ступор или в шизофреническую активность. Вред неизбежен, но можно всё сбалансировать так, чтобы он стал минимален для общества и не превышал пользы.