Форум создателей искусственных интеллектов

"Несчастным или счастливым человека делают только его мысли, а не внешние обстоятельства. Управляя своими мыслями, он управляет своим счастьем." @Фридрих Вильгельм Ницше Полностью солидарен в этом вопросе с Фридрихом Карловичем. Тут даже обсуждать нечего.

В продолжение темы синтеза механизмов. Является ли синтез механизмов неким уникальным явлением, присущим исключительно интеллекту? Если внимательно и детально взглянуть на физиологию человеческого (и не только) организма, то мы обнаружим, что синтез механизма - это не просто типичный метод, а можно сказать универсальный метод достижения нормы. Рассмотрим примеры. 1. Синтез пищеварительных ферментов в ответ на "задачную" ситуацию - попадание пищи в пищеварительную полость организма. Для каждого вида пищи (задачной ситуации) есть свой фермент (решающий механизм). 2. Синтез гормонов в ответ на задачную ситуацию - регулирование физиологических процессов. Для каждого процесса синтезируется свой гормон (решающий механизм). 3. Синтез иммунного ответа на задачную ситуацию - попадание в организм антигена. Для каждого антигена есть своё антитело (решающий механизм). 4. Синтез нейромедиатора в ответ на задачную ситуацию - передачу сигнала от нейрона к нейрону. 5. Эритроциты, лейкоциты, тромбоциты и другие микромеханизмы, плавающие в крови и лимфе организма синтезируются для выполнения специфических задач. 6. Размножение и передача генетического материала от организма к организму происходит через синтез специальных механизмов - половых клеток. 7. Синтез сократительных белков в ответ на задачную ситуацию - нагрузку на скелетную мускулатуру. 8. Вообще все белки организма по сути являются наномашинами, синтезируемые по инструкции РНК для выполнения некоторых функций. В этих примерах, каждый из механизмов синтезируется некоторыми клетками организма. Но после синтеза они оказываются как бы предоставленными сами себе, оторванными от организма и функционирующими самостоятельно. Любопытно, что примерно то же самое мы фиксируем в психической сфере. После синтеза осознаваемой сцены, наполненной разнообразными механизмами, они функционируют как бы сами по себе. Начиная от визуально воспринимаемых предметов и заканчивая автоматическими действиями скелетной мускулатуры. Работают "независимо" от породившего их организма. Следовательно, в каком-то смысле, синтезированные механизмы должны "отрываться" от родившей их психики и находиться вне её. Но поскольку только психике эти механизмы нужны и этот отрыв является виртуальным, то где-то в этом месте, видимо, рождается сознание, как вместилище этих созданных и отторгнутых от себя механизмов, которые находятся одновременно и вне психики (осознаются как внешние) и внутри психики (они мои и созданы мною).

Смотря для кого. Для Цап'а, наверное, есть неинструментальность. Для Влада тоже, наверное, свойства Мира, состояния. Для Luarvik.а наверняка есть какая-нибудь автономность. Им это всё, конечно, только кажется, потому что не может сознание вмещать и оперировать сущностями разной природы, и механизмами, и немеханизмами. Может быть в дальнейшем я найду более универсальный механизм, чем механизм. Но пока для меня всё удачно втискивается в это понятие. Рекомендую. А можете перечислить эти "всеобщие законы" или хотя бы пару основных? И как Вы о них узнали?

Меня это беспокоит и огорчает в том смысле, что по видимому и к сожалению, в интеллектуальном рациональном познании не удастся вырваться в принципиально другие категории. Есть ещё чувства, их великое многообразие, и можно познавать мир чувств, эмоций, но это, имхо, животная сторона человека, к интеллекту непосредственно не относящаяся и меня мало интересующая. Что касается AGI, то для него как раз и нужна универсальная сущность, которую можно будет "натянуть" на всё. Ты считаешь, что это "семиотический процессинг", если я ничего не путаю. Тебя ведь не беспокоит, что в мире есть только семиотический процессинг и ничего, кроме него? Вот и меня в этом смысле "механизм" не смущает. Возможно, при ближайшем рассмотрении, механизм и семиотический процессинг окажутся одним и тем же, с точностю до терминологии. Если же ты намекаешь, что такой взгляд противоречит твоей концепции комплементарности, то здесь не всё так плохо на самом деле. Механизм создаётся и уничтожается. Механизм запускается и останавливается. Он состоит из... и встраивается в... Он существует в сознании, как его вместимое, и сознание существует только как вместилище. Так что некая комплементарность наблюдается.

10 раз перечитал эту фразу, но не нашёл ни одного способа её понять. Вот стоит у доски в вузе преподаватель физики, и описывает устройство (механизм) атома, расставляет всё по местам, описывает причинно-следственные отношения, рисует на ватмане схему. В это самое время в соседнем кабинете учитель биологии описывает устройство (механизм) клетки, расставляет всё по местам, описывает причинно-следственные отношения, рисует на ватмане схему. В это самое время в соседнем кабинете учитель социологии описывает устройство (механизм) общества, расставляет всё по местам, описывает причинно-следственные отношения, рисует на ватмане схему. И несмотря на разные предметы своих описаний они делают это одинаково и единообразно. Ученики переходят из одного кабинета в другой и всё это понимают. И ничто ничему не противоречит. Человеческий ум и атом, и клетку, и социум описывает и понимает не "на основе своего устройства" (что это вообще такое?), а на основе доступных этому уму инструментов. Инструментов этих совсем немного. И познание и воспроизводство этих когнитивных инструментов и составляет суть методологии создания ИИ. А не познание слоёв атомов или других идей устройства мира. Устройством мира занимается физика, к устройству психики это не имеет явного отношения.

Я рад, что работоспособность синтезируемых тут механизмов ты рассматриваешь как важный (или даже главный) критерий правильного поведения при создании ИИ. Это доказывает, что твой интеллект в корне согласен с предлагаемой тут схемой, хотя на словах выходит, что вроде не согласен. Слова лгут, действия не лгут.

Непонятно, зачем столько внимания саккадам. По-моему всё просто. Сетчатка человека содержит около 125 млн фоторецепторов. Примерно 6 млн фоторецепторов - это зона фовеа, с самой высокой разрешающей способностью. При этом сигналы от зоны фовеа обрабатываются 50% зрительной коры. Зрительный нерв человека содержит около 1 млн аксонов. Следовательно, примерно половина сенсорных сигналов приходится на зону фовеа. Т.е. 500 тысяч аксонов переносят сигналы от 5% фоторецепторов (центр), и ещё 500 тысяч переносят сигналы от 95% фоторецепторов (периферия). Т.е. картинка на периферии примерно в 20 раз более "размытая", усреднённая, чем в центре. Теперь вспоминаем, что глаз ничего не видит. Видит мозг (допустим). Глаз только верифицирует те галлюцинации, которые рисует мозг. И если галлюцинация верифицирована, то сознание наполняется конкретным экземпляром некоторого верифицированного механизма (в данном случае визуального объекта). Понятно, что если глаз расположен так, что верификация происходит с помощью периферийной сетчатки, то эта верификация будет недостаточно селективной - какое-то пятно сбоку поля зрения может быть и ящиком, и тигром, и кустом, и ещё сотней возможных вариантов. Для того чтобы повысить селективность верификации, взгляд необходимо перевести так, чтобы периферия поля зрения попала в центр поля зрения и негодные варианты отсеялись. После верификации конкретного пятна и уточнения механизма, глаз скачет к следующему периферическому пятну для его уточнения. В системах так называемого "компьютерного зрения" вся поверхность фоточувствительной матрицы обладает одинаковой разрешающей способностью, поэтому необходимости в переводе "взгляда" попросту нет. Не говоря уже о том, что в системах компьютерного зрения нет (пока) процесса верификации галлюцинаций, там буйным цветом расцветает материализм, в соответствии с которым компьютер должен "распознать то, что существует на самом деле хрест на пузе". Поэтому требовать саккад от компьютера неуместно, примерно так же как требовать от него хорошего пищеварения или доброго расположения духа.

Такую задачу, насколько мне известно, никто не ставит. И не решает. Поэтому нет смысла доказывать, что это невозможно. Задача ведь в другом, а именно найти единообразный способ описания и кирпичей, и дома, и всего остального. Точнее даже не найти, а обнаружить, как это делает человеческий ум. Ведь не будешь же ты в самом деле спорить с тем, что ум квантового физика, ум строителя и ум моряка, к примеру, работают в основе своей, "в ассемблере", одинаково и единообразно. Не будешь же ты утверждать, что есть много разных видов интеллекта, которые вырастают в головах людей по разному, работать неодинаково и не сводятся друг к другу. Если же будешь, то это какая-то другая парадигма, другая методология и тут нет никаких точек соприкосновения. Понятно, что эту одинаковость и единообразие невозможно обнаружить в конкретных вещах типа "кирпич" или "дом". Но она обнаруживается на более высоких слоях абстракции, отсюда и происходят предельно абстрактные "место", "причина", "механизм". Если эти способы описаний окажутся недостаточно общими, значит надо искать ещё более общие. Мне помнится, ты предлагал "семиому", "комплементарность", "сущность". Это ведь тот же самый подход - найти нечто настолько общее, чтобы оно было годным в качестве инструмента для описания всегда. Чтобы оно "натягивалось" на всё. Независимо от исторической эпохи, рода деятельности, сложности задач.

Если мы возьмём младенца из одного народа и будем воспитывать его в другом народе, то понятно, что он будет транслировать смыслы этого второго народа. Поэтому мы и не говорим о конкретных смыслах, они действительно очень разные, мы говорим о механизме обучения младенца, который потенциально способен выучиться транслировать любой смысл. Если "генерировать" заменить на "синтезировать", то соглашусь. Вот это ты хорошо артикулировал. И здесь было бы интересно провести такое упражнение. Привести две настолько разные модели, насколько только возможно представить, а я беру на себя обязательство найти такой уровень абстрактного описания, на котором они окажутся одинаковыми. Вот это - как раз один из возможных вариантов такого общего описания, которое подходит для любой модели. Но, на мой взгляд, это описание недостаточно общее, т.к. во многих случаях задача решается без последовательности (своих) действий вообще. На мой взгляд, точнее: "находить последовательность событий, которые переводят аномальное состояние в нормальное".

Пока ничего. Как я сказал выше, зрение у компьютеров появится, когда они сначала будут синтезировать "галлюцинацию", а потом её проверять. Вот эту проверенную галлюцинацию они условно будут "видеть". Так а что с саккадами? Они ещё актуальны в качестве критерия разумности?

Если я правильно понял, идеальную модель (п.3) закладывает оператор, извне, через backdoor. И компьютер генерирует модель (п.2) на основании потока данных (п.1). У человека, насколько я могу судить, это сделано иначе. Модель генерируется на основании тех актуальных в данный момент моделей, которые были проверены до этого (контекст). И на потоке данных эта модель только отбраковывается. И никто через backdoor не закладывает эталон, он нарабатывается и запоминается из опыта достижения или недостижения целевых состояний. В этом отличие. Пример. Если бы компьютер "знал", что сейчас он решает задачу производства лопат (это контекст), то ему следует проверять длину, диаметр и крепость черенка (модель "галлюцинации"). И если он это делает неправильно, то в итоге лопата ломается или иным способом не работает. И так он может выяснить, через пробы и ошибки, какой черенок правильный (идеальный, эталонный, нормальный).

Да, но это не значит, что эталоны закладываются оператором. И что у ученика нет личного опыта. Просто у него вместо трудного личного опыта проб и ошибок, есть лёгкий личный опыт "сразу на всё готовенькое". Но совсем без личного опыта никак. Ведь у него должна сформироваться именно своя "галлюцинация". Учитель, в данном случае, играет другую роль, он только сужает степени свободы и помогает ученику быстрее и легче выйти на ожидаемый результат. Причём, с одной стороны медали, это здорово экономит, как ты пишешь "временные и интеллектуальные затраты", но в качестве обратной стороны медали, загоняет людей в узкие шоры традиций, препятствуя мучительному поиску альтернативных и, возможно, более эффективных решений.

Для этого у меня есть вторая часть объяснения. Если зафиксировать глаз подопытного человека, то зрительная картинка "растворяется". Это можно проверить самому, намеренно фиксируя взгляд на одной точке некоторое время. Зрение хорошо различает изменения. Или другими словами, зрение хорошо работает (совершает верификацию синтезируемых механизмов), когда проецируемая картинка "проскальзывает" по сетчатке. Примерно, как у компьютерной мыши. Возможно, это связано с тем, что двигающимся животным жизненно важно различать свои движения. Кроме того, хищникам необходимо видеть убегающую жертву, а жертвам - подбегающего хищника. Если наблюдаемый предмет движется относительно глаза, то проскальзывание по сетчатке происходит само собой. Если же предмет статичен относительно глаза, то глаз искусственно создаёт "проскальзывание" путём постоянных микросаккад. Можно задать вопрос, почему зрительная система не может к движущимся предметам применять один способ верификации (сравнивая два последовательных кадра), а к статическим предметам другой способ (выделяя границы или иначе)? Видимо потому, что проще с помощью саккад перевести статическую картинку в динамическую и различать всё единообразно, чем применять два разных метода (как в том анекдоте про физика и математика кипятивших чайник). В этом смысле, Ваш акцент на саккадах может быть полезен, если поставить практическую задачу по воссозданию механизма, используемого зрительной системой человека для верификации визуальных сцен. Но рассматривать саккады, как мерило и критерий разумности, явно неверно, хотя бы потому, что саккады происходят в автономном режиме, никаким образом не требуют вмешательства обученного интеллекта и регистрируются как у человека так и у других животных. Пока верстался текст придумал ещё один вариант объяснения. Топливная система бензинового двигателя поддерживает необходимую пропорцию воздушно-топливной смеси через так называемые кратковременные топливные коррекции - периодические колебания концентрации воздух/бензин в узких пределах (±10%). Благодаря этому проще удерживать пропорцию на некотором заданном уровне и менять режим работы двигателя. В случае с глазом, по-аналогии, возможно, саккады позволяют более точно позиционировать глаз и удерживать его в заданном положении. Т.е. проще балансировать некую динамическую систему возле целевой точки (+/-), чем удерживать её в строго заданном положении.

Более того, законы природы невозможно выполнить. Я бы посмотрел, как некто "выполнит" восход Солнца или радиоактивный распад. На то они и законы природы, что их выполняет природа, а не человек. Для человека есть законы морали. Это зависит от морали. Если мораль противоречит природе, то эту мораль следует выкинуть и взять другую. Лучше всех на эту тему сказал, имхо, апостол Павел: "Всё мне позволительно, но не всё полезно" (1Кор.10:23).

Такое расширение термина "выполняет" на мой взгляд, не очень удобно. Удобнее разделять произвольное поведение человека (как субъекта), обусловленное его обученностью, волевыми качествами. И его поведение как "мешка картошки" (как объекта). Человек, конечно, выполняет пищеварение и деление клеток, но он ничего может об этом не знать и это его знание или не знание никак не влияет на это "выполнение". А на произвольное поведение обученность (знание или незнание) влияет непосредственно и самым драматическим образом. Под противоречием здесь понимается нецелесообразность. Например, для того чтобы утолить голод, можно бить в колокол. Можно? Можно. Законы природы не запрещают. Но голод не утоляется. Более сложный пример, принцип бумеранга. Добрые дела по отношению к людям возвращаются человеку и злые дела тоже возвращаются. Как работает эта "небесная бухгалтерия" не совсем понятно (хотя идеи есть), но если не учитывать это в своём поведении, то жить намного труднее и больнее. Хотя можно, законы природы не запрещают.

Конечно нельзя, именно поэтому это пример нецелесообразного поведения. О чём я и сказал. Тем самым я хочу обратить внимание, что люди фактически выполняют подобное поведение. Люди ошибаются. Именно в этом смысле они противоречат законам природы.

Если в местном цветочном магазине попросить сделать букет, то продавец уточнит, сколько цветов класть в букет. Если на похороны - то чётное. А если девушке - то нечётное. Какой закон природы он при этом выполняет?

Не очень понятно, как это всё относится к теме разума, интеллекта, мышления. Если это попытка прояснить работу интеллекта, то на самом деле она только запутывает. Это всё равно, что на вопрос: "как работает компьютер?", ответить: "он выполняет законы физики и химии". Принцип работы компьютера, основанный на простой булевой алгебре, совершенно не зависит от материально-технической базы. Его можно делать хоть на спичечных коробках, хоть на лампах, хоть на толпе людей. Более того, вполне может быть, что и в других мирах и на других законах физики можно построить компьютер или разум, работающий по тому же принципу. Нет никаких оснований полагать, что работа компьютера или разума следует из законов мира, на котором они построены. И если в случае с компьютером мы хотя бы точно знаем, что он построен на законах физики. То в случае с разумом - это голое предположение и материалистическое верование. Психофизиологическая проблема, напомню, не решена. Какой физико-химический процесс обуславливает и обеспечивает сознание и самосознание?

Это слишком грубо и неточно. Как мы уже выяснили (надеюсь), мозг вообще ничего не воспринимает. Он синтезирует. И если надо, он синтезирует статику. Например, забор статично стоит во дворе. И даже если мы пешком перемещаемся возле этого забора и саккадами его обсматриваем, всё-равно в нашем представлении забор статичен. И именно это обстоятельство позволяет мозгу правильно сформулировать предположение для органов чувств, которое они должны проверить при визуальном восприятии.

Да, собственно это один из аспектов, препятствующих переходу к адекватной практике. Я пока не могу понять, какой программный инструмент может адекватно смоделировать это свойство. Видимо, смоделирован должен быть один объект - "картина бытия" - которая, как механизм, будет включать в себя всё, и в каждом акте мышления из этой картины должно условно вычленяться часть связей и противопоставляться другой части этой картины. А результат этого противопоставления отражаться на третьей части. С другой стороны, понятно, почему так "сделано". Если бы картина была с разрывами, или было несколько картин, то построение связного поведения тела было бы невозможным.