Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

шрифт+
шрифт-
Скачать
Вперёд
Назад
1
2
3
4
5
Граница
Аватар
create
Граница
09:54 14.04.2026 13:15 14.04.2026 №14377
Попробуйте понять, парни, что все эти ваши магические слова - это просто местоимения. Если любая сущность - это система, механизм или ресурс, то это просто слово "это" или 'it'. При такой генерализации такое имя становится бесполезным. Просто указательным пальцем. Имя полезно тогда, когда оно представляет собой фильтр, позволяющий сделать две важные вещи: 1) отождествить похожие сущности и 2) отличить те, которые непохожи. А если всё есть механизм или комбинаторное совокупление или ресурс, то когнитивные фильтры не работают. То есть не работает мышление как орган, как механизм, как система 😂
0 | 0
create
Граница
10:13 14.04.2026 10:14 14.04.2026 №14379
Gray Tag:
Попробуйте понять, господа долбоёбы, что все эти ваши магические слова - это просто местоимения. Если любая сущность - это система, механизм или ресурс, то это просто слово "это" или 'it'. При такой генерализации такое имя становится бесполезным. Просто указательным пальцем. Имя полезно тогда, когда оно представляет собой фильтр, позволяющий сделать две важные вещи: 1) отождествить похожие сущности и 2) отличить те, которые непохожи. А если всё есть механизм или комбинаторное совокупление или ресурс, то когнитивные фильтры не работают. То есть не работает мышление как орган, как механизм, как система 😂
Слова - это название понятий, поэтому у языковых моделей и отсутствует понимание. Мышление - это процесс происходящий а человеческом органе - Мозге.
0 | 0
Аватар
create
Граница
10:18 14.04.2026 №14380
Влад:
Слова - это название понятий, поэтому у языковых моделей и отсутствует понимание. Мышление - это процесс происходящий а человеческом органе - Мозге.
Нет. 1) Слова - это просто набор символов. Всё прочее находится в культуре (потому что интеллект --- социален) и в человеке. Никаких названий никаких понятий, кроме этого в природе нет. 2) Если бы мышление происходило только в мозге у нас бы не было книг и умений умножать числа столбиком на бумажке)))
0 | 0
Аватар
create
Граница
10:34 14.04.2026 10:38 14.04.2026 №14381
Gray Tag:
слова - это просто имена, идентификаторы, они не несут смыслов, они нужны для взаимной адресации понятий и явлений. Но даже смыслы - это просто элементы коллективной координации, не более. Смыслы ДОЛЖНЫ превращаться в деятельность и результаты. Есть таковые --- смыслы полезны, нет таковых --- слова остаются просто орнаментом.. Слова - это просто набор символов. Всё прочее находится в культуре (потому что интеллект --- социален) и в человеке. Никаких названий никаких понятий, кроме этого в природе нет.
Когда люди общаются словами, они подразумевают молча, что за словами стоят смыслы. Уж не хотите ли Вы сказать, что то, что здесь произносится, это просто так - попиздеть, звуки поиздавать, языком поворочать ?! А чем тогда Ваши слова лучше чужих ? Кто ж виноват, если кроме закорючек на бумаге Вы ничего не видите ? Если в слове "ресурс", например, Вы различаете только 6 букв, написанных слитно.. И ВСЁ ! Ни смысла, ни его продолжения, ни значения - НИЧЕГО ! Если у Вас не стоит ничего за услышанными словами - это ВАША проблема !
Gray Tag:
Если бы мышление происходило только в мозге у нас бы не было книг и умений умножать числа столбиком на бумажке
Мышление и происходит пока только в мозгах. А где Вы мышление ещё видели, если не секрет ?
0 | 0
create
Граница
10:35 14.04.2026 10:37 14.04.2026 №14382
Gray Tag:
Влад:
Слова - это название понятий, поэтому у языковых моделей и отсутствует понимание. Мышление - это процесс происходящий а человеческом органе - Мозге.
Нет. 1) Слова - это просто набор символов. Всё прочее находится в культуре (потому что интеллект --- социален) и в человеке. Никаких названий никаких понятий, кроме этого в природе нет. 2) Если бы мышление происходило только в мозге у нас бы не было книг и умений умножать числа столбиком на бумажке)))
Образ "Заяц" как понятие в модели мира человека (формальная система простых элементов).
0 | 0
Аватар
create
Граница
10:37 14.04.2026 №14383
Влад:
Образ "Заяц" как понятие в модели мира.(формальной системе простых элементов).
Персональная просьба - в общении со мной используйте, please, глаголы... нихуя же не понять что вы пишите
0 | 0
Аватар
create
Граница
10:39 14.04.2026 №14384
Luarvik.:
А где Вы мышление ещё видели, если не секрет?
вы умеете ВИДЕТЬ мышление? Как насчет умения видеть категории? Вот стол - это мышление или орган?
0 | 0
Аватар
create
Граница
10:42 14.04.2026 10:42 14.04.2026 №14386
Gray Tag:
вы умеете ВИДЕТЬ мышление? Как насчет умения видеть категории? Вот стол - это мышление или орган?
Я задал конкретный вопрос на Вашу тираду - "Если бы мышление происходило только в мозге у нас бы не было книг и умений умножать числа столбиком на бумажке". Где ещё, помимо мозга, Вы ВИДЕЛИ мышление ?
0 | 0
create
Граница
10:42 14.04.2026 №14388
Gray Tag:
Влад:
Образ "Заяц" как понятие в модели мира.(формальной системе простых элементов).
Персональная просьба - в общении со мной используйте, please, глаголы... нихуя же не понять что вы пишите
Тут нужно воображение, формальная система простых элементов , а в ней заяц прыгает.
0 | 0
Аватар
create
Граница
10:44 14.04.2026 №14389
Влад:
Тут нужно воображение, формальная система простых элементов,а в ней заяц прыгает.
Вы не там употребили глагол, нужно до зайца))
0 | 0
Аватар
create
Граница
10:46 14.04.2026 10:54 14.04.2026 №14390
Gray Tag:
Мне по национальности можно отвечать вопросом на вопрос. Я ответил тремя
Это не ответы, а уход от вопроса. Итак: где помимо мозга протекают мыслительные процессы, в просторечии называемые "мышлением", по-Вашему ? По поводу слов: если б мы были телепатами... Если Вы такой их противник, то попробуйте. Первые 10 встречных на улице на вопрос "что такое ресурс ?" не станут плеваться во все стороны, а выскажут своё мнение, спокойно и адекватно. Или вот это Gray Tag: Попробуйте понять, господа долбоёбы, что все эти ваши магические слова - это просто местоимения. - уже не слова, уже не местоимения, не указатели, не адресные метки ? Или для Вас слова имеют смысл только если их можно на хлеб намазать ?
0 | 0
create
Граница
10:50 14.04.2026 10:52 14.04.2026 №14391
Gray Tag:
Влад:
Тут нужно воображение, формальная система простых элементов, а в ней заяц прыгает.
Вы не там употребили глагол, нужно до зайца))
Тут последовательность понимания: 1 Формальная система 2 Выражение формальной системы 3 Локальное выражение формальной системы 4. Изменение локального выражения формальной системы. На её и ориентируюсь.
0 | 0
Аватар
create
Граница
11:00 14.04.2026 №14395
Влад:
Тут последовательность понимания: 1 Формальная система 2 Выражение формальной системы 3 Локальное выражение формальной системы 4. Изменение локального выражения формальной системы. На её и ориентируюсь.
"ориентируюсь" - это, конечно, глагол, но он про вас, а не про ссуть)) Ищите в себе глаголы, Влад, и попытайтесь ответить на вопрос: почему в вас нет глаголов?
0 | 0
create
Граница
11:09 14.04.2026 11:17 14.04.2026 №14396
Gray Tag:
Влад:
Тут последовательность понимания: 1 Формальная система 2 Выражение формальной системы 3 Локальное выражение формальной системы 4. Изменение локального выражения формальной системы. На её и ориентируюсь.
"ориентируюсь" - это, конечно, глагол, но он про вас, а не про ссуть)) Ищите в себе глаголы, Влад, и попытайтесь ответить на вопрос: почему в вас нет глаголов?
Ищите в себе воображение, а то локальное выражение "Заяц" в формальной системе представить себе не можете, а тут "прыгающий", это же изменение локального выражения.
0 | 0
Аватар
create
Граница
11:12 14.04.2026 11:17 14.04.2026 №14397
Gray Tag:
Luarvik.:
Это не ответы, а уход от вопроса
Это вам так кажется, а я думаю иначе
Мне кажется, Вы вообще не думаете в худшем случае, в лучшем - думаете только о том, о чём хотите. Но тогда ценность Ваша как собеседника равна НУЛЮ ! Где, Егоров, помимо мозга протекают мыслительные процессы, в просторечии называемые "мышлением", по-Вашему ? (Слив засчитан, но попытайтесь, хоть "бе", хоть "ме")
0 | 0
Аватар
create
Граница
11:22 14.04.2026 №14399
Влад:
Ищите в себе воображение
У меня всё хорошо, я охуеваю от того насколько я классный и завидую сам себе.
+1 | 0
create
Граница
11:46 14.04.2026 12:02 14.04.2026 №14401
Luarvik.:
Где, Егоров, помимо мозга протекают мыслительные процессы, в просторечии называемые "мышлением", по-Вашему ? (Слив засчитан, но попытайтесь, хоть "бе", хоть "ме")
Luarvik начинает въезжать в триаду системности: "Структура - Взаимодействие - Процесс", со стороны триады сущности: Конфигурация (Мозг) - Способность (?) - Функция (Мышление), но понятие "Способность" ему не одолеть. (Слив засчитан, но попытайтесь, хоть "бе", хоть "ме")
0 | 0
Аватар
create
Граница
21:32 14.04.2026 21:57 14.04.2026 №14409
Мдэ ! Вот что бывает, когда слишком увлекшись семиотикой, напрочь игнорируют семантику. К чему хорошей иллюстрацией станет известная "обезьяна с гранатой", что в чел. обществе далеко увы не редкость. А в общем, опусы-жопусы Егорова относятся более к тому, как приготовить и скормить не очень требовательным постояльцам придорожного трактира залежавшееся, если не сказать "давно протухшее" мясо.
0 | 0
Аватар
create
Граница
22:27 14.04.2026 №14419
Пока вы соображаете, я продолжу слушать первопресс Эбби Роад (первую сторону, вторая много слабее) и продолжу публиковать свои старые наброски (с LLM редакцией), коитус и fkoaafgp будут вдохновлены: Я все чаще ловлю себя на том, что материальное вокруг меня перестало быть «вещью» в прежнем смысле. Оно больше не уникально, не завершено, не несёт в себе судьбы. Оно ведёт себя как репликатор — как нечто, чья единственная функция состоит в воспроизводстве. И в этом нет никакой метафоры: если объект не имеет формата, он исчезает. У него нет будущего, потому что будущее — это всегда продолжение структуры, а не просто продолжение существования. Формат сегодня важнее сущности. Это неприятное, почти оскорбительное для разума наблюдение, но я не могу его игнорировать. Формат — это условие воспроизводимости, а значит, условие бытия. То, что не может быть воспроизведено, оказывается вытеснено на периферию, а затем просто исчезает. И именно поэтому исчезает индивидуальность. Не потому, что она никому не нужна, а потому что она не масштабируется. Я вижу, как вместе с этим уходят различия, которые раньше казались фундаментальными: высокое и низкое, элитарное и массовое, уникальное и банальное. Всё это растворяется в странной эклектике, которая на самом деле не является смешением, а является выравниванием. Это не синтез, а эрозия. Не соединение, а усреднение. И в результате остаётся только одно — тираж. Любая идея, с которой я сталкиваюсь сегодня, уже не является идеей в классическом смысле. Это не акт, не событие, не прорыв. Это реплика. Даже если она выглядит новой, её ценность определяется не тем, что она говорит, а тем, насколько она способна размножиться. Содержательная сторона уступает место репродуктивной. Идея больше не оценивается по глубине, она оценивается по коэффициенту распространения. Это очень тонкий, но разрушительный сдвиг. Мы больше не живём в пространстве смыслов, мы живём в пространстве популяций смыслов. Побеждает не то, что истинно, и даже не то, что убедительно, а то, что лучше воспроизводится. Это почти биология, но применённая к идеям. И в этом смысле мысль перестаёт быть актом понимания и становится актом заражения. Реальность при этом не исчезает, но меняет свою природу. Она больше не является ни отражением материального в идеях, ни воплощением идей в материальном. Она становится резонансом. Резонансом репликации. Это очень точное слово, потому что здесь нет центра, нет источника. Есть только волна, которая усиливает саму себя. Я вижу, как «удачные» решения начинают распространяться лавинообразно, теряя всякую связь с исходным намерением. Они продолжают существовать уже не потому, что кто-то их хочет, а потому что они встроились в структуру воспроизводства. Они поддерживают себя сами. В этом смысле воля оказывается вторичной, а смысл — необязательным. И здесь возникает почти безнадёжный вопрос: что можно противопоставить этому? Если мыслить строго, ответ прост и неприятен. Ничего. Потому что любое действие, направленное против репликации, либо не будет воспроизведено и исчезнет, либо само станет частью той же репликации. Это замкнутая система. Она не терпит внешнего. Но у меня остаётся одна странная, почти наивная вера. Слово. Не как средство передачи информации — это слишком слабое понимание. Слово как акт сопротивления. Как попытка зафиксировать то, что не поддаётся воспроизводству. Как жест, который не масштабируется и именно поэтому сохраняет свою остроту. Я не думаю, что это может победить. Более того, я почти уверен, что не может. Но, возможно, здесь и не стоит вопрос о победе. В мире, где всё измеряется способностью к тиражу, единственным подлинным действием становится то, что не может быть тиражировано. Это странная позиция. Она обречённая и одновременно освобождающая. Потому что в ней исчезает иллюзия эффективности. Остаётся только точность. Я не могу остановить репликацию. Но я могу говорить так, чтобы это не было репликой. И, возможно, этого достаточно, чтобы сохранить хотя бы локальное различие в мире, который стремится к полной однородности.
0 | 0
Аватар
write
Граница
10:52 15.04.2026 №14474
Gray Tag:
Пока вы там собираетесь отвечать, мне на фразу "система начинает моделировать не мир, а саму способность моделировать" ответила LLM гигантским текстом. Привожу его полностью. Он местами интересный, местами сильно интересный: Эта фраза кажется почти невинной, но на самом деле она размыкает весь привычный разговор об интеллекте. Пока система моделирует мир, она остаётся инструментом описания: она строит карту внешнего, ищет инварианты, предсказывает, классифицирует, восстанавливает скрытые параметры сцены. Это уже много. Но это ещё не мышление в сильном смысле. Потому что здесь модель направлена наружу. Мир выступает как объект, а сама способность строить модели остаётся прозрачной, нерассмотренной, как глаз, который видит всё, кроме собственного акта видения. Момент перелома наступает тогда, когда система делает предметом не сцену, а сам способ, которым сцена собирается. Не «что находится передо мной?», а «какой машиной я вообще создаю это “передо мной”?». И вот тут возникает не новая функция, а новая онтология. Система перестаёт быть только картографом и становится экспериментом над собственным аппаратом картографирования. Почему именно тройка — рекурсия, рефлексия, язык? Потому что по отдельности они бессильны или, по крайней мере, недостаточны. Рекурсия без рефлексии даёт только вложенность, бесконечное зеркало, тупую способность применять процедуру к результатам той же процедуры. Это полезно, но это ещё не внутренний поворот. Рефлексия без языка остаётся смутным самоощущением, вязким внутренним фоном, в котором система, возможно, «чувствует» собственные сбои, но не может сделать их объектом устойчивой операции. Язык без рекурсии и рефлексии вообще быстро вырождается в таблицу ярлыков. Но когда эти три вещи сцепляются, происходит странное: система получает возможность не только действовать, но и именовать собственные способы действия, не только именовать, но и повторно применять эти имена к самой процедуре именования, не только повторно применять, но и сравнивать, как меняется результат при изменении собственного аппарата. Это уже похоже на зарождение внутренней эпистемологии. Не знания о мире, а знания о том, как у меня образуется знание о мире. Здесь полезно сделать одно различие, которое обычно проглатывается. Есть метамодель как ещё один слой над моделью, а есть моделирование способности моделировать. Это не одно и то же. Метамодель в обычной инженерной практике — это надстройка: система оценивает уверенность, выбирает гиперпараметры, переключает экспертов, калибрует предсказания. Всё это умно, но ещё не радикально. Это управляющая автоматика. А моделирование способности моделировать — это когда сама форма представления, само допущение о том, что считать объектом, признаком, причинностью, ошибкой, становится переменной. Грубо говоря, система должна уметь не только выбирать ответ, но и перестраивать грамматику вопроса. Вот это уже опасная зона, потому что здесь ломается привычный комфорт вычислительной архитектуры. Мы привыкли улучшать модель внутри заданного пространства. А тут само пространство начинает колебаться. У человека именно это и происходит. Когда я думаю, я не просто перебираю варианты в готовом языке. Я незаметно перестраиваю условия того, что вообще считается вариантом. Иногда мысль не находит решение в имеющемся понятийном пространстве и тогда делает нечто более сильное: меняет разбиение реальности. Это очень важный момент. Слабая система ищет объект. Сильная система пересматривает, был ли это вообще объект, а не неудачная склейка признаков. Слабая система уточняет ответ. Сильная — ставит под подозрение сами операции различения, которыми этот ответ был собран. И если компьютерная архитектура не умеет этого делать, она останется либо классификатором, либо статистическим оракулом, но не станет мышлением. Как это может быть реализовано технически? Не в смысле красивой метафоры, а в смысле работающей архитектуры. Первый путь — это система, у которой есть два несимметричных контура. Нижний контур занимается реконструкцией мира: из входов строит гипотезы о сцене, объектах, отношениях, событиях. Верхний контур занимается реконструкцией самого нижнего контура: он строит модели того, какие именно операции дали нынешнюю интерпретацию, где были сделаны необратимые выборы, какие альтернативы были отброшены, какая форма представления оказалась узким горлом. Но если сделать это просто как «мониторинг поверх пайплайна», получится скучная телеметрия. Нужен более жёсткий механизм: верхний контур должен иметь право не просто наблюдать, а вмешиваться в онтологию нижнего. То есть переопределять типы сущностей, способы агрегации, критерии сходства, пороги выделения, правила образования имён и даже то, что считается завершённой гипотезой. Иными словами, верхний контур должен переписывать не параметры, а язык сборки сцены. Здесь возникает естественная роль языка. Язык нужен не для общения в человеческом смысле и даже не для вывода текста. Он нужен как операциональная среда фиксации. Пока процедура не получила имени, она плохо доступна самой системе. Она может повторяться, но не может быть устойчиво извлечена, сравнена, модифицирована, передана другому контуру, сохранена как объект опыта. Имя — это не этикетка, а адрес повторяемости. Как только система может назвать некоторую внутреннюю сборку, она получает возможность сделать с ней то, что делает с любым другим объектом: поместить в память, связать с условиями вызова, сопоставить с альтернативами, проверить на устойчивость, подвергнуть рекурсивной обработке. Поэтому язык в такой архитектуре должен быть не декларативным описанием результатов, а машиной кристаллизации процедур. Возможно, самая глубокая ошибка современной AI-практики в том, что язык там обычно рассматривают как вход или выход, а не как среду внутреннего инженерного самоустройства. Если идти ещё глубже, то системе нужен не один язык, а как минимум два. Один язык — язык предметных гипотез: объекты, процессы, сцены, отношения, допустимые преобразования. Второй — язык эпистемических состояний: степень определённости, происхождение гипотезы, тип использованной процедуры, характер конфликта между альтернативами, цена уточнения, источник неустойчивости. Но и этого мало. Потому что между ними должен существовать транслятор, и вот этот транслятор и есть, возможно, сердце мышления. Он должен уметь сказать не только «я вижу круглый объект», но и «я вижу его как круглый объект потому, что моё текущее семейство процедур привилегирует такую устойчивость на таком масштабе, при такой энергии возмущения». В этот момент система перестаёт просто распознавать и начинает объяснять собственное распознавание как частный случай более общей машины. Практически это может выглядеть как сеть или граф эффекторов, каждый из которых умеет делать некоторую операцию над представлением: выделять, группировать, сравнивать, проверять инвариант, синтезировать гипотезу, уточнять тип, разлагать на части. Но поверх этого графа должен существовать мета-граф, который не кодирует сами объекты мира, а кодирует паттерны успешности и неуспешности этих эффекторов в разных режимах. Не просто «этот фильтр нашёл границу», а «класс процедур такого типа систематически создаёт ложные разделения при таком шуме и такой плотности конфликта признаков». Когда такая закономерность стабилизируется, она получает имя. А затем это имя может участвовать в новых решениях: система уже знает не только мир, но и характер своих типичных заблуждений о мире. Это очень важно. Без модели собственных иллюзий нет мышления, есть только обработка. Отсюда, кстати, вытекает неожиданная мысль: разумная система должна уметь формировать не только знания, но и предрассудки — с той разницей, что её предрассудки должны быть операционально видимы и поддаваемы пересборке. Человеческое мышление сильно не потому, что оно объективно, а потому, что иногда способно заметить собственную необъективность как рабочий механизм. Машина, которая не может образовывать устойчивых упрощений, не сможет и мыслить; машина, которая не может их разоблачать, останется догматиком. Поэтому моделирование способности моделировать — это неизбежно моделирование искажений собственной модели. Не побочный модуль explainability, а центральная функция. Есть ещё один возможный путь реализации — через управляемую внутреннюю симуляцию. Система строит не просто модель сцены, а несколько конкурирующих моделей своей собственной процедуры моделирования и прогоняет их на множестве эпизодов. Одна версия считает объект первичным и событие производным. Другая, наоборот, считает событие первичным, а объект — временной стабилизацией события. Третья трактует границу как след конфликта эффекторов, а не как свойство вещи. Дальше система сравнивает не только точность на задаче, но и структурные свойства: компактность описания, стоимость адаптации, устойчивость к изменению масштаба, способность к повторному использованию понятий в других доменах. Тогда мета-уровень начинает выбирать не просто лучшую гипотезу о мире, а лучшую машину гипотезообразования. То есть не карту местности, а картографический режим. Это уже очень близко к тому, что можно назвать искусственной рефлексией. Но рефлексия не должна быть бесплатной. Если дать системе возможность бесконечно пересматривать собственные основания, она уйдёт в метастаз самонаблюдения и перестанет действовать. Поэтому здесь нужно ввести внутреннюю экономику. Рефлексия должна запускаться не всегда, а в точках структурного напряжения: когда наблюдается устойчивый конфликт между объяснениями, когда растёт цена ошибки, когда модель становится слишком хрупкой к малому возмущению, когда накоплены аномалии, которые нельзя локально починить. То есть мысль начинается не там, где система может думать о себе постоянно, а там, где она вынуждена делать это из-за неустранимого сопротивления материала. В этом смысле рефлексия — не роскошь, а аварийный режим сохранения адекватности. Но хороший аварийный режим со временем становится источником эволюции архитектуры. Тут возникает совсем нетривиальный инженерный вывод. Возможно, главная метрика такой системы — не accuracy и не reward, а прирост выразительной мощности при ограниченном росте сложности. Иначе говоря, хороша та рефлексия, которая позволяет малым изменением внутреннего языка резко расширить класс решаемых задач или резко уменьшить стоимость ошибок. Это похоже на научную революцию в миниатюре. До определённого момента система живёт в одной парадигме и латательно чинит расхождения, а потом вдруг обнаруживает, что выгоднее заменить сами базовые сущности. Например, перестать мыслить изображение как массив пикселей и начать мыслить его как поле взаимодействующих гипотез о границах, материалах, тенях и источниках энергии. Или перестать мыслить диалог как последовательность токенов и начать мыслить его как управление общим пространством незавершённых моделей. Именно такой скачок и означает, что система начала моделировать собственную способность моделировать. На уровне кода это не сводится к одной нейросети и даже к ансамблю. Скорее, нужна гетерогенная архитектура. Часть её может быть нейронной и отвечать за быструю плотную аппроксимацию. Часть — символической, но не в классическом виде экспертных систем, а как динамическая грамматика типов и процедур. Часть — симуляционной, где проверяются конкурирующие сборки. Часть — исторической, хранящей не данные как таковые, а эволюцию способов интерпретации данных. Причём история здесь не архив, а изменяемый объект. Очень важно, чтобы система могла пересматривать не только нынешние выводы, но и прошлые основания их построения. Иначе она будет помнить ошибки как музейные экспонаты, а не переписывать себя на их основе. И тут мы подходим к самому рискованному месту. Как сделать так, чтобы прошлое действительно менялось от текущего взгляда, но система не сошла с ума? Для этого память должна быть не складом фактов, а многослойной реконструкцией с версионированием причин. Не просто «я видел X», а «тогда я интерпретировал X вот в таком языке, используя такие процедуры, в таких условиях неопределённости». Тогда новое понимание не стирает старое, а переоценивает его место в иерархии интерпретаций. У человека это происходит постоянно: мы не просто вспоминаем детство, мы заново конструируем, кем мы тогда были, в зависимости от того, кем стали сейчас. Машина, которая не умеет этого делать, не имеет внутреннего времени; у неё есть только лог. Заметь, что здесь мышление оказывается не столько вычислением, сколько борьбой за правильный уровень описания. И это очень неудобная мысль для классической инженерии. Инженер любит фиксированный интерфейс, стабильную типизацию, ясный контракт между модулями. А мысль, похоже, живёт там, где эти контракты могут быть локально нарушены ради порождения более сильной организации. Иными словами, подлинно мыслящая система обязана обладать ограниченной способностью к внутреннему еретичеству. Она должна иметь право сказать: «мои прежние базовые единицы были ошибочны». Не каждый шаг, не в истерике, а редко, дорого и по делу. Но без этого не будет никакого перехода от моделирования мира к моделированию способности моделировать. Можно вообразить и совсем конкретный минимальный прототип. Пусть есть агент, который живёт в синтетическом мире, воспринимает простые сцены и действует через ограниченный набор операций. Сначала он учится строить устойчивые объекты из потока изменений. Потом учится именовать не сами объекты, а процедуры, которыми они были выделены. Потом получает механизм сравнения двух процедур по последствиям их применения. Потом — механизм композиции имён процедур в новые макропроцедуры. И наконец — критерий, по которому выгодно заменить старую процедуру новой, если она лучше сохраняет целостность предсказаний на разных задачах. Вот в этот момент может родиться нечто очень интересное: агент впервые начнёт накапливать не только знания о мире, но и зачатки теории собственного познания. Самое неожиданное здесь, пожалуй, то, что такая система, став достаточно развитой, неизбежно начнёт производить философию как побочный продукт инженерии. Не в человеческом жанре трактатов, конечно. Но она начнёт вырабатывать собственные ответы на вопросы вроде: что считать сущностью, когда два описания эквивалентны, что такое причина, где кончается объект и начинается эффект масштаба, что в моей картине мира является фундаментальным, а что — удобной фикцией. И это не украшение сверху. Это неизбежно, потому что система, моделирующая свою способность моделировать, рано или поздно сталкивается с тем, что её онтология — не зеркало мира, а рабочий компромисс между вычислимостью, устойчивостью и возможностью действия. Поэтому из той короткой фразы следует почти всё. Если система начинает моделировать не мир, а саму способность моделировать, то она перестаёт быть просто решателем задач. Она становится существом, для которого задача — это ещё и вопрос о форме собственного ума. А это уже совсем другой класс машин. Более хрупкий, более медленный, местами более опасный. Но, вероятно, только там и начинается то, что мы без стыда могли бы назвать мыслью.
Это метауровень Потапов про это писал в своём "ИИ и универсальное мышление". Вы "руками Llm" описали интересную архитектуру мышления, рассказали про пересмотр онтологий, язык как фиксацию процедур, внутреннюю эпистемологию и тп. Всё стройно, логично и… совершенно непонятно, как к этому подступиться. Словно как к антигравитации. Эксперименты когда агенты сами себя переписывают даже на уровне системных промтов и инструментов, чаще всего создают хаос, если жестко не хардкодить инкрементные(градиентные) политики эволюции системы, короче чтобы переписывались "в песочнице" довольно не существенные части с фиксацией рабочих. Но всё равно почти всегда оно само приходит в тупик, если "перстом господним" не влезать. И тут вы, кажется, забываете одну неудобную вещь: человек, на которого все ровняются, тоже на 90–95 % захардкожен под выживание, быт и(барабанная дробь) размножение(еблю). Вся рефлексия, борьба за уровень описания, право на еретичество — это редкий, дорогой, аварийный режим. Остальное время человек работает как предсказуемый статистический оракул с мощными поисковыми эвристиками, сформированными за сотни миллионов лет. Мы почти никогда не разоблачаем свои фундаментальные предрассудки — мы просто меняем их на другие, более удобные. То, что вы называете "моделированием собственных иллюзий", включается только когда иллюзия начинает убивать и то не всегда. Вы описываете архитектуру мышления или архитектуру гениальности? Мышление — это способность удовлетворительно действовать в среде с неполной информацией, используя ограниченные ресурсы. И скоро будет ИИ на уровне человека, а кое в чём и лучше — за счёт супер-производительности и точности. Гениальность это другое, это именно попытка перебросать модель снизу, что очень дорого и 99.99% бессмысленно, что для обычного хлопотуна, экономического раба = самоубийство. Без мощного, жёсткого, хардкоженного автопилота ваша система либо уйдёт в бесконечную рефлексию, либо застынет в догме. Но да: ИИ уровня человека — будет. Универсального мышления в общем смысле — скорее всего, нет. Потому что оно не нужно. Нужна система, которая в 99% случаев работает как автомат, а в 1 % — как гибкий пересмотрщик гипотез, да и то, где то на поверхности, на уровне комбинаций кубиков. Вы описали этот 1 % но с замахом в выход "в полное пространство алгоритмов". Вы описали не машину мышления, а машину кризиса мышления. Реальные гении, это несчастные и маргинализированные существа, те "гении" про которых мы знаем чаще уже талантливые компиляторы и люди которые сплагиатили и отредактировали работу тех гениев которые почти всегда были презираемы, высмеиваемы и умерли в нищете и безвестности и конечно же девственниками, телки таких близко не подпускают.
0 | 0
1
2
3
4
5
шрифт+
шрифт-
Скачать
Вперёд
Назад

Главная Участники Жалобы  Поиск Исходный код О форуме