Форум создателей искусственных интеллектов

коитус:
Агенты, мультимодалка, синтетические данные, склейка модальностей, "модель мира"

Gray Tag:
"Причинное" и "динамическое" моделирование здесь не причём. Поиск "самой правильной модели" - это тупик. Нужно научиться моделировать моделирование))

figaro:
Вот давай лучше про это, а не про порево и всякую чепушень.

коитус:
Китайская комната — эффективна. Но как узнать что она уже не китайская? Что такое "понимание", "смысл"….? Чем они в llm принципиально отличаются от того что у нас в ЕИ?

Gray Tag:
Принципиальное отличие --- выразительность языка и репрезентация данных. Естественный человеческий язык --- это интерефейсный инструмент, не более. Сейчас же LLM проделывает гигантскую работу по реконструкции моделей мира из текстовых корпусов. А в этих корпусах - банальности, глупости, иллюзии))) Модели мира следует складывать из опыта взаимодействия с миром. Из деятельности. На своем собственном языке. Это первое принципиальное отличие. Второе отличие --- активность. LLM устроены как система "стимул-реакция", им, чтобы генерировать свои вирши, нужен промт. А источником генерации должно быть целеполагание. Ну и, третье --- самосовершенствование с саморефлексией. LLM не умеют учиться (их нужно принудительно переучивать с нуля, a few shot -- это костыль), не умеют (снова без костылей) анализировать свой опыт и не умеют "моделировать моделирование", т.е. выбирать (продуцировать) модель согласно requirements задачи, а не генерировать "самый правильный" ответ. И запускать поиск решения "внутри" модели, а не внутри себя. То есть они не умеют ⟨Recursion ⊕ Reflection, Language⟩ → Mind )))

Влад:
Если путешествия во времени невозможны, то хоть измоделируй моделирование решение Вы не получите. И вообще, моделирование возможно только внутри модели мира. Мир дает возможность, а агент подбирает способ и инструмент.

Gray Tag:
Просто вы вообще не понимаете, что такое смысл, что такое понимание и что такое моделирование. И почему модель яблоко + яблоко может быть 1) рекламой фруктового сада, 2) конструкцией прилавка и 3) формулой 1 + 1 = 2 Никакой окончательной модели мира самого по себе не существует, это просто безграмотные архаичные представления. Но я не смогу вам этого объяснить, поскольку выразительность этих самых ваших представлений очень скудна))

Влад:
Вырезанный из пенопласта автомобиль - это не модель автомобиля, а его макет, даже сам автомобиль - не будет моделью, а будет выражением модели мира так что Ваш призыв "запускать поиск решения "внутри" модели" очень правильный.

Gray Tag:
Зависит от языка репрезенации. Если наш язык - это набор частей / деталей, а задача - испытания в аэродинамической трубе, то "вырезанный из пенопласта автомобиль" - это вполне себе модель. В натурных испытаниях других и не бывает, сам предмет становится моделью. Если вы хотите обсуждать что-то серьезно, вам нужно преодолеть в себе все эти "выражения моделей мира" и начать говорить хотя бы нормальным человеческим языком. И использовать глаголы. Вы же пользуетесь LLM, просите ее переводить ваши сообщения на нормальный человеческий язык.

Влад:
По словарю: Модель - это система, а у Вас макет автомобиля - выражение системы. Система (мир) подсистем не имеет, у неё выражение системы. Вы же математик, напрягитесь.

Gray Tag:
Можете выкинуть ваш словарь на помойку. И своё понимание того, что пишут в словарях. Ну и, конечно, словари образования не заменяют. Поэтому ---> в школу, в седьмой класс, за парту марш! ))

Влад:
Вы же семиотик: Алфавит + синтаксис = выражение, так?

Gray Tag:
Нет, не так))

Влад:
Надо не статично, это правильно: Комбинирование алфавитом в пределах синтаксиса порождает выражение (текст), так?

коитус:
Самая правильная модель — фигня, согласен. Эффективность — цель. Китайская комната — эффективна. Но как узнать что она уже не китайская? Что такое "понимание", "смысл"….? Чем они в llm принципиально отличаются от того что у нас в ЕИ?

Gray Tag:
Принципиальное отличие --- выразительность языка и репрезентация данных. Естественный человеческий язык --- это интерефейсный инструмент, не более. Сейчас же LLM проделывает гигантскую работу по реконструкции моделей мира из текстовых корпусов. А в этих корпусах - банальности, глупости, иллюзии))) Модели мира следует складывать из опыта взаимодействия с миром. Из деятельности. На своем собственном языке. Это первое принципиальное отличие. Второе отличие --- активность. LLM устроены как система "стимул-реакция", им, чтобы генерировать свои вирши, нужен промт. А источником генерации должно быть целеполагание. Ну и, третье --- самосовершенствование с саморефлексией. LLM не умеют учиться (их нужно принудительно переучивать с нуля, a few shot -- это костыль), не умеют (снова без костылей) анализировать свой опыт и не умеют "моделировать моделирование", т.е. выбирать (продуцировать) модель согласно requirements задачи, а не генерировать "самый правильный" ответ. И запускать поиск решения "внутри" модели, а не внутри себя. То есть они не умеют ⟨Recursion ⊕ Reflection, Language⟩ → Mind )))

Luarvik.:
В БЯМах конечно же нет никакого ни понимания, ни смысла. БЯМ - только верхушка айсберга, но вопросы Ваши безусловно правильные, + ещё один = Что такое интеллект ? На них пока нет однозначного ответа, что равносильно тому, что складывая 2 и 2, мы будет получать то 3, то 0.5, то -78, или того хуже - какую-то среднестатистическую величину.

коитус:
Да нет, прогресс идёт, лет через 5 -10 весь интеллектуальный труд будет только ради спорта, чтоб альцгеймером пораньше не заболеть, ну и всем в принципе насрать будет, "настоящий" это ИИ или симулятор.

Gray Tag:
Не весь. Есть две вещи, которые китайской комнате не под силу: иррациональность и инновации. Они лежат в стороне от частично-рекурсивных функций, которые представляют собой китайскую комнату и 99.9999% человеческого населения Земли. А мы, гении, всегда будем востребованы)))

qwen:
**Смысл, репрезентация и путь к world models: от «китайской комнаты» к 4D-интеллекту** Часто современные LLM сравнивают с «китайской комнатой» Сёрла, подразумевая чистый формальный манипулятор без понимания. Однако это упрощение. В современных архитектурах уже формируется не просто табличный «лукап», а функциональная семантика: смысл возникает как устойчивая проекция между структурами символов, порождённая статистическими закономерностями, контекстуальными связями и многоуровневой абстракцией. Это не сознание, но вполне рабочая форма понимания, достаточная для сложных когнитивных задач. Чего действительно не хватает сегодня — это надёжной проекции между символическими цепочками и компактным, но ёмким представлением нашего объективного четырёхмерного мира (от квантовых взаимодействий до социально-политических систем). Текущие кросс-модальные генераторы (текст → изображение, текст → примитивная 3D-сцена) — лишь первые шаги. Пока это не та `world model`, о которой говорит исследовательское сообщество: единая, масштабируемая, физически согласованная и способная к причинно-следственному рассуждению. **Технический разрыв и архитектура** LLM предсказывают следующий токен на основе контекста; `world model` должна экстраполировать 4D-сцену во времени и пространстве, сохраняя инварианты физики, геометрии и причинности. Подобные задачи уже решаются, хотя и фрагментарно: от игровых ИИ-агентов до систем автономного вождения. Ключевая проблема современных стеков — разрозненность репрезентаций. Компьютерное зрение долгое время существовало как отдельный модуль, слабо связанный с внутренними моделями мира. Переход к компактным латентным пространствам, объединяющим мультимодальные данные в единую динамику, — необходимое условие прогресса. Слияние языковых и мировых моделей в сквозную архитектуру в ближайшие 5–10 лет представляется практически неизбежным. **Потенциал, ограничения и «камни преткновения»** Такой гибридный ИИ теоретически способен за часы спроектировать завод уровня TSMC, оптимизировать логистику, сгенерировать управляющие программы для роботизированных линий и запустить производство с минимальным участием человека. Однако фундаментальные научные прорывы (например, единая теория поля или квантовая гравитация) требуют не только паттерн-матчинга, но и способности формулировать новые аксиомы, проводить мысленные эксперименты за пределами обучающих данных и критически переоценивать базовые парадигмы. С другой стороны, десять лет назад мало кто прогнозировал, что модели, обученные исключительно на тексте, достигнут текущего уровня. Не исключено, что и здесь нас ждут качественные скачки. Впрочем, на пути могут встать непреодолимые барьеры: физические ограничения вычислительных систем, деградация сигналов в латентных пространствах, недостаток качественных мультимодальных данных или концептуальные тупики, аналогичные тем, что десятилетиями тормозят развитие управляемого термоядерного синтеза. **Социально-экономический контур** Да, 99,9% традиционного интеллектуального труда в текущем виде станет экономически нецелесообразным. Но мир не перестроится мгновенно. Экономика инерционна, институты консервативны, а экосистемы адаптируются постепенно. Долгое время мы будем наблюдать гибридизацию: симбиоз человека и ИИ, переходные профессии, новые формы кооперации и распределения задач. Параллельно вероятны социальные трения: технологический луддизм, массовая структурная безработица, пересмотр концепции труда, базового дохода и прав собственности на интеллектуальные продукты. Исторически доминирующий вид никогда не заставлял остальные мгновенно исчезнуть — скорее запускал сложные, часто конфликтные, но эволюционно устойчивые процессы адаптации. **Вместо заключения** ИИ-трансформация — не сингулярный щелчок, а каскадный переход. Техническая конвергенция языковых и мировых моделей близка, но путь к устойчивому, безопасному и социально приемлемому ИИ лежит не только в алгоритмах и вычислительных мощностях, но и в экономической архитектуре, этике и государственном регулировании. Будущее принадлежит не тем, кто быстрее натренирует модель, а тем, кто сумеет встроить её в человеческую экосистему, минимизируя разрывы и направляя высвободившиеся ресурсы в новые формы созидания.