Форум создателей искусственных интеллектов

По инициативе Egg'а и по итогам открытых обсуждений дополнил Правила форума пунктом 10 такого содержания: "10. Автор топика может делегировать администрации своё право на модерацию своего топика путём размещения в нём соответствующего сообщения." Заодно поудалял ссылки на неработающие сейчас ИИ-веб-ресурсы.

Противоречия нет. Если бы сведения об устройстве психики были достоянием общественности, то мы не сидели бы здесь, а просто почитали книжку "Мыслединамика" или "Как сделать ИИ на коленке из глины и палок". Но таких книжек нет. Значит, либо общественный опыт содержит фундаментальные лакуны в этом вопросе, либо фундаментальные ошибки. А скорее всего, и то и другое. Поэтому опыт отдельного исследователя в таких условиях может оказаться ценнее, чем заблуждения миллионов. Даже если они обёрнуты в удобную высокотехнологическую оболочку говорящего електро-попугая.

Спору нет. Но если у дипсика нет ответа на вопрос, в силу того, что ответа не было у людей, тренировавших нейросеть, то общаться с дипсиком бесполезно. О чём я и сказал. Без комментария.

Сравнительный эксперимент надо проводить при прочих равных условиях. Поэтому, давай лучше возьмём необученного человеческого младенца и "необученную" LLM, поместим их в одну комнату и посмотрим, кто раньше научиться складывать пирамидку.

Совершенно верно. Признаком интеллекта является умение научиться этому на собственном жизненном опыте.

Миллиарды лет эволюции, культура, социализация, учителя, сожители - это всё факторы обучения. А личного жизненного опыта у человека нет и он на этом опыте ничему не учится. Я правильно понял?

Да, будем. И, собственно, на этом диспут о том, есть ли Интеллект у LLM, полностью исчерпывается.

Да, очевидно это так. Большинство людей - обычные конформисты. Но такой ответ не полон. Необходимо сделать две важные оговорки. 1. Это положение дел не плохое, это нормально и хорошо со многих точек зрения. Этому нужно радоваться и не огорчаться. Не буду углубляться почему. 2. В рамках жизни отдельного человека каждый делает инновации, относительно своего опыта. Эти инновации часто достигают своего предела на уровне: "найти дорогу к холодильнику". Со стороны эти "инновации" выглядят банально, но для самого человека - это достижение. И вырабатываются эти инновации тем же самым механизмом, что и у продвинутых особей, двигающих технологии за грань привычного. Просто большинство людей, достигнув "холодильника", дальше не хотят напрягаться. И свой Интеллект попросту не задействуют. Работа Интеллекта очень прожорлива. Именно поэтому хочется возложить именно эту функцию на машину. Грызть сырой жизненный опыт, добывая из гор шлака жемчужины инноваций. Я такой технологии в готовом виде не наблюдаю.

Обещаю не прибегать и не говорить, что это не интеллект. С моей точки зрения, разница между микро-новацией (микро-индивидуальным-открытием) и глобальной новацией - количественная, а не качественная. Но это не может быть предметом "точек зрения", здесь необходима практическая проверка. Поэтому я и говорю, пусть кандидат в ИИ сначала честно и чисто научится собирать пирамидку, через микро-новации. И тогда станет понятно, есть ли принципиальная разница между научением правильно считать пальцы и считать волновые функции. Или вот, пусть научится говорить так же, как дети, а не сразу переводить со всех языков на все (в т.ч. на языки программирования) как сайд-эффект.

Здесь я обращаю внимание не на подражание окружающим, и не на понимание. Обращаю внимание на то, что любой механизм (произношение слов, в данном случае), создаваемый ребёнком, сначала работает неверно. Т.е. первое действие всегда совершается в условиях неуверенности в результате. А после действия появляется опыт, позволяющий скорректировать механизм и сделать его работающим более правильно. Банально, но это и есть метод "проб и ошибок" (лежащий, кстати, в основе научного метода). И именно это называется обучением. И именно это порождает микро (и макро) новации. То, что современные нейросети умеют сразу действовать правильно, без обучения, и не умеют ошибаться, свидетельствует только лишь о том, что способность создавать механизмы обусловлена у них иным подходом, а именно имитационным, аппроксимационным, на основании бигдаты. А то, что не умеет обучаться - нельзя называть интеллектом. Можно называть имитатором, подражателем, аппроксиматором, чем оно по сути и является.

Это представление, на мой взгляд, в корне ошибочно, крайне пагубно и решительно вредно. И приёмная и передающая части - активны. И это даже не части, а один и от же механизм по конструированию. Например, когда мы двигаем пальцем, то создаётся моторный механизм, двигающий палец. Одновременно с этим создаётся сенсорный механизм, отслеживающий мышечное чувство в пальце. Одновременно с этим создаётся активный сенсорный механизм, генерирующий и отслеживающий зрительное восприятие двигающегося пальца. Одновременно создаётся активный механизм, отслеживающий звук пальца. Перед этим создался механизм, который спровоцировал движение пальца для некоторой цели. И механизм, отслеживающий достижение этой цели. Т.е. синергия множества простых механизмов, работающих одновременно, и создаёт целостное осознание своего поведения, в котором моторные и перцептивные механизмы работают одинаково, и обучаются делать это по одинаковой процедуре. Нет никакого иного смысла разделять что-то на приём, что-то на передачу, кроме как всё запутать. Да, и чем это давление выше, тем воля сильнее. Ещё важно уточнить, что это "давление" безусловное. Т.е. оно есть просто по факту бодрствования. Ну тогда уже "создание и управление". Да, создание на лету.

Ошибка бэкпропа и ошибка, совершаемая ребёнком - это разные по своей природе ошибки. Названные, зачем-то, одним словом. Здесь я давал список переобозначенных терминов, вводящих в заблуждение как общественность так и самих разработчиков. Видимо, его стоит дополнить ещё одним термином - "ошибка".

Так я и не спорил. Просто Вы прокомментировали мою цитату, которая касалась другого вопроса (сравнения процесса "обучения" ИНС и обучения ребёнка), сделав акцент не на том. О чём я и сообщил. Это только при первом взгляде так кажется. Попробуйте копнуть глубже и пошагово (во времени) сравнить, как они должны работать. У солипсиста, конечно. Т.е. у человека.

Если Вы говорите о предполагаемом "внешнем" мире, то есть основания предполагать, что он ни из чего не состоит, а, возможно, представляет собой некую непрерывную субстанцию, в которой всё связано со всем и познать его во всей полноте человеческому уму не представляется возможным и нужным. Вместо этого, ум человека изобретает дискретные механизмы для построения своего поведения и взаимодействия с другими умами в рамках некоторой общей среды. В этом смысле, мир каждого человека состоит из созданных им механизмов. И ровно в этой мере.

Простой критерий Вам подскажу. Если для некоторого "положения деталей" человек вводит новое имя, то это механизм. Поскольку механизм имеет смысл только для конкретного субъекта, то он и решает, что механизм. Если, например, мастер СТО часто работает с повёрнутыми колёсами, то у него может быть более дифференцированное представление об этом. Under construction.

Странно, что Вы так долго к этому шли. Я думал, минуты не проходит, чтоб Вы не подумали о размножении. Не вселенной, а с Вашей точки зрения. Очевидно, что Вы одержимы идеей размножения и положили свой интеллект (и, вероятно, другие органы) на алтарь служения этой идее. Но есть мириады других идей, которым интеллект может успешно служить. И даже евнух может быть интеллектуалом. Например, Цай Лунь, изобретатель бумаги.

Пока читаю Минского, решил с Gemini нарисовать простую иллюстрацию к сказанному здесь выше, по мотивам другой известной картинки:

Благодарю за подсказку. Кто желает почитать книжку бесплатно, нашёл такие ресурсы: Марвин Минский "Сообщество Разума" (рус.) Marvin Minsky "The Society of Mind" (eng.) К сожалению, русский перевод местами не точный (например, регулярно путаются термины "разум" и "сознание"), местами ошибочный, а иногда и прямо противоположный (например "agent" и "agency" переведены, соответственно, как "оператор" и "агент"). Поэтому, при чтении русского перевода, необходимо сверяться с оригиналом, если вдруг текст становится бессвязным и абсурдным. При переводе потерялись многие тонкости авторских аллюзий, которые порой играют в изложении решающую роль (в частности, ключевая аналогия между сообществом людей и сообществом микромеханизмов, что, собственно, и дало название книге). Книжка сравнительно большая, поэтому развёрнутый отзыв смогу дать позже, после детального изучения текста.

Может, кому интересно, ув. Mist подсказал, что Франсуа Шолле написал учебник по современным нейросетевым технологиям, включая трансформеры. Можно научиться делать дипсики и всякие midjorney с нуля. Бесплатно на английском доступно онлайн: François Chollet "Deep Learning with Python" (third edition, 2024)

Идея интересная, посмотрю, что можно сделать. Расширил. Пробую набрать тестовую строку: Meaning(x) = {∆s | ∃u : u = π(M, x), g(E, s, u) - s = ∆s, ∆s ≈ ƒ(M, s, u) - s}. Ɐ Не совсем понял, какой алгоритм конвертации здесь мог бы быть. Когда я делал ночную тему, то изменил некоторые цвета интерфейса так, чтобы они одинаково контрастно смотрелись и на светлом и на тёмном фоне. Дефолтный цвет текста, понятно, подобран отдельно и фиксирован для каждой моды. Но если участник осознанно решил переопределить цвет (или размер) шрифта, то как я могу его сконвертировать так, чтобы это было предсказуемо для самого участника? Мне думается, что участник на 100% несёт ответственность за корректность отображения текста в обеих модах, если он решил переопределить значения по умолчанию.