Форум создателей искусственных интеллектов

С этим спору нет. Однако, предобучение человека некоторым базовым примитивам в первые годы жизни и тренировка LLM на бигдате, на мой взгляд, это концептуально разные вещи. При человеческом стиле обучения мы получаем (в потенциале) сверхадаптивное существо, способное строить и менять модель мира оперативно. В случае с LLM модель мира оказывается зацементированной и статичной, что принципиально обусловлено архитектурой. Если это удастся сделать (в чём я сильно сомневаюсь), то я первый прибегу и буду вопить, что AGI создан. P.S. Есть ещё энергетическое соображение, которое указывает на чудовищную неоптимальность LLM. Вот тут пишут (верю), что для тренировки одной языковой модели вроде GPT-3 требуется около 10 ГВт·ч. При этом потребление мозга примерно 20 Вт·ч, за год это примерно 0,000175 ГВт·ч. Т.е. LLM примерно в 114000 раз прожорливей мозга. И это без учёта энергии на саму работу. Есть куда стремиться.

Выдвижение гипотез по человеческому типу требует наличия сознания. Будет сознание - будут и гипотезы, а не тупой перебор вслепую. Моделированием сознания... Вам известно, кто этим занимается ? Мне - нет. В этом тёмном чулане ещё конь не валялся. Да и у Вас, насколько понимаю, несколько другие интересы.

Проблема с сознанием в том, что даже если удастся его создать (смоделировать, сэмулировать) то мы всё-равно не сможем убедиться в том, что оно "там" появилось. Как мы прекрасно помним, настоящее сознание обладает свойством абсолютной приватности. Человека или животное мы наделяем сознанием (с нашей точки зрения) если обнаруживаем в его поведении характерные признаки сознательности. Поэтому я предлагаю сосредотачиваться не на сознании как явлении, а на тех признаках, которые сознанию сопутствуют. И моделировать именно их, а там глядишь может и сознание "там" появится. P.S. Видео к вопросу много ли ума надо для сбора пирамидок.

В отношении "церебральных существ", эта абсолютность характеризуется как непреодолимыми в обозримом будущем технологическими ограничениями, так и причинами чисто физического свойства. Модель т.ск. "по определению" будет обеспечивать полный доступ к своим функциям и их результатам, которые можно интерпретировать вполне адекватно, включая пресловутую "сумму обстоятельств". "Подсмотреть" во всей полноте даже в таком случае не удастся, но кое-что "вещественное" вытащить всё-таки можно, когда вот оно всё - хоть вывернутое наизнанку. Я бы добавил - самосознательности. ... и получится у Вас "как всегда" - крякает как утка, ходит как утка, плавает как утка... но уткой конечно же не является. Чем предлагаемый Вами подход - "от обратного" - отличается от т.ск. "ныне действующих" ? Ровным счётом ничем. В любом случае это хождение кругами в темноте. Как бы то ни было, но сознание (а не его признаки... и признаки ЧЕГО ?) моделировать придётся.

Предлагаю Вам объединить наши общие воззрения и усилия в совместную плодотворную теоретическую, исследовательскую, изобретательскую, экспериментальную, созидательную деятельность в направлении создания действующих функциональных моделей(систем) сознания, интеллекта, сии и т.д. Для этого найти какую-то более эффективную форму сотрудничества, которая позволит в разы ускорить скорость продвижения к перечисленным целям.

Поддерживаю любые формы сотрудничества, кооперации и координации. Единственная норма, которую я прошу принять - все результаты такой кооперации становятся безусловным и безвозмездным достоянием общественности.

Да, безусловно, результатами данной кооперации, участники распоряжаются по любому своему желанию, в том числе и обнародованию. Но я говорил не о результатах кооперации, а о процессе. Чтобы процесс был более эффективным нужно найти какую-то другую форму сотрудничества, чем форум.

Форма найдена. Скинул в личку.

Думаю, что таким путем вы не отходите от темы текстовых чатботов. Есть буква А и есть буква Б... "наше мышление" движется от А до Б... Вы продолжаете пытаться описывать движение через статические состояния. Этим потугам уже две с половиной тысячи лет и даже больше. Современный мир построен на этих "нулях и единицах". Есть 0 и есть 1 и не важно, что между ними. А если кто-то очень заинтересуется, то поделим участок между ними на бесконечное число таких же нулей и единиц.... Это описано еще в аппориях Зенона. Он в своих рассуждениях делил путь полета стрелы пополам, потом каждую половинку пополам и так далее... а потом объявил, что, таким образом стрела никогда не долетит до цели, ...а Ахиллес никогда не догонит черепаху... Ваша стрела не долетит до цели, так как вы берете дискретный инструментарий для создания непрерывной сущности - разума. Точками можно создать имитацию, но не суть.

У текстовых чат-ботов есть два неоспоримых плюса, от которых нельзя отмахиваться и которые необходимо изучать и учитывать: 1. Они работают. И сам по себе этот факт свидетельствует, что какая-то существенная часть их архитектуры и принципов работы вполне адекватные и нужно понять, что именно они делают правильно и взять этот механизм себе на вооружение. На мой взгляд, ключевое достоинство их работы это построение последовательностей, что является сильной стороной также и человеческого ума. И именно это я предлагаю в продолжение темы норм и ПСО. Поэтому, в какой-то мере Вы правы. 2. Они работают неправильно. Опыт общения с чат-ботами выпукло проявляет те особенности работы, которые невыгодно отличают их от людей (в частности, отсутствие личной позиции, основанной на личном опыте). Когда ты ожидаешь чего-то от AGI, и не получаешь этого, то эта особенность (отклонение от нормы) привлекает внимание и требует пояснений, почему это не работает и как сделать так, чтобы это заработало правильно. В этом несомненная польза чат-ботов - отрезвление разработчиков (тех, конечно, кто хочет трезво смотреть на вещи, а не просто "втюхивать товар"). Разум дискретен. А Ваши утверждения о непрерывности разума являются немотивированным личным предубеждением, верованием, основанном на иллюзиях, и очередной химерой, построенной на отрицании, не имеющей никакого отношения к реальности.

Просто для кого-то нормой является эффективность и здравый смысл. P.S. "Здравый смысл — это сумма предубеждений, приобретённых до восемнадцатилетнего возраста." © Альберт Эйнштейн

Текст состоит из множества дискретных букв, память компьютера это множество нулей и единиц... Разум состоит из множества дискретных... ...из чего состоит разум, как по вашему пониманию?) ....и тут вам следует назвать элемент неделимый далее (ведь дискретный ноль далее не делится и дискретная буква при делении утратит свое значение ...)

Да, Вы правы, и я называл его выше - это причинно-следственное отношение между двумя событиями, каждое из которых не имеет временно́го измерения. Т.е. в рамках каждого такого события не различается "до", "после" и "вследствие". Есть просто факт, со[в(мест)ное]бытие́. Временна́я куча. Причинно-следственное отношение, установленное между такими фактами и есть, по видимому, элементарный механизм, который можно каскадировать и складывать из них более сложные механизмы. Egg и Сергей Шувалов совершенно справедливо упрекают меня в отсутствии практических реализаций этой теории. По мере возможностей постараюсь сделать демонстрационный макет, который прояснит нюансы.

Вы никому ничего не должны в смысле реализации, если, конечно вам самому этого хочется. Но вот возьмём ламинарное течение.... вы будете дробить течение на отдельные события и связывать эти события причинно-следственными отношениями?

Вы путаете здесь местами причинно-следственные отношения. Ставите следствие перед причиной. Если Вы говорите "течение", значит мы уже выяснили, что течение имеет место быть. Оно явилось следствием чего-то и его не нужно дробить. А выяснили мы это по каким-то иным предыдущим событиям (причинам, признакам, условиям), например, листочек на поверхности воды переместился с одного места на другое. И не непрерывно, а именно дискретно - с одного на другое. А когда мы выяснили, что течение имеет место быть, то оно само по себе становится событием, фактом, не имеющим временно́й структуры, а значит становится причиной следующих следствий.

Если единственный интерфейс - это слова, то значит и модели мира будут строиться исключительно словесные. Насколько я помню, в твоих представлениях слова - это особый вид сигналов, который обрабатывается особым отделом мозга (зоной Брока). Я эту точку зрения не разделяю. В моём представлении слова - это заурядные события, ничем не отличающиеся от других стимулов. Понимание возникнет если автомат сможет вслед за словом, введённым с консоли, представить, что за этим последует. Т.е. в его представлениях возникнет смысл (продолжение, значение, следствие) этого слова. А если кроме слов ничего нет, значит смыслом сло́ва будут другие слова. Если коротко ответить на вопрос "как?" появится этот смысл, то ответ - из жизненного опыта. Автомат должен генерировать/синтезировать словесные модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться, негодные и неиспользуемые - будут забываться. Эти два вопроса очень похожи. В каждый момент времени игрок находится в игровой локации, ситуации, месте. И для каждого места в памяти должны быть свои нормы (или, как говорят, правила). Если в модели игры автомата соперник походил, а игрок ничего не делает - то это ошибка, отклонение от нормы, которую надо исправить путём синтеза механизма, в данном случае - сделать ход. То же самое при окончании партии. Если после хода соперника игроки попали в целевую финишную игровую локацию, то делать ход будет ошибкой, отклонением от нормы, которую надо исправить путём синтеза механизма, в данном случае - запретить себе делать ход / поздравить соперника / или ещё что-то. Если коротко ответить на вопрос "как?", то ответ будет, конечно, тот же (мы ведь говорим об универсальности и обучаемости) - из жизненного опыта. Автомат должен генерировать/синтезировать игровые модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться; негодные и неиспользуемые - будут забываться. Чтобы запомнить конкретно эти нормы нужно участие учителя, носителя этих правил. Например, после правильного поведения, учитель должен хвалить/"кормить" или удовлетворять иную потребность, что учеником-автоматом будет восприниматься как достижение некоторой универсальной нормы. Это, очевидно, самый важный и интересный вопрос. Но ответ на него будет тот же. Автомат должен генерировать/синтезировать игровые модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться, негодные и неиспользуемые - будут забываться. На практике, конечно, будут нюансы. В комбинаторных играх (как и в жизни) всегда появляется вариативность. Но для избегания комбинаторного взрыва вводятся дополнительные нормы. Ещё их называют "промежуточные цели", но это не достаточно точно. Промежуточные цели предполагают как бы последовательность, план. А дополнительные нормы это дополнительные требования к синтезируемому механизму на каждом ходу. Т.е. чем больше норм в каждый момент будет соблюдено, тем более сложный механизм синтезируется, тем более сложное интеллектуальное поведение демонстрирует автомат. Плюс, конечно, нужно учитывать, что у интеллектуального существа есть ещё мышление или воображение, где он может тестировать свои модели, до того как выполнить их своими актуаторами.

Понятно, что основой такого устройства должна быть большая память, организованная по принципу: "какой механизм служит достижению данной нормы (восстановлению отклонения от данной нормы)". Или ещё проще "какой механизм Y служит восстановлению/обеспечению правильной работы механизма Х". А заполняться эта память должна просто из сырого жизненного опыта. Запоминаются все связи, хотя бы потенциально годные для использования в качестве причинно-следственных. Видимо, тут без макета всё же не обойтись. Если это так, то тут я солидарен с самими разработчиками LLM, которые, судя по твоим сообщениям, тоже не понимают почему их LLM работают. Я, конечно, не претендую на детальное понимание того, как устроены и работают LLM. Для этого нужно сделать самому хотя бы одну LLM. Но, очевидно, если LLM тренируется на слогах, то и выдаёт она слоги. Чтобы стать мультимодальной у неё должен быть мультимодальный тренировочный датасет. Также очевидно отличие между обучением человека и тренировкой LLM. Для человека пару слов являются достаточной обучающей выборкой, чтобы на основании них скорректировать свою модель мира. Потому что слова для человека - это его жизненные события, последовательно развивающиеся во времени. А для LLM пары слов недостаточно, ему нужны миллиардные выборки, чтобы так наловчиться обманывать покупателя подбирать следующий токен, чтобы у пользователя сложилось обманчивое впечатление, что LLM что-то "понимает". В моём понимании, понимание - это процесс, развивающийся во времени, в сознании, последовательно итерационно улучшающийся. А LLM просто выдаёт результат, самый точный, самый правильный, единственно возможный.

Если добавить LLM еще одну модальность, «заложить начальное ядро представления о реальности» - Egg, то каждому слову (имя понятия) будет соответствовать некое выражение новой модальности, текст в данном переводе будет сливаться в некое изменяющееся единое целое как в реальности.

Если в ломбард и за воротник, то начнем с понятия «Сцена» и простеньким сюжетом «На столе лежала книга».

Универсальное множество элементов, т.е. Система и её изменяющееся выражение. Т.е. Вы проектируете не системы, а локальные выражения единой системы «Мир» и название предприятия, где Вы работаете нужно поменять, пока не всплыла истина.