Цап: таким путем вы не отходите от темы текстовых чатботов
У текстовых чат-ботов есть два неоспоримых плюса, от которых нельзя отмахиваться и которые необходимо изучать и учитывать:
1. Они работают. И сам по себе этот факт свидетельствует, что какая-то существенная часть их архитектуры и принципов работы вполне адекватные и нужно понять, что именно они делают правильно и взять этот механизм себе на вооружение. На мой взгляд, ключевое достоинство их работы это построение последовательностей, что является сильной стороной также и человеческого ума. И именно это я предлагаю в продолжение темы норм и ПСО. Поэтому, в какой-то мере Вы правы.
2. Они работают неправильно. Опыт общения с чат-ботами выпукло проявляет те особенности работы, которые невыгодно отличают их от людей (в частности, отсутствие личной позиции, основанной на личном опыте). Когда ты ожидаешь чего-то от AGI, и не получаешь этого, то эта особенность (отклонение от нормы) привлекает внимание и требует пояснений, почему это не работает и как сделать так, чтобы это заработало правильно. В этом несомненная польза чат-ботов - отрезвление разработчиков (тех, конечно, кто хочет трезво смотреть на вещи, а не просто "втюхивать товар").
Цап: вы берете дискретный инструментарий для создания непрерывной сущности - разума
Разум дискретен. А Ваши утверждения о непрерывности разума являются немотивированным личным предубеждением, верованием, основанном на иллюзиях, и очередной химерой, построенной на отрицании, не имеющей никакого отношения к реальности.
Да, Вы правы, и я называл его выше - это причинно-следственное отношение между двумя событиями, каждое из которых не имеет временно́го измерения. Т.е. в рамках каждого такого события не различается "до", "после" и "вследствие". Есть просто факт, со[в(мест)ное]бытие́. Временна́я куча. Причинно-следственное отношение, установленное между такими фактами и есть, по видимому, элементарный механизм, который можно каскадировать и складывать из них более сложные механизмы.
Egg и Сергей Шувалов совершенно справедливо упрекают меня в отсутствии практических реализаций этой теории. По мере возможностей постараюсь сделать демонстрационный макет, который прояснит нюансы.
Цап: вы будете дробить течение на отдельные события и связывать эти события причинно-следственными отношениями?
Вы путаете здесь местами причинно-следственные отношения. Ставите следствие перед причиной. Если Вы говорите "течение", значит мы уже выяснили, что течение имеет место быть. Оно явилось следствием чего-то и его не нужно дробить. А выяснили мы это по каким-то иным предыдущим событиям (причинам, признакам, условиям), например, листочек на поверхности воды переместился с одного места на другое. И не непрерывно, а именно дискретно - с одного на другое. А когда мы выяснили, что течение имеет место быть, то оно само по себе становится событием, фактом, не имеющим временно́й структуры, а значит становится причиной следующих следствий.
Egg: первый вопрос вообще такой: как автомат "понимает" введенную в консоль последовательность токенов/символов/слов?
Если единственный интерфейс - это слова, то значит и модели мира будут строиться исключительно словесные. Насколько я помню, в твоих представлениях слова - это особый вид сигналов, который обрабатывается особым отделом мозга (зоной Брока). Я эту точку зрения не разделяю. В моём представлении слова - это заурядные события, ничем не отличающиеся от других стимулов. Понимание возникнет если автомат сможет вслед за словом, введённым с консоли, представить, что за этим последует. Т.е. в его представлениях возникнет смысл (продолжение, значение, следствие) этого слова. А если кроме слов ничего нет, значит смыслом сло́ва будут другие слова.
Если коротко ответить на вопрос "как?" появится этот смысл, то ответ - из жизненного опыта. Автомат должен генерировать/синтезировать словесные модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться, негодные и неиспользуемые - будут забываться.
Egg: 1) как и где описывается, что игроки ходят попеременно?
3) Как происходит оценка того, что кто-то выиграл и окончание партии?
Эти два вопроса очень похожи. В каждый момент времени игрок находится в игровой локации, ситуации, месте. И для каждого места в памяти должны быть свои нормы (или, как говорят, правила). Если в модели игры автомата соперник походил, а игрок ничего не делает - то это ошибка, отклонение от нормы, которую надо исправить путём синтеза механизма, в данном случае - сделать ход. То же самое при окончании партии. Если после хода соперника игроки попали в целевую финишную игровую локацию, то делать ход будет ошибкой, отклонением от нормы, которую надо исправить путём синтеза механизма, в данном случае - запретить себе делать ход / поздравить соперника / или ещё что-то.
Если коротко ответить на вопрос "как?", то ответ будет, конечно, тот же (мы ведь говорим об универсальности и обучаемости) - из жизненного опыта. Автомат должен генерировать/синтезировать игровые модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться; негодные и неиспользуемые - будут забываться. Чтобы запомнить конкретно эти нормы нужно участие учителя, носителя этих правил. Например, после правильного поведения, учитель должен хвалить/"кормить" или удовлетворять иную потребность, что учеником-автоматом будет восприниматься как достижение некоторой универсальной нормы.
Egg: 2) Как и куда игрок делает ход (как происходит анализ и выбор)?
Это, очевидно, самый важный и интересный вопрос. Но ответ на него будет тот же. Автомат должен генерировать/синтезировать игровые модели, и те из них, которые будут подтверждаться жизненным опытом (верифицироваться), те будут закрепляться и повторяться, негодные и неиспользуемые - будут забываться.
На практике, конечно, будут нюансы. В комбинаторных играх (как и в жизни) всегда появляется вариативность. Но для избегания комбинаторного взрыва вводятся дополнительные нормы. Ещё их называют "промежуточные цели", но это не достаточно точно. Промежуточные цели предполагают как бы последовательность, план. А дополнительные нормы это дополнительные требования к синтезируемому механизму на каждом ходу. Т.е. чем больше норм в каждый момент будет соблюдено, тем более сложный механизм синтезируется, тем более сложное интеллектуальное поведение демонстрирует автомат. Плюс, конечно, нужно учитывать, что у интеллектуального существа есть ещё мышление или воображение, где он может тестировать свои модели, до того как выполнить их своими актуаторами.
Egg: "автомат должен быть устроен так, что он будет это делать непременно". Конечно. Вот я и спрашиваю, как он должен быть устроен, чтобы это делать?
Понятно, что основой такого устройства должна быть большая память, организованная по принципу: "какой механизм служит достижению данной нормы (восстановлению отклонения от данной нормы)". Или ещё проще "какой механизм Y служит восстановлению/обеспечению правильной работы механизма Х". А заполняться эта память должна просто из сырого жизненного опыта. Запоминаются все связи, хотя бы потенциально годные для использования в качестве причинно-следственных. Видимо, тут без макета всё же не обойтись.
Egg: Ты не понимаешь, что такое понимать, почему знаковые модели не бывают словесными и не понимаешь, что именно происходит в LLM, когда она обучается
Если это так, то тут я солидарен с самими разработчиками LLM, которые, судя по твоим сообщениям, тоже не понимают почему их LLM работают.
Я, конечно, не претендую на детальное понимание того, как устроены и работают LLM. Для этого нужно сделать самому хотя бы одну LLM. Но, очевидно, если LLM тренируется на слогах, то и выдаёт она слоги. Чтобы стать мультимодальной у неё должен быть мультимодальный тренировочный датасет.
Также очевидно отличие между обучением человека и тренировкой LLM. Для человека пару слов являются достаточной обучающей выборкой, чтобы на основании них скорректировать свою модель мира. Потому что слова для человека - это его жизненные события, последовательно развивающиеся во времени. А для LLM пары слов недостаточно, ему нужны миллиардные выборки, чтобы так наловчиться обманывать покупателя подбирать следующий токен, чтобы у пользователя сложилось обманчивое впечатление, что LLM что-то "понимает".
В моём понимании, понимание - это процесс, развивающийся во времени, в сознании, последовательно итерационно улучшающийся. А LLM просто выдаёт результат, самый точный, самый правильный, единственно возможный.
Egg: обучение - это записывание правил (словами) в некую память, а понимание - это поиск наилучшего включения по строке
С трудом понимаю, как можно так странно меня понять. Что есть слово? Это либо последовательность графических примитивов (букв, жестов, иероглифов etc), воспринимаемых визуально (тактильно - для слепых), либо последовательность звуков, воспринимаемых аудиально. Либо то же самое но в воображении. Т.е. слово - это такой же объект восприятия/мышления как и всё остальное. Поэтому я не выделяю слова в особую категорию. Слова - это заурядные события. Как рукопожатие, восход Солнца или лай косули. За событием (в частности, за словом), может следовать другое событие. И если интеллект посчитает нужным связать эти два события, то возникнет (и запомнится) простейший механизм - причинно-следственное отношение (ПСО). А применение (вспоминание) этого ПСО для построения модели реальности, в том числе и своего поведения - это есть понимание.
Думать, что интеллект и мышление - это про слова, это примерно то же самое, что думать, что компьютеры - это про С++. Компьютеры - это про транзисторные ключи. А интеллект и мышление - это про причинно-следственные отношения между событиями.
Вангую, господа LLMщики будут крайне удивлены простотой конструкции, когда настоящий AGI будет создан.
Детям нужно несколько лет, чтобы приступить к освоению крестиков-ноликов. Так что не так уж она и проста. А более простая задача конечно же есть:
P.S. Ворона типа играет в крестики-нолики:
Egg: на каждую задачу генерирует примерно 5000 программ на питоне
Позволю себе моветон, процитирую самого себя из прошлого, потому что это по прежнему актуально:
Prosolver: в этой задачке интересно не просто во что бы то ни стало решить конкретно эти 800 задач, а протестировать универсальный AGI-прототип, т.е. который будет думать как человек, а не как мешок с математическими функциями.
Самолёт не машет крыльями, но он воспроизводит полёт. AGI не должен быть сделан из человеческих белков и рефлексов, но он должен воспроизводить человеческое мышление. По определению. Человек не генерирует 5000 программ на питоне, когда решает задачи Шолле, имхо.
Luarvik.: ИНС и все их вариации - понимают ли, что делают ?
Нет, не понимают.
Но также и Вы, и многие другие люди, не понимают, что и как делают.
Понимание своей работы - не есть характерный признак интеллекта. Это, скорее, редкое приятное исключение. Характерный признак - это обучение на лету, на личном опыте, на малых объёмах данных, на пробах и ошибках.
Обосновать это легче лёгкого. Вот, например, тот срач, что Вы развели с Egg'ом в соседнем топике, имеет рациональное обоснование? Вы отчётливо понимаете свои мотивы и механизмы построение своего собственного поведения при этом? Это проявление интеллектуальности или чего-то иного?
Тогда можно выдохнуть с облегчением и заключить, что сознание к интеллекту не имеет никакого непосредственного отношения и досталось человеку в нагрузку от своих животных прототипов/предков. Как неизбежный атрибут реализации интеллектуальных функций на биологическом шасси. Так же как пищеварение, эмоции, инстинкты и другая физиологическая мишура. Которая совсем не обязательна при реализации интеллекта на других платформах.
Не до конца ясным остаётся только вопрос о роли сознания в оценке собственного жизненного опыта. Для людей часто решающее значение имеет иллюзия "свободы воли". Якобы своей свободы, якобы своей воли. Существующей именно в сознательном состоянии. Похоже, что это не более чем способ дать человеку понять, что для некоторых событий их причиной является сам человек, и ему следует быть особенно внимательным, чтобы вдруг не стать причиной физиологически неприемлемых для самого себя последствий. Собственно, в этом корень таких понятий как вина, совесть, ответственность, наказание. Которые, впрочем, может быть, и не помешали бы некоторым особо болтливым чатботам.
Luarvik.: без сознания ничего кроме [алгоритмического] автомата не получите
А с сознанием мы что получим? Неалгоритмический автомат? Или алгоритмический неавтомат?
Luarvik.: осознанно выбрали для себя "путь раба"
По жизни я стараюсь выбирать просто самый правильный путь. А если этот путь лежит через рабство, то я становлюсь рабом этого пути вдвойне.
Luarvik.: Человек без свободы воли (свободы выбора) не может быть причиной каких бы то ни было событий
В том то и дело, что сознание создаёт для человека иллюзию того, что он является причиной. Эта иллюзия полезна для улучшения своего поведения и обучения на своих ошибках. Ведь если не ты являешься причиной, то и ошибка не твоя. Я давно заметил, что лучше обучаются люди, которые не перекладывают свою вину на кого-то/что-то. Это вполне очевидно, имхо. Говорить о том, что человек со свободой воли "на самом деле" является причиной - это из области медицины, о которой мучительно шутит Влад в соседнем топике.
Цап: если свободы изначально нет, зачем строят тюрьмы
Чтобы помешать нарушителям общественных норм реализовать своё право на передвижение и выбор места жительства и пребывания.
Цап: реализует способность к свободе в меру своих возможностей
Т.е. свобода ограничена возможностями? Это уже хорошо. Это шаг вперёд. Вам осталось выявить остальные ограничители и условия свободы, чтобы осознать, что для словесного представления данной способности человека, наилучшим образом подходит термин "рабство" или "служение".
Перефразируя классиков: и познаете истину, и истина сделает вас рабами.
Тема свободы, как и другие трудноопределимые темы, наилучшим образом описаны не чернилами в трудах сумасшедших философов, а в уголовных кодексах. Которые написаны кровью. Что говорит об этом, например, украинский уголовный Кодекс:
Цитата: Не подлежит уголовной ответственности лицо, которое во время совершения общественно опасного деяния, предусмотренного настоящим Кодексом, находилось в состоянии невменяемости, то есть не могло осознавать свои действия (бездействие) или управлять ими вследствие хронического психического заболевания, временного расстройства психической деятельности, слабоумия или иного болезненного состояния психики. К такому лицу по решению суда могут быть применены принудительные меры медицинского характера.
Виной является психическое отношение лица к совершаемому действию или бездействию, предусмотренному настоящим Кодексом, и его последствиям, выраженное в форме умысла или неосторожности.
Умысел делится на прямой и косвенный.
Прямым является умысел, если лицо осознавало общественно опасный характер своего деяния (действия или бездействия), предусматривало его общественно опасные последствия и желало их наступления.
Косвенным является умысел, если лицо осознавало общественно опасный характер своего деяния (действия или бездействия), предусматривало его общественно опасные последствия и хотя не желало, но сознательно предполагало их наступление.
Неосторожность делится на уголовную противоправную самоуверенность и уголовную противоправную халатность.
Неосторожность является уголовной противоправной самоуверенностью, если лицо предусматривало возможность наступления общественно опасных последствий своего деяния (действия или бездействия), но легкомысленно рассчитывало на их предотвращение.
Неосторожность является уголовной противоправной халатностью, если лицо не предусматривало возможности наступления общественно опасных последствий своего деяния (действия или бездействия), хотя должно было и могло их предусмотреть.
Т.е. человек виновен (является свободным, по-Вашему), если он совершал какое-либо действие (бездействие) по:
1. прямому умыслу
2. косвенному умыслу
3. противоправной самоуверенности
4. противоправной халатности
Как видим, всё чётко учтено, проштабелировано, прошито и пронумеровано, никакой свободы ни вправо, ни влево.
Поскольку про чатботов всё-равно никто не забывает, позволю себе несколько лирических комментов.
1. Зашквар - это прикосновение к опущенному или к его вещам. Тогда опущенность магическим способом переходит к прикоснувшемуся. Наверное, в данном контексте этот тюремный термин не совсем релевантный.
2. Сейчас основной язык, который я слышу на улицах Киева - русский. Это может показаться странным, сначала я тоже удивлялся. А потом понял. Думай-те.
3. В кабинетах власти между собой подавляющее большинство украинцев говорили и говорят на русском. В том числе и с иностранцами.
Чтобы выкорчевать русский язык и культуру, мало снести все памятники, переписать учебники истории и переименовать все улицы, я бы посоветовал prinuditelno demokratichno i dobrovolno pereyti na latinitsu. Togda rodnoy nash dorogoy goracho lubimiy angliyskiy yazik stanet eshe rodnee, lubimee i blizhe.
