Форум создателей искусственных интеллектов

Новая затея от Франсуа Шолле: ARC‑AGI-2. Пишут, что все популярные чат-боты тест провалили.

Что значит "нет" в задачах? Задача имеет место быть в моём уме, и в моём уме есть движение и с его помощью я решаю задачу. В задачах Шолле речь идёт не о поиске математически оптимизированного решения или что-то в этом узком смысле. Задачи Шолле задают микроскопический мир, со своими микрозаконами, в котором тестовый ИИ может продемонстрировать свои возможности. Любые возможности, в том числе и мышления движением. Идея, конечно, в том, что успешный решатель задач Шолле можно потом масштабировать и "натравить" на реальный мир, через веб-камеры и микрофоны. В реальном мире без движения далеко не уедешь, поэтому и в задачах Шолле они могут иметь место. Смысл задач Шолле не в самих задачах, а в той архитектуре ИИ, которая должна успешно решать эти задачи, как примеры упрощённого реального мира. В том числе и через движения.

Ровно об этом я и сказал. Задачи Шолле выдуманы не для того, чтобы найти математически оптимальный и простой способ их решения. Сами по себе они никому не нужны. И оптимальное их решение никому не нужно. Они выдуманы для того, чтобы на таком простом примере пронаблюдать, как работает мышление человека, сформулировать общий подход к их решению и тем самым приблизить создание человекоподобного ии. Не факт, что общий решатель задач Шолле будет интеллектом. Но факт, что настоящий ии должен на примере задач Шолле продемонстрировать свою эффективность.

mserg, Вы можете пояснить, как связаны задачи Шолле с созданием ИИ? Как, на Ваш взгляд, "самая простая формула" помогает построить механизм ИИ?

Очень хорошо, что готайку не закрыли. Представьте, что было бы, если б её ликвидировали. Все тролли, шизофреники и неадекваты ломанулись бы сюда и нам, коллективными усилиями, пришлось бы их банить направо и налево. Готайка - Банзай!

"Разработчики признались, что не понимают, почему новые ИИ стали ошибаться чаще, чем их предшественники". Такого рода разговоры, конечно, подходят для флудилки. Но не более того. Никакого ИИ нет. И пока не предвидится. Потому что развитие информационных технологий происходит в тупиковом направлении. Если на каждом углу кричать "ИИ", то от этого ума не добавляется. Так же как во рту не становится слаще, если говорить "халва". Впрочем, у кое-кого слаще становится, если разговоры превратить в правильную маркетинговую стратегию. Вся эта шумиха с так называемым "ИИ" мне напоминает пропаганду с так называемой "сменой пола". Название, вроде, хорошее, броское, а на деле - обычная кастрация.

Только не для "поиска", а для "подбора путём синтеза". Если подумать, то очевидно, что это не так. Самый общий рамочный алгоритм должен быть, он-то и задаёт архитектуру интеллекта. Например: шаг 1. выяснение причинно-следственных отношений. шаг 2. применение причинно-следственных отношений. шаг 3. loop.

В самом общем виде это будет звучать так: "нужно поддерживать норму".

Странно выглядит наш разговор: Вы: Не может быть общего алгоритма решения задач! Я: Вот общий алгоритм решения. Вы: А чего этот алгоритм такой общий? ...

Механизм реализации общего алгоритма - это следующий технический вопрос. Но сначала (Вам) необходимо признать, что общий алгоритм есть. Чтобы впредь не возвращаться к этому ключевому вопросу. Ведь, согласитесь, "общий алгоритм есть" и "общего алгоритма нет" - это совершенно разные исходные посылки и совершенно разные последствия.

В качестве наглядного практикума, применим мой "бессодержательный" алгоритм к тексту Ваших сообщений. Вы сообщаете о нарушении нормы, что алгоритмы должны (в норме) быть содержательными, полными и иметь практическую ценность. Это норма, несоблюдение которой Ваш интеллект отфиксировал. Тут нет перебора "всех вариантов" или чего-то в этом роде, здесь есть результат узконаправленного мониторинга для специфической ситуации, на основании Вашего жизненного опыта. Это начало целеполагания. Зафиксирована ненормальность. В случае с ходьбой это может быть нарушение равновесия. В случае с написанием программы - баги. В мирных переговорах - недоговороспособность одной из сторон. В космосе - разгерметизация обшивки. И так далее. Для каждой ситуации свой набор норм. Но они должны быть обязательно, иначе общий алгоритм интеллекта не сработает. Далее, когда ненормальность выявлена, синтезируется механизм для её устранения - приведения ситуации в норму. И это тоже часть общего алгоритма и здесь нет никакого полного перебора. Здесь есть применение выявленных причинно-следственных связей. Общий алгоритм работает даже если человек отрицает общий алгоритм, потому что он его отрицает в силу соблюдения им некоторой нормы. И это важно понимать и признавать.

1. Не знаю, как у Вас, но у нас идёт война и много ресурсов трачу просто на элементарное поддержание институциональной способности. 2. Трудности возникли с выяснением того, как устанавливаются причинно-следственные отношения на разных временны́х масштабах. Ещё разбираюсь с этим. 3. Никто не помогает. 2 Luarvik. По Вашему сообщению о "друге детства" видно, что Вы много внимания уделяете соблюдению литературных норм, у Вас хорошо получается повествовательное изложение. Вероятно, читали много книг. Вы много работали над собой в этом плане. Есть идеи, настолько цепкие, что человек может носиться с ними всю жизнь и с ними же уйти в вечность. Но нужно иметь мужество отказаться от этих идей, если они ложные. Ложность идеи определяется одним единственным контрпримером. В случае с императивом "борьбы за существование" достаточно привести всего 1-н пример того, что человек в ущерб своему существованию выбирает иной императив для построения своего поведения и волеизъявления. И таких героических примеров - легион. Особенно, во время войны. В случае со "служением норме" достаточно привести 1-н пример того, что человек при волеизъявлении руководствуется не стремлением к некоторой норме, а чем-то иным. Но такого примера нет. Отнюдь не так просто. Решающую роль здесь играют представления о причинно-следственных отношениях. Но это разговор не для флудильни.

Вы красиво излагаете. Но приходится в очередной раз напомнить, что "искусственный человек" и "искусственный интеллект" - это совершенно разные задачи. Вполне может быть, что поведение человека возможно только в сообразовании с волей Творца, и тогда вопрос создания искусственного человека выходит за рамки мыслимых категорий. Но это и не требуется. Требуется воспроизвести ту машинку, которая повторит исключительно рациональный вектор поведения человека. То, что позволяет человеку конструировать и воплощать всевозможные механизмы. И представление о "норме" здесь как раз уместно и имеет право быть. И да, с размножением это никак прямо не связано. Это нормальный методологический приём, который позволяет заглянуть внутрь механизма через "разлом". Нормально работающий механизм трудно поддаётся декомпозиции. Во-1ых даже единицы достаточно. Во-2ых, это не единицы, а повсюду, сплошь и рядом. Даже любой чисто инстинктивный физиологический снаряд, необходимый для выживания, человеком превращается в извращение, именно благодаря своему стремлению к чему-то, что не просто не имеет отношения к выживанию, но и порой прямо противоречит выживанию. Любопытство (необходимое для выживания) превращается в просмотр сериалов, чтение фентези, бесконечные путешествия. Размножение (необходимое для выживания вида) превращается в "половую жизнь" с кем-попало и как попало. Чувство вкуса (необходимое для выживания) превращается в обжорство, четыре вида сыра в омлете и другие пищевые извращения, сводящие миллионы "выживальщиков" в могилы. Одежда (необходимая для выживания) превращается в элемент статуса. Медицина (необходимая для выживания) превращается в способ заработка на медицинских экспериментах. И так далее, список можно продолжать долго. На самом деле, придётся изрядно напрячься, чтобы в интеллектуальных отправлениях подавляющей массы людей найти что-то, что прямо и осознанно относится к выживанию. Выживанием занимаются инстинкты, люди занимаются служением идеологиям.

Так Вы определитесь императив это "удовольствие" или "выживание" потому что часто одно противоречит другому. Как раз наоборот, наличие у каждого своего собственного мира, со своими причинно-следственными отношениями и нормами наделяет эти всё конкретным смыслом. Потому что именно это строит поведение конкретного человека. Но мы несколько отдалились от корневого вопроса. Общий алгоритм интеллекта уже просматривается или будем и далее блуждать в тумане "алгоритмической автономности"?

Всё это очень интересно и, наверное, чрезвычайно полезно для тех, кто создаёт искусственные миры. Но совершенно непонятно, как это помогает в создании искусственных интеллектов? Вот я, например, сколько ни силюсь просчитать все варианты в шахматах, всё равно иногда проигрываю. Кажется, есть некая аналогия в том, что интеллект пытается охватить все варианты, как и мир, но это только кажется. Интеллект силён не тем, что пытается охватить всё, а как раз наоборот, что он настойчиво и тенденциозно гнёт одну линию, тем самым меняя мир так, как ему хочется. Мир, может, и просчитывает все варианты, но интеллект хорош в том, что продавливает один вариант.

Вопрос интересный, но мне кажется он подменяет собой вопрос сознания и ощущения. Пианино не раздражается, потому что оно само для себя не отдаёт в этом отчёт и не меняет своего поведения в зависимости от этого отчёта. С животным всё наоборот. Еда, например, может раздражать как в позитивном плане (при голоде), так и в негативном (при болезни или переедании) и в нейтральном (при сытости). Т.е. у живого на первом плане находится своё внутреннее устройство, и раздражимость проявляется при встраивании внешних обстоятельств в это внутреннее устройство. В этом плане, аналогия для меня это выключатель, который "помнит" своё состояние, при одном и том же нажатии то включается, то выключается.