Форум создателей искусственных интеллектов

Не согласен. Аргументация Цапа более тонкая. Насколько я понял, он берёт во внимание ряд тезисов: 1. Всё, что может создавать человек - это только инструменты. Или от отрицания - человек не может создавать не инструменты. 2. Инструмент подразумевает оператора, того, кто пользуется инструментом, приводит его в действие и знает зачем. 3. Поскольку интеллект человека не приводится никем в действие целенаправленно и у него нет оператора, следовательно интеллект человека имеет не инструментальную природу. Из этих посылок Цап умозаключает, что поскольку интеллект не инструмент, а создавать человек может только инструменты, то следовательно искусственный интеллект не входит в сферу возможностей человека. Если я понял его правильно, то не согласен с ним по пункту 3. Объясню почему. Если мы взглянем на любой орган животного, то мы непременно найдём его функцию и того, кто ею пользуется. Т.е. любой орган животного - это инструмент. Например, кровь - это (среди прочего) орган для газообмена, пользуются им клетки. Также кровь - это теплообменник, она равномерно прогревает весь организм. Также кровь это система связи, она переносит "сообщения" в виде гормонов. Также кровь это транспортная система для перемещения и распределения воды, питательных веществ, иммунитета. Кровь - это мультитул. И так с любым органом, мы можем сформулировать его предназначение "для чего он". И точно также мы можем сформулировать предназначение для интеллекта - его назначение - служить. Это очень абстрактное назначение, именно поэтому интеллект - это супермультитул. И пользоваться им может как сам организм (для удовлетворения инстинктов), и посторонние люди, и животные, которым человек служит. В этом смысле интеллект попадает в сферу возможностей человека и он может его делать именно как инструмент. Подобную дискуссию видел в AGIRussia, где участник выдвинул мысль, что поведение человека изначально бесцельно и строится просто как выбор наиболее "вероятного" продолжения в данном контексте. А цель выдумывается умом постфактум только для объяснения своего уже построенного поведения. Мысль интересная. Но спорная.

Посмотрел ролик. Спешу сообщить, что слухи про грядущие ужасы сверхинтеллекта, на мой взгляд, сильно преувеличены. Потому что сверхинтеллектуальные способности может дать не какая-то магическая сверхинтеллектуальная вычислительная архитектура, а только сверхинтеллектуальный, принципиально недоступный людям, жизненный опыт. Для получения знаний, которые не смогут понять и осмыслить люди, нужно чтобы ИИ имел возможность получать нечеловеческий жизненный опыт. Если же единственным источником данных для ИИ будут тексты людей, то он не сможет стать сверхинтеллектом. Он, максимум, сможет стать среднестатистическим обывателем-конформистом с грудой стандартных предрассудков и суеверий, что мы собственно и наблюдаем на примере ChatGPT/Bing/Bard. Чтобы качественно превзойти людей, ИИ должен иметь качественно превосходящий, нечеловеческий жизненный опыт, принципиально нечеловеческие знания. А для этого он должен иметь возможности и способности эти знания получать - ставить нечеловеческие эксперименты, проводить сверхинтеллектуальные опыты, делать сверхумопостроения и проверять их на практике. Т.е. извлекать из своего личного сверхопыта недоступные людям сверхзнания. А этим, насколько я понимаю, к счастью, пока никто не занимается.

Некоторые умопостроения. 1. При проведении анализа различных механизмов, которые синтезирует человек в качестве решения задач (достижения норм), я пришёл к выводу, что человек тяготеет к синтезу циклических механизмов, т.е. траектория изменения состояния которых в фазовом пространстве, в процессе их применения, представляет собой замкнутую линию. Например: - дверь открывается/закрывается приходит в одно и то же положение - ходьба - ДВС работает в цикле - ЭВМ работает в циклах - генератор, вентилятор, велосипед - молоток берётся с одного места и кладётся на то же место после использования - кнопка после нажатия, возвращается в исходное положение - ритуалы, традиции, бюрократические процедуры работают повторяясь (например, периодические выборы) - трос в колодце раскручивается/накручивается - ракета SpaceX взлетает/садится - аккумулятор разряжается/заряжается Но есть и примеры исключений, механизмов работающих необратимым образом: - карандаш стирается - взрыв бомбы - произнесённая фраза Мне кажется, это наблюдение важно учесть для синтеза универсальной теории синтеза механизмов. Ведь если механизм в целом работает циклически, это значит что и составляющие этого механизма тоже работают циклически. А это в свою очередь позволяет предположить, что цикл является элементарным строительным элементом любого механизма. А нециклически работающие механизмы нужно свести к циклическим. С другой стороны, похоже, что сознание само по себе - как механизм - имеет нециклическую природу, оно имеет как бы "открытую" архитектуру, постоянно синтезирует себя сызнова и благодаря этому может из множества альтернатив собирать новые циклические механизмы. После сборки которых, их можно запускать бессознательно, поскольку по циклу такой механизм предсказуемо возвращается в некое нормальное обычное состояние. Что не требует сознательного контроля. И его запуск может быть повторён. 2. При сознательном синтезе механизма решающее значение имеет фиксация отклонений от нормы, ошибки, когда что-то "идёт не так" и требуется подключение сознания с его багажом жизненного опыта, чтобы подобрать годное решение для данной задачи. Подобрать цикл для приведения чего-то в норму. Но после того, как механизм создан и запущен, для его автоматической работы нужно фиксировать уже не отклонения от нормы, а наоборот, достижения норм - условия, для срабатывания следующих шагов механизма. Пример. При ходьбе возникает дискомфорт - отклонение от нормы. Сознание вмешивается в работу механизма и, например, добавляет стельку в обувь. После чего шаги совершаются автоматически - нога выставляется вперёд сразу после того, как другая нога оказалась сзади - вмешательства сознания не требуется, отклонений от норм нет, есть только достижения норм, механизм работает бессознательно. 3. Если цикл является элементарным строительным элементом любого механизма, то жизненный опыт должен фрагментироваться и запоминаться как циклы (знания), которые потенциально могут стать элементом какого-то механизма.

Согласен. Повторяемость использования некоторых механизмов достигается только путём производства их в множестве. Цикличность - это частный (но частый) способ повторного запуска механизма, который не разваливается после одного использования. Насчёт мира ничего сказать не могу, не обладаю знаниями мирового масштаба (хотя, товарищи индусы, выдумавшие циклы Брахмы, очевидно, также натягивали ограничения своего мышления на весь мир). Но вот что касается человеческого сообщества, то в целом оно, похоже, работает не зацикленно. Это, скорее, механизм по переработке минералов в кучи высокотехнологического мусора.

Правильно ли будет перефразировать Ваши вопросы так, что Вы хотели бы увидеть механизм работы мышления (интуиции)? Если правильно, то я и предлагаю сначала попробовать разработать общую теорию синтеза механизмов, а потом проверить годится ли эта теория для объяснения работы нашего мышления, которое (по моей рабочей гипотезе) только тем и занимается, что постоянно синтезирует некие механизмы (читай по вкусу - алгоритмы, машины, цепочки причинно-следственных отношений, комплексные рефлексы, циклические схемы регулирования, порядки следования etc). Т.е. является механизмом по синтезу механизмов.

Если бы современные компьютеры обладали способностью к самопознанию, то рано или поздно они бы пришли к окончательной и самой верной теории, что мир состоит из нулей и единичек... Я думаю, что ровно (и только) по этой причине человек воспринимает мир, как механизм (циклический, с причинно-следственными связями, возникающий, развивающийся, рефлекторный и т.п.). Т.е. только потому, что сам человеческий ум так устроен. А уж как устроен мир "на самом деле", увы, я не знаю.

На мой взгляд, точнее задать вопрос, какие когнитивные функции выполняются только в сознательном состоянии. А уж точно определить, это само сознание как таковое их выполняет, или что-то присознательное - трудно определить точно, только путём голой интроспекции. В целом, сознание выполняет одну главную функцию - вмещает осознаваемую целостную единую монолитную консолидированную картину (механизм) бытия. И как оно это делает - совершенно непонятно и непостижимо, потому что для познания и описания этого нужны внесознательные средства, которых у нас нет по определению. А вот в сознательном состоянии выполняется много важных функций, которые вполне поддаются изучению, на которые я ранее обращал внимание, и главные из которых сейчас могу перечислить, уточнить и дополнить: - прекращение (подавление, вытормаживание) выполнения автоматизмов - синтез новых механизмов (автоматизмов) - осознавание течения времени - обучение, запоминание, критическая оценка в момент "сейчас" - сознание - это длящийся процесс, состояния которого сменяют одно другое - внимание - это фокус сознания - сознание тесно связано с субъективностью и осознаванием консолидации с самим собой в прошлом - ощущения бывают только в сознании Имхо, нужно сосредоточиться на синтезирующей функции, работающей в сознании - создание новых механизмов/остановка старых механизмов, а все прочие проявления сознания должны найти своё объяснение в процессе реализации этой главной функции.

В случае с сознанием это оправдано. Такое рекуррентное определение я выбрал не случайно, и тем самым хотел подчеркнуть, что сознание существует только как автореферентный механизм. Человек, находящийся в сознании, осознаёт этот факт и это само по себе является для него высочайшей ценностью. Если бы нам предложили вариант бытия, в котором поведение нашего туловища строилось бы так же, как сейчас, но без осознавания этого (философский зомби), мы бы решительно отказались. Если же отбросить этот аспект рекуррентности, то главная функция сознания это, конечно, вмещение. Для человека нет вместилища большего, чем его собственное сознание. Полностью поддерживаю.

В Вашем сообщении, похоже, была размещена какая-то картинка, но её не видно. Если бы увидеть схему, то можно было бы адекватнее прокомментировать. Но так буду исходить из того, что понял из текста. Вы предлагаете, насколько я понимаю, классическую материалистическую схему. Мир посылает сигналы к рецепторам, и на основании этих сигналов, как квалиа, мозг реконструирует/отражает мир. Эта схема не рабочая, как минимум потому, что она слишком медленная. Если Вы материалист, то наверняка полагаете, что разум есть результат работы мозга. Но мозг работает очень медленно, а интеллект (в части восприятия, наполнения сознания) работает очень быстро. Это противоречие, которое надо разрешить. Для разрешения этого противоречия предлагаю подход с другой стороны. Внутреннее пространство системы наполняется всевозможными вариантами "внешнего пространства". Эти варианты проходят валидацию. Тот из них, кто лучше других угадал состояния рецепторов, тот и признаётся за осознаваемую реальность. Да, сравнение с нормой это принципиальный момент. Но, как я понимаю, это работает несколько тоньше, чем Вы описали. Предположим, Вы взяли ручку и начали писать. Но вместо синей линии ручка просто продавливает бумагу. Чернила закончились. Когда Вы берёте ручку и начинаете ею работать - это значит, Вы сконструировали и запустили некий механизм, который должен работать правильно. А именно, ручка должна оставлять след. След от ручки - это норма. Но сам след от ручки, синяя линия в некотором месте листа бумаги - это тоже механизм сам по себе. С помощью него мы наносим на бумагу какие-то записи, рисуем. Получается, что нормально работающая ручка приводит к нормальной работе других механизмов, зависящих от неё. И если не работает один механизм, то не работают и следующие. Таким образом "соответствие норме" это просто факт работы механизма. А "отклонение от нормы" это факт его не работы. И здесь очень важный момент. Вот эта детекция работы/не работы некоторого механизма ничем не отличается по сути от валидации, о которой я говорил в комменте выше к предыдущей цитате. Да, но точнее сказать, что запускается сложный механизм на исполнение, когда-то давно сгенерированный и выученный. И, что ещё важно, не всегда решение является программой для собственного манипулятора. Многие механизмы, которые мы синтезируем для решения, подразумевает некие внешние силы для решения задачи. Например, мы не бегаем по остановке, чтобы троллейбус быстрее приехал. Более того, сама работа скелетной мускулатуры - это тоже внешняя сила, которая строго говоря от нас не зависит. Мы можем только фиксировать, что она работает нормально или ненормально. Верно, за исключением того, что этот пункт ничем не отличается от предыдущего (в том, смысле, что если вспоминать нечего, то не получиться сделать что-то из ничего. Вспомнить решение можно только в том случае, если ты его уже знаешь). И второе замечание - эффективность механизма решения (кратчайшесть пути, минимум затрат, максимум профита) это частный случай именно тех условий и ограничений, о которых Вы пишите. В общем случае нет такого требования. Либо механизм решения есть и он работает. Либо его нет и он не работает. Ведь, согласитесь, можно поставить задачу найти неоптимальное, дорогое, неэффективное решение и эта задача тоже может быть решена.

Можно ли об этом поподробнее? Преобразований чего во что, какие операторы, как образуются знания, почему именно такие цепочки? Так и хочется спросить, каким местом Природа замышляет? Эти тезисы не очевидны и требуют доказательств. Или дезавуирования. Когда я играю с ЭВМ в шахматы у меня создаётся комплекс неполноценности.

Благодарю за пояснения. В целом согласен с изложением, с точностью до терминологии. Если я не нарушу алгоритма работы этого топика, то хотел бы остановиться на цитате. Вылавливание знаний из листинга. Небольшое вступление. В моём понимании самым простым создаваемым алгоритмом (механизмом) является механизм опознавания. Иначе как бы мы определяли что мы достигли ЦС? Например, я хочу нарисовать букву "Н". Как я определю, что это ЦС достигнуто? Когда я увижу, т.е. воссоздам в уме алгоритм буквы "Н". Т.е. каждая часть механизма буквы "Н" будет на своём месте. У меня есть предположение, которое я хочу проверить на каком-то простеньком программном макете, что простейший алгоритм опознавания зациклено предопределяет часть алгоритма образа по другой его части. Примерно такой же подход у Евгения Витяева. Например, алгоритм, определяющий букву "Н" будет иметь примерно такой вид: "если у нас есть вертикальная палочка, то на некотором расстоянии от неё слева должна быть ещё одна вертикальная палочка такого же размера" "если у нас есть вертикальная палочка, то на некотором расстоянии от неё справа должна быть ещё одна вертикальная палочка такого же размера" "если у нас есть две вертикальные палочки, то между ними должна быть одна горизонтальная палочка" "если у нас есть горизонтальная палочка, то слева от неё должна быть вертикальная палочка" "если у нас есть горизонтальная палочка, то справа от неё должна быть вертикальная палочка" Если вот этот зацикленный алгоритм заработал, значит мы видим, опознаём, осознаём букву "Н". Теперь возвращаемся к выуживанию знаний из листинга. Листинг, фактически, это последовательность вот таких вот опознаний. Т.е. когда мы в детстве, читая не бегло, читаем слово, мы последовательно опознаём буквы. И наш листинг жизненного опыта должен представлять собой последовательность синтезов, например "Н", "А". Так мы получаем возможность синтезировать более сложный механизм: "если у тебя есть механизм Н, то после должен быть механизм А" "если у тебя есть механизм А, то до должен быть механизм Н". Получили зацикленный алгоритм и можем присвоить ему имя "НА". И точно так же, если нам будут давать погремушку, сопровождая её словом "НА" то мы научимся синтезировать алгоритм, что если мы слышим слово НА, то далее должно последовать ощущение погремушки. И наоборот, если нам дают погремушку, то до этого должно прозвучать "НА". Теперь, собственно, вопрос. В каждый момент "сейчас" у нас опознано множество алгоритмов, по какому принципу их связывать между собой, чтобы получать рабочие механизмы (алгоритмы) и не получать груды неработающего шлака? Понятно, что для этого есть внимание, которое ограничивает множество кандидатов на связывание, но само внимание тоже должно как-то управляться. Т.е. вопрос в том, как избежать комбинаторного взрыва и соединять только то, что потенциально сможет работать. Например мы постоянно дышим, но мы не связываем дыхание с каждым визуальным образом при котором мы делали вдох. Либо тут чуда не будет и нужно устраивать брут-форс, Ваше мнение.

Да, способность устанавливать причинно-следственные отношения на больши́х промежутках времени, это, на мой взгляд, один из показателей силы интеллекта. Но всё равно остаётся вопрос, как именно подбирать кандидатов на связывание. Я предполагаю, что любому синтезу алгоритма предшествует задачная локализация. Если мы чему-то учимся, то мы заранее должны знать, чему именно мы учимся, чтобы складировать синтезируемые конструкции на "нужную полочку". И это уже каким-то образом, должно ограничить множество возможных кандидатов. Кроме того, для получения циклического правила (в рамках данной задачной локализации) оно должно подтверждаться на практике в обе стороны. Например, если в процессе создания знания в некоторой задачной локации, мы предполагаем, что после каждой буквы "А" следует наш вдох (это действительно так), то должно быть верно и обратное, что каждому вдоху предшествует буква "А". А вот это правило уже срабатывает не всегда и поэтому циклический алгоритм не образуется. Видимо, Вы хотите сказать, что Вас интересует в первую очередь построение нового алгоритма из уже готовых знаний. Но я всё же хочу сделать сильное утверждение, что все знания без исключения, которые использует АА для построения новых алгоритмов, когда-то им же самим и были построены. Мышление не может оперировать чем-то таким, что не возникло бы когда-то вне его рамок и механизмов. Собственно, именно в этом и заключается автономность. В любом случае, спасибо за ответ, мне нравится ход Ваших мыслей, я нахожу его перспективным, жду продолжения.

Трилогия "было-есть-будет" на самом деле состоит из цепочки двух пар "было будет" "было будет". И, конечно, "расчёт" состоит только в воспоминании подходящей пары. Мы можем зафиксировать это различие в архитектурах, но по ходу дела мы всё равно, как мне кажется, придём к тому, что выделение функции "пополнения знаний" в какой-то отдельный отдел избыточно, и достаточно одного только АСА (или, как я говорю, синтезатора механизмов). На начальном этапе было бы интересно понять, как Вы видите формат знаний и алгоритмов и как, собственно, работает автоматический строитель алгоритмов. Это тупик, не имеющий перспективы. Образ не распознаётся, он синтезируется. И такие системы мне пока не известны.

Ну тогда и не будем. Если Вас всё устраивает и всё понятно, тогда, действительно, нет смысла портить замечательно работающий механизм.

Мне близка эта анало́гия ана́логового решателя. И если в электромагнитных механизмах "дорожка" представляет собой участок с наилучшей проводимостью, то в такого рода интеллектуальном решателе "дорожка" представляет собой знания о причинно-следственных связях. И если удаётся выстроить целостный маршрут по таким дорожкам, значит решение найдено. Я уже игрался с таким подходом и был сделан кое-какой макет, правда там знания строились в рамках парадигмы построения рефлекса, но по сути это те же причинно-следственные отношения. Интересно, что у Вас получится. Некоторые замечания. 1. Задача отличается от проблемы только тем, что для задачи её решение хотя бы один раз уже было найдено, а для проблемы - ещё ни разу. Сам же способ синтеза решения что для задачи, что для проблемы ничем не отличается - это попытка прокладывания маршрута через свои знания. А знания, в свою очередь, запоминаются "про запас", ведь невозможно заранее знать для решения какой конкретно задачи будет использована та или иная причинно-следственная связка. 2. Термин "дискомфортная ситуация" имеет некоторую эмоциональную коннотацию (намекая, что комфорт - это главная цель всего). В общем случае, имхо, точнее формулировать это как "ненормальную ситуацию". В общем, всячески поддерживаю начинание, желаю удачи и успехов. Сам буду подключаться по мере сил и возможностей.

Вы русский язык, которым пользуетесь, сами проактивно изобрели, или это культурная языковая традиция Вас себе подчинила и сделала покорным рабом правил русского языка? Это хорошо, что Вы формулируете требование к ответу, как к механизму (который "двигает телегу"). Возможно, так скоро и ответ сам собою проявится.

Простите, но разве это не Вы вопрошали несколькими постами выше: Вот я и спрашиваю Вас в рамках Вашей же терминологии - откуда конкретно у Вас вот это рабское подчинение правилам русского языка?

Если есть отдельный термин ("дом"), если есть достижение некоторой нормы (укрытие, тепло, жилище), если составляющие его суб-механизмы занимают определённые места - значит это действующий механизм. Состоящий, в свою очередь, из других механизмов, также имеющих своё имя и служащих достижению некоторой нормы (стены поддерживают потолок, печка нагревает воздух, окна пропускают свет и т.п.). В то же время, дом является вместилищем и внутри дома у меня есть как кучи механизмов (шурупы в коробках, лопаты в углу, банки в погребе и т.д.) так и хаотические нагромождения неких механизмов (когда жена перемещает и бросает разные предметы в неожиданных местах без достижения какой-либо видимой нормы). Синтез - это функциональное совмещение уже существующего. Я сейчас пытаюсь сконструировать универсальный подход, в котором синтез механизма представляет собой совмещение и размещение механизма в некотором месте с целью достижения работы некоторого другого механизма. Например винтик в ножницах является механизмом, который служит достижению нормы - скреплять между собой два ножа, и при этом позволять им вращаться вокруг оси. При этом достигается нормальная работа ножниц - разрезать материалы. Получается синтез ножниц - винтик служит разрезанию.

Объясните, пожалуйста, что такое музыка? Откуда она взялась, как и почему она работает?

А где описание этой идеи, эти детали и положения? Такой механизм я обычно называю "интеллект", а его примерные детали и положения показывал выше. Картинка подустарела, но основные черты актуальны.