Форум создателей искусственных интеллектов

Каков он в живой природе и оптимальный применительно к AGI?

Это хороший вопрос, ключевой. Моё понимание таково: 1. Сенсорные данные должны предоставлять только те сведения, которые могут быть использованы для формирования моторных данных. Таким образом резко сокращается комбинаторика сенсорных данных, потому что моторные данные не богаты разнообразием. 2. Моторные данные имеют только две составляющие: идентификатор мышцы, которая должна сократиться (имя мышцы, её месторасположение) и усилие, с каким она должна сократиться. Соответственно, сенсорные данные должны предоставлять только два вида составляющих: где что находится и интенсивность, с которой перемещается. Как мне видится, этих данных достаточно, чтобы построить всё многообразие сенсорных и моторных событий (сцен, энграмм, паттернов), с которыми в принципе может в жизни столкнуться наше сознание и мышление. А значит и ИИ нет нужды обладать большим разнообразием данных.

Хочу сразу сузить рассматриваемую тему. Совершенно не важен принцип адрессации передачи данных: подобно IP или по фиксированной выделенной линии. В данной теме хочу рассмотреть именно формат передаваемых данных и природу данных. Какой формат данных нативен для сенсоров и моторов, а также каналов связи? Варианты: bool, int, float, signed, unsigned. Ещё варианты?

Мне нравится ход ваших мыслей: усилие для пердачи к мотору и интенсивность - от сенсора. Хочется рассиотреть их.

Мне не нравится ход ваших мыслей. Получается, что сенсор и мотор, в вашем случае, очень сложны. Сенсор целиком воспринимает картинку, преобразует в поток данных передаёт их по какому-то протоколу через канал передачи. Аналогично мотор, в вашем случае, получает поток данных для большого количества элементарных действий, не для одного! Т.е. для мышцы вцелом или для ансамбля мыщц, а не для отдельного мышечного волокна. Я предполагаю рассматривать элементарный сенсор, например пиксель, даже не пиксель, а одну из его RGB (например) составляющих и элементарный мотор - вышеупомянутое мышечное волокно или пиксель монитора.

Веду свои рассуждения от живого. 1. Есть мозг, есть сенсор, есть мотор, есть линии связи: сенсор -> мозг, мозг -> мотор. Кроме того, в живом вроде бы есть двусторонняя связь (могу ошибаться), рассматривать её считаю бесперспективным, т.к. она может быть замещена первыми двумя. 2. Передача сигнала производится через нервную ткань (как её обозвать неважно) электрическим током (важно). В железе это проводник и ток. Если есть возражения поправьте. На этом стоит остановиться с ЕНС и перейти к ИНС, а в ИНС двоичный цифровой сигнал - это наше всё!

Так как же выгоднее использовать двоичный цифровой сигнал? Передавая bool-значения, или пакетировать их в байты, инты, массивы байтов, или использовать числа с плавающей точкой? Предположим есть две искусственные кости, соединённые подпружиненным суставом. Мышца в активном состоянии сгибает эту конструкцию преодолевая действие пружины. В неактивном состоянии мышцы сустав разгибает конструкцию под действием пружины. Варианты: 1. Мышца получает на вход bool-значение. false - неактивна, true - активна на 100% 2. Мышца получает на вход, например, восемь bool-значений, каждое из которых управляет одним из восьми мышечных волокон данной мышцы 3. Мышца получает на вход float-значение [0...1) и сообразно ему активируется на 0...100% 4. Мышца получает на вход unsigned char и активируется значением [0...255] на 0...100% Те же самые варианты, но в противоположном направлении сигналов можно применить и к сенсорам.

Если верить научно-популярной литературе, то в живой нервной ткани всё не совсем так. Сигналы распространяются посредством потенциала действия - кратковременной волнообразной переполяризации мембраны аксона. Например, книжка "От нейрона к мозгу" (2003) говорит нам следующее: А вот тут ещё написано такое: Таким образом, несмотря на участие электрических процессов при передаче сигналов в живой нейро-ткани называть эти сигналы электрическим током будет сильным загрублением. И я бы вообще не сильно обращал внимание на биологическую механику реализации того или иного когнитивного функционала, потому что воспроизводить его мы всё равно не будем, ввиду чрезвычайной убогости, а будем пользоваться теми или иными электрическими цепями. Либо цепями дискретных цифровых компьютеров, либо каких-то аналоговых решателей, если это понадобиться. Со скоростью передачи сигнала близкой к световой, а не 120 м/с. И способом кодирования силы/интенсивности не частотным, а таким, каким нам будет удобно. Выбор типа переменной для кодирования усилия зависит, очевидно, от того, какой именно силовой привод будет использован. Если как в роботах Boston Dynamics (а у них гидропривод), то разрядность переменной будет зависеть от того, сколько дискретных положений может занять клапан, подающий сжатую жидкость к исполнительному поршню. Если честно, то мне кажется это последний вопрос, который сейчас стоит обсуждать. Это примерно то же самое, что решать, какие обои нужно клеить в доме, проект которого ещё не написан.

Большое спасибо, Prosolver, за приведённые цитаты. Примерно так я и представлял себе основы естественного интеллекта. И хотел найти этому подтверждение в литературе, но не мог этого сделать. Вы сделали это! С меня +1 (хотя это неадекватно мало). Всё так! Но! Частотный способ очень удобен, но не тупая синусоида или квадрат в определённом промежутке времени с жёсткой частотой, а с ответственностью за каждую новую волну. Если есть условия для запуска сигнала - запускаем и проверяем эти условия для каждой следующей волны. И период каждой волны индивидуален, хотя они достаточно близки при длящихся во времени постоянных условиях. С другой стороны период волны может стремиться и к нулю, и к бесконечности. Но не стоит увлекаться: слишком короткая волна может остаться незамеченой, а слишком длинная привести к её игнорированию за неинформативностью. Другой путь - использовать не волны, а использовать on/off. on - есть раздражитель/комонда, off - нет раздражителя/команды. Мне какраз сейчас "обои нужно клеить" для проведения тестов. Могу сказать, что bool повёл себя достаточно неплохо (для моторов), а про unsigned char такого сказать не могу. Да, эта тема кажется последней, но из приведённых цитат видно, что сигналы-то везде одинаковы и в мозгу, и в сенсорах, и в моторах, и у человека, и у обезьяны. Поэтому вопрос далеко не последний.

Частотный способ передачи сигналов говорит нам о том, что в живой нейро-ткани есть некоторый период интеграции, в пределах которого частота обретает значение (меняет в какую-то сторону поведение нейронов). Очевидно, что отдельный импульс свидетельствует только о том, что с такого-то направления сигнал есть (true/false), а чтобы выяснить его интенсивность, нужно проводить интеграцию этих импульсов в течение некоторого периода. Таким образом, нейро-ткань представляет собой крайне медленный цифровой автомат с задержкой, необходимой для интеграции буфера, построенный даже не на двоичной, а на единичной системе счисления. Но мы не обязаны пользоваться такими дикими ограничениями. В единицу времени мы можем передать данные об интенсивности с фиксированной длиной в двоичной форме, таким образом "период интеграции" будет составлять несколько тактов процессора, необходимых для перезаписывания переменной из одного места памяти в другое, а не доли секунды - что чудовищно медленно. Кстати, это обстоятельство наталкивает меня на следующие умозаключения. Есть мнения о том, что человеческий мозг - это аналоговый решатель и даже чуть ли не квантовый вычислитель. Я думаю, это сильное преувеличение. Мозг "выезжает" только за счёт распараллеливания своей работы и безбожной растраты памяти, чем компенсирует крайнюю свою медлительность. Пытаясь запоминать буквально всё подряд, мозг получает возможность реконструировать реальность не по сигналам рецепторов (что, действительно, ресурсоёмко), а по своим воспоминаниям (данные от рецепторов используются в основном для верификации построенных моделей). Поэтому и складывается впечатление, что там работает какой-то всерхбыстрый квантовый вычислитель. А там просто шулер, рисующий реальность так, как ему удобнее, чтобы сэкономить на вычислениях. И ввиду этого обстоятельства, вполне допускаю, что современные компьютеры, благодаря большим объёмам памяти и большим скоростям, смогут скомпенсировать отсутствие параллельности и выйти на итоговые скорости работы даже более высокие, чем человеческий мозг. Вопрос только в правильной архитектуре.

В теле нет других сигналов, кроме false/true. Для каждого существует отдельный канал. Хотите в железе передавать набор bool в виде int - пожалуйста, но этот int в виде числа не имеет физического смысла. У меня нет примера передачи интенсивности или усилия в теле в виде числа в диапазоне целых чисел большем, чем [0...1], про плавающую точку и речи быть не может, имхо. Если у вас есть - приведите, обсудим. Не разделяю вашего оптимизма. Предел однопоточной производительности железа уже достигнут и существенно не двигается уже десятилетие. Квантовые ПК - просто мечты (во всяком случае на данный момент). 100 млрд процессоров с частотой 10...100 Гц всяко быстрее одного потока 10 ГГц.

1. Если говорить про тело, то там помимо наличия/отсутствия сигнала есть есть куча всего - тормозящие/возбуждающие синапсы, нейромедиаторы, нейроглия, гормоны, РНК и т.п. Поэтому сводить всё к передаче импульса - это само по себе сильное загрубление. 2. Мы ведь отдаём себе отчёт в том, что последовательность булевых переменных, передаваемая в нейро-ткани с разной частотой, имеет разный смысл. Поэтому говорить о том, что в нервной системе передаётся bool - очевидно не точно. Точнее сказать, что в нервной системе int передаётся в единичной системе счисления. Грубо говоря, счёт ведётся "на палочках". Зачем счёт вести на палочках, если можно его вести на ноликах и единичках? Так быстрее и компактнее. Это верно. Но примите во внимание, что никогда эти 100 млрд процессоров не работают одновременно (это избыточно, энергозатратно и эпилепсия). Даже если за один когнитивный акт вовлекаются миллионы "процессоров" - это выглядит вполне оптимистично.

Prosolver, конечно, "тормозящие/возбуждающие синапсы, нейромедиаторы, нейроглия, гормоны, РНК и т.п." - без них никуда, но в сухом остатке это всего лишь бизнес-логика от которой зависит пойдёт bool дальше по цепи или нет. Думаю, никакой орган или нейрон не ведёт счёт сколько к нему пришло "палочек", всё происходит здесь и сейчас, в момент прихода очередного импульса в соответствии с бизнес-логикой. Например, это видно по вашей цитате из www.bio.bsu.by. "Но примите во внимание, что никогда эти 100 млрд процессоров не работают одновременно." Думаю, каждый из них работает непрерывно в диапазоне ппоизводительностей (0...100)% в соответствии со своей бизнес-логикой.

Смешались в кучу кони, люди, сигнал, импульс, bool. Конечно, всё это разные вещи. В нервной ткани импульсы потому что долго поддерживать негативный, относительно нормального, потенциал затратно. Сигнал это нечто более глобальное. Bool-значение может быть с лёгкостью использовано в вычислительной технике (в триггере). Чем я, собственно, и воспользовался. Единственное, теперь меня гложет вопрос что лучше импульс или bool в триггере? Импульс нам подсказывает природа, но его можно легко протустить. Bool в триггере пропустить маловероятно, но будет ли он настолько же эффективен как импульс. Или AGI возможен только на импульсах? Пока нет ответа.

Внесу и свою лепту. Формат передачи данных от органов чувств (датчиков) на первичные поля - временные ряды (time series). Протокол - последовательность параллельных групп. Это примерно как взять сотню валютных пар с форекса и транслировать их ежесекундно в куда нибудь. Формат внутри ЦНС много сложнее. Там сплошные импульсно-амплитудно-пороговые гармонические функции с частотным кодированием. Такого формата сигналов за раз в ТАУ и близко не умеют рассматривать - только по частям. Или амплитудное кодирование или частотное или пороговое или импульсное или непрерывное или дискретное. Но не всё вместе за раз!

Тут не буду спорить. Всё формируется под внешним воздействием. По умолчанию нужно просто воспринимать хоть что-то полезное и хоть как-то использовать это. Потом можно формировать новые датчики, форматы и чего там ещё. Лишь бы и с ними можно было взаимодействовать

Я правильно понял, что Вы хотите ловить каждый импульс и строить некую модель мира из внешних сигналов? Мне кажется, это много раз проверенный комбинаторный тупик и всё работает совсем иначе. Вы никогда не задумывались над тем, почему мозг работает лучше и быстрее при избытке входной информации и, наоборот, делается менее решительным при недостатке информации? Сравним, например, такую последовательность: - мы читаем сценарий к фильму - мы смотрим этот фильм без звука - смотрим фильм со звуком на английском языке - смотрим фильм со звуком на английском языке и с закадровым переводом - смотрим фильм в 3-D формате со стерео-звуком на английском языке с закадровым переводом. На каждом следующем этапе сенсорный поток усиливается и усложняется, но мозгу от этого становится всё легче и легче "воспринимать" информацию. С точки зрения привычной логики и компьютерной техники здесь явный парадокс, должно быть всё наоборот. Мозг должен экономить ресурсы и предпочитать чтение сценария в полумраке, потому что такой сенсорный поток легче обработать. Но нет, он выбирает последний вариант со спец-эффектами и попкорном. И требует ещё. Я это объясняю тем, что внешние сигналы мозгу нужны только для того, чтобы на них выборочным способом проверять, тестировать, верифицировать свою внутреннюю модель с тем, что происходит на периферии. И чем больше будет внешних сигналов, тем более простой и специфический способ верификации в каждом конкретном случае мозг может подобрать, а остальное просто выбросить. Внутренняя же модель строится проактивным единообразным способом, постоянно, без какого-либо стимула извне, и, скорее всего, работает довольно просто с неким заданным минимумом затрачиваемых ресурсов. Эта идея подтверждается фактом реалистичных сновидений, а также обилием сенсорных иллюзий, которые явно доказывают, что мы осознаём совсем не то, что нам приносят сенсорные сигналы. Поэтому, имхо, решающее значение для построения AGI имеет не то, насколько точно мы воспроизведём в компьютере мозговые сигналы, а то - по какому принципу циркулирует внутренняя модель мира, как циркулирует наше понимание, как оно синтезируется и преобразуется. И как мы будем его верифицировать с периферией. Короче говоря, не вижу смысла заботится о точности воссоздания формата сигнала, 99% которого в итоге будет выброшен в мусор.

Похоже, объектно ориентированная парадигма программирования скоро сменится на что-то ориентированное на восприятия, явления или даже просто изменения.

Нет. Абстрактно: 1 есть некоторое количество памяти; 2 пока она пуста запоминается почти всё, что приходит через сенсоры; 3 по мере заполнения памяти что-то реже используемое забывается, а то что приходит через сенсоры запоминается хуже; 4 благодаря (3) всегда остаётся какая-то часть свободной памяти. Это когда информация со всех сенсоров об одном, а когда вам надо читать текст и вникать в него, а кто-то рядом ведёт беседу? Даже ради того одного процента? 99% процентов уйдут в мусор после того как будут осмыслены и отсеяны или до них не дойдёт дело, ввиду того, что один важный процент будет найден ранее. UPD: безусловно, какая-то часть из 100% пролетит мимо из-за нехватки ресурсов. А самый интересный механизм состоит в том, что пустой шум пролетает мимо, с минимальными затратами вычислительных ресурсов, хотя казалось бы "процессор" должен, кровь из носа, искать в нём нечто и не успокоиться, пока не найдёт.

Допустим. Но всё-равно, не очень понятно. Видимо есть пункты 5, 6, 7... которые не описаны. Вот чтобы понять, что информация именно "об одном", нам и нужно подтверждение этого "одного", одной модели. А если мы модель строим одну, а сигналы приходят то подтверждающие её (чтение), то противоречащие ей (беседа), то и получается, что ни читать, ни слушать невозможно. Но это ничего нам не говорит о том, какой процент сигналов используется с пользой, а какой - просто игнорируется. Если руководствоваться парадигмой, что все 100% входных сигналов используются для построения модели мира, то нам ничего, по идее, не должно было бы помешать строить отдельно модель чтения, и отдельно модель беседы, но так это не работает. Не просто пролетит, а даже не будет проверяться из-за того, что ресурсов не хватает всегда. Вот, допустим, Вам нужно знать, есть ли ключи в кармане. Как поступает человек - хлопает по карману - если что-то звенит, значит ключи есть. Никто не проверяет все 100% признаков ключей, мозг во многом полагается на то, что всё будет происходить "как обычно", и нет смысла всё это перепроверять каждый раз, достаточно проверить какой-то один характерный признак. И так происходит во всём, что касается восприятия.