AGI.place

Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

Сообщения участника "Александр Мельник"
1
2
create
Эволюционно эвристический алгоритм обучения НС.
11:36 26.03.2021 11:37 26.03.2021 №762
Всем привет. Достаточно давно меня не покидает мысль, взяться за разработку алгоритма обучения многослойных нейросеток "естественным" так сказать способом, на подобии того как это могло бы происходить в биологических нейросетках, но уже с десяток лет так и не дошли руки к сожалению, так как нужно зарабатывать на хлеб с икрой, а на этот, чисто для души проджект, нужно выделить как минимум пол года — год, без явных перспектив профита. Короче, хочется хотя бы поразмышлять над этим в умной компании, озвучить самому для себя свои интуиции по этому поводу и возможно узнать что это всё уже когда то кем то сделано и безпонтово по сути, чтобы успокоиться. :) Итак… Понятно, бэкпроп это наше всё и без альтернатив, но все то понимают что "в мозгах" явно алгоритм(ы) иные. К тому же мы знаем главный Алгоритм матушки природы — стохастическая оптимизация(генетика, отжиг итп.), причем этот Алгоритм применяется ко всему подряд, ко всем компонентам, структурам, эвристикам. Вопрос: как с помощью Алгоритма(оптимизации) обучать многослойные нейросетки, чтобы получить близкий к бэкпропу результат, хотя бы классических примерах(XOR, ирисы, МНИСТ...)? Однослойный персептрон обучается достаточно хорошо таким способом, многослойные сети, на много хуже и чем больше слоёв тем хуже, если обучать сеть целиком, но так ли делала матушка природа? Очевидно нет. Вот об этом я и хочу порассуждать. А чтобы не было ухода в лирику и высокие материи, не много по программировать(C#, python, java кому как нравится). Пока я не буду излагать в подробностях свои идеи на этот счет, что бы не сбить с толку чьи то мысли, хочется услышать что думают по этому поводу другие уважаемые господа независимо, но потом я обещаю поделюсь своими имхами. Спасибо.
+2 | 0
create
Эволюционно эвристический алгоритм обучения НС.
10:13 27.03.2021 10:14 27.03.2021 №776
Egg:
Во-первых, аналогия между естественным нейроном и искусственным очень груба и условна. Реальный вещественный мир - аналоговый, а не цифровой, нейрон - это целый организм, в котором огромное количество сложных процессов, химических, электрических, биологических. Искусственный нейрон - это, грубо говоря, функция. Знание, которое можно получить, изучая естественный нейрон, никак не переносимо на искусственный, кроме самых общих представлений.
Полностью согласен, реальный и искусственный нейрон — две большие разницы, особенно в реализации, но функционально, как элемент сети, всё же имеем векторную функцию, со скалярным выходом, если рассматривать как его(нейрона) соседи, воспринимают его существование. А на счет аналоговости, Вы тоже правы, но по сути серии спайков в некоторой степени можно смоделировать как флоатовое число, в контексте влияния на другие нейроны(то есть регрессия а не классификация, в терминах ML). ИМХО в сам нейрон я даже бы особо не лез, взвешенная сумма + функция активации с 3-5 точками(для формирования функции как интерполяции по ним) в качестве параметров оптимизации. Вся суть в неких эвристиках построений сети и обучения.
Egg:
Во-вторых, backprop - это и есть оптимизация. Предельно эффектиная, судя по результатам и возможности обучать deep сети. Я понимаю (и разделяю) желание сделать что-то более эффективным, но вы оставили всю постановку классической и хотите добиться того же результата, но другими методами. Почему бы и нет, но зачем. Если можно просто взять более мощный вычислитель. ))
Вы правы, хотя про эффективность, тут можно поспорить, да и с глубокими сетками тоже всё работает только как говорится "на кошках", нельзя такой подход масштабировать на сетки с даже десятками миллионов нейронов и сотнями милллиардами связей, я не говорю о миллиардах нейронов. Кроме того как говорится "положа руку на сердце", вряд ли кто из разбирающихся в машинном обучении, надеется на то, что создав большую сеть из сотен миллионов нейронов, её можно было бы в лоб бэкпропом обучить чему то сложному, даже если бы это возможно было технически. В общем проблема в масштабировании, может бэкпроп локально-кусочно где то и можно применять, но глобально-едино на сверх-большой сети, это тупик.
kondrat:
Чес гря, сломал мозг об этот вопрос. Возможно потому, что не являюсь спецом по нейронкам, не представляю, какой тип динамической сети для этого нужен, и клепаю свой собственный. Любопытно, а для каких задач планируется использовать многослойку?
Пока хочется чтобы путём стохастической оптимизации получилась сетка чтобы могла решать элементарные нелинейные задачи(XOR, ирисы, МНИСТ...), как для начала. А вообще то цель СИИ конечно, уровень человека и больше, но ИМХО в ручную, кусками как сейчас делают дип-сетки, это не возможно, процесс масштабирования должен быть автоматическим.
rrr3:
Александр, на мой взгляд, ответ на Ваш вопрос дан в моей ветке про Нечто-Когнитрон.
Ок спасибо, ознакомлюсь на досуге.
0 | 0
create
Эволюционно эвристический алгоритм обучения НС.
15:18 05.04.2021 №851
Egg:
Попробуйте поразбираться в этих вещать с ключа "трансферное обучение". Вот, например, отсюда: Нежное введение в трансферное обучение для глубокого обучения или любого другого места.
С трансфер-лёнингом я знаком, по крайней мере концептуально, но конкретно к данной теме это имеет малое отношение, оно скорее как раз про изготовление "франкинштейнов" в ручном режиме и дип-сеток, CNN и RNN и тп.
Kek:
Мне тоже интересно создать процесс обучения нейросети так, чтобы он никогда не заканчивался. Скажу сразу что всякие там XORы, ИРИСЫ и МНИСТы это тупиковый путь. Для того чтобы попробовать создать такой алгоритм надо иметь реальный, сложный и непрерывный поток входных векторов. И таким потоком на мой взгляд является звук. А точнее речь.
Я бы начинал как раз с простейших не линейных задач, а моет даже линейных, в самом начале, речь это сложно, очень сложно, с речью нужно городить кучу искусственных эвристик, которые потом не масштабируются автоматически, а нужно ручками сшивать и потому перспективы очень ограниченны. В начале нужно тренироваться "на кошках" ИМХО. По поводу "потока" ну любой датасет можно подавать по семплу и будет поток, да и обучать не обязательно сразу всему датасету, можно и в потоковом режиме и нейросетки обычные и леса и тд.
Kek:
Представим себе классический цикл: - Создание размеченной обучающей выборки с немалым конечным числом векторов. (та еще работа) - Обучение, причем неприлично долгое. Например 16 часов. - Проверка сети на тестовой выборке, оценка эффективности. - Собственно работа. И тут оказывается, что в режиме работы стали появляться вектора, которых не было в обучающей выборке. Сеть выдает не правильный результат. С ирисам и МНИСТАМи такого не случится никогда. Как быть? А включить эти вектора в обучающую выборку и запустить весь процесс по новой. И опять не приличные 16 и более часов... При этом, заметьте, всю обучающую выборку надо хранить. Через какое то время работы сети, вновь появляются непредсказуемые вектора. Согласитесь, что живые организмы как-то по другому действуют.
Почему это " С ирисам и МНИСТАМи такого не случится никогда"? Наверно я не совсем понял что Вы имеете в виду. Перцептрону хоть подай один семпл, он кое как подгонится под него, дай два подгонится од два и тд. Потом новый вектор будет всё равно не со 100% точностью регресироваться\кластериховаться, даже из обучающей выборки. Вопрос в модели, чтобы она могла быть АВТОМАТИЧЕСКИ создана, путём простых оптимизационных алгоритмов вроде отжига.
Kek:
Что можно сделать? В классическом подходе для МНИСТов и ИРИСОВ существует поле признаков. Чем их больше и чем они "ортогональнее", тем лучше. Но по сути все действуют так: " А что если в неё лом запихнуть?" И запихивают не глядя, надеясь на то, что промежуточные слои всё "пережуют". За такой подход расплата это не прилично долгое время обучения и сложная структура сети. На мой взгляд deep learning возник именно из-за не понимания происходящего. Мое предположение. Процесс должен выглядеть так. - Создание начального не большого массива входных векторов с определенным набором признаков. - Быстрое обучение сети. - Тестовая и рабочая выборка суть одно. Если встречается новый вектор и он ценен, а сеть его не распознает, тогда встраиваем его в обучающую выборку и быстро переобучаем. Может случиться так, что в режиме работы мы запихнули вектор с ошибкой. Такое может быть. Тогда делаем откат назад. Весовые коэффициенты и небольшой набор входных векторов предыдущего варианта у нас есть. Получается итерационный процесс. Еще предположение о том, что в цепь обратной связи можно включить вообще изменение и самого поля признаков. Но для этого заранее нужно сформировать какой-то большой массив признаков, а в итерационном процессе задействовать не весь набор. Заметьте мы не вторгаемся в саму структуру сети, бэкпроп остается нашим всем. Мы лишь меняем общие этапы и наборы признаков.
Да вот на счет бэкпропа не уверен, слишком он искусственный, почти как SVM. Да, можно конечно гдето заюзать, как заплатку или в качестве отдельно го модуля, но нужен некий алгоритм генерации алгоритмов обучения, в автоматическом режиме. Что я имею в виду? У нейрона есть ряд параметров, веса, функция активации, связи входы\выходы, и тд. всё это можно оптимизировать, причем сама оптимизация может быть хитро устроенной, алгоритм эвристик оптимизации можно оптимизировать, что то часто оптимизируется что то редко. Например "слои" можно учить последовательно, каждый нейрон может иметь некие параметры "поведения" в зависимости от его ошибочности и тд. Чтобы получилась своего рода "конкуренция" в сообществе нейронов, как это происходит у живых организмов, которая даёт синергичный эффект для всей системы, в виде релевантных моделей окружающей среды. Нужно найти такие параметры у нейрнов или их придумать. А начать нужно с простых вещей, как вообще обучать искусственные нейросети, НЕ-бэкпропом, эволюционным способом. К сожалению я не нашел своего старого говнокода на эту тему, придётся набросать что то заново, тут проще показать в коде чем объяснять.
figaro:
А вы уверенны что "в мозгах", нечто вроде многослойного перцептрона, и осталось только придумать способ его обучения получше обратного распространения? На вашем месте я бы изучил больше про анатомию мозгов, особенно коры, много интересного поймёте, начните с Хокинса "об интеллекте", потом Мунтаскл и тд. Сразу могу резюмировать, что никаких многослойных перцептронов там нет и блико, если вы хотите что то сделать аналогичное мозгам то со старта начали не верно.
Кое что читал по этой теме, не совсем нуб :)
0 | 0
create
Эволюционно эвристический алгоритм обучения НС.
14:21 08.04.2021 №858
Kek:
Александр Мельник:
... речь это сложно, очень сложно, с речью нужно городить кучу искусственных эвристик, которые потом не масштабируются автоматически
Я как раз занимаюсь речью. Есть модель и действующая инструментальная программа (pet project). Исследую оптимальное представление звуковых характеристик для нейросети пока на самом нижнем уровне. Классический подход знаю, но он не живет в диалоге, а подготавливается априорно. Если это интересно хоть кому, могу выложить и рассказать. Сама программа работает, исходники на Delphi. Каких-то с ног сшибательных результатов нет, но есть возможность подготавливать и размечать wav-файлы. Запихивать их в сеть и распознавать размеченные звуки. Для полноценного распознавания слова нужна фонетическая модель "сверху" этих звуков. Задача в том, чтобы в диалоговом режиме представить процесс обучения с нуля со всей гибкостью и сложностью. На мой взгляд такая постановка задачи в классическом процессе распознавания не ставится.
Вообще интересно, что бы мозги поразмять, но к сожалению паскаль давно забыл и не особо тянет вспоминать, если бы на C++\C# были исходники, а лучше в виде блок-схем алгоритмов. Помница для одной в принципе не важной поделки чтобы с микрофона можно было исполнять голосовые команды, заморачивался с какими то древними библиотеками под .NET, а модерновое через АПИ, ну нах, был бодрый позыв импровизировать что то своё, простенькое как калаш, ну типа преобразовать в оконное 2д фурье а его стравить нейронке, но руки не дошли...
0 | 0
create
Понимание и объяснение
15:17 08.04.2021 15:21 08.04.2021 №860
Prosolver:
Понимание тесно связано с языковым общением. Произнесение (написание) слов при говорении, фактически, представляет собой воспроизведение имён тех понятий, которые мы обнаруживаем своим "внутренним взором", когда мысленно перемещаемся (скользим, идём, плывём, парим) вдоль созданной нами сцены понимания.
ИМХО сам процесс "понимания" следует не мешать в одну кучу с вербально-текстовой коммуникацией и прочей символьной. "Объяснение" - да, понимание - нет. Понимание есть и у животных вероятней всего, понимание как процесс, концептуально близко к распознаванию, но обычно относится к про-активным(с участием субъекта) причинно-следственным процессам, программам действий(стратегия охоты, защиты, поиска еды, самок и тд). Понять в таком контексте - повторить, научиться также действовать, в идеале на примере сразу, ну или путём тренировки. Язык не играет ключевую роль в таком процессе, это старое доброе обучение по примерам, но на сенсорно-моторном материале в реальном времени. Язык позволяет передать образ-сцену, описать косвенно, ну а лучше всего показать на примере, даже мы люди говорим "лучше один раз увидеть, чем что раз услышать"
0 | 0
create
Эволюционно эвристический алгоритм обучения НС.
10:00 09.04.2021 №862
Egg:
Александр Мельник:
С трансфер-лёнингом я знаком, по крайней мере концептуально, но конкретно к данной теме это имеет малое отношение
Оно начинает иметь отношения с момента, когда вы заговариваете о "масштабировании". Но главная проблема искусственный нейронных сетей не в том, что это масштабирование невозможно, а в том, что это ИНС занимаются аппроксимацией и только ей. В этом смысле ваша постановка изначально имеет концептуальное противоречие. Никто не знает, можно ли мышление свести к аппроксимации. И если можно, то как. )))
Вероятней всего можно. Аппроксимация универсальный механизм, вопрос в "сложности модели", чтобы она смогла уместить сложность аппроксимируемой функции(явления, процесса) и логики обучения. Теоретически даже простой MLP мог бы "схавать" всё что угодно, что есть у нас "в мозгах", нет фундаментальных проблем которые бы запрещали это. Но есть практические проблемы, размеры такого MLP в миллиарды "нейронов" и способ обучения(сам датасет, этапность и тд) пока не вполне ясен, но даже если бы и был, нужна не виданная вычислительная мощь, чтобы гонять его миллиарды а может триллионы раз, так как матушка природа всё это сделала далеко не с первого раза и не с миллионного. Конечно хочется оптимизировать это дело, найти сразу некие эвристики или может даже относительно строгую теорию, чтобы закрыть костылями и готовыми модулями, особо прожорливые места, но костыли и эвристики порой обоюдоосрые, что то дают а что то отнимают, например гдето датут скорости, взамен на универсальность и масштабируемость и после значительного рывка закончим принципиальным тупиком. Вообще конечно тот путь который сейчас имеет место быть в ML, не так уж и плох, это тоже своего рода эволюция, только не совсем "тупая" одно-шаговая, а умная, вот только эта умность часто будет заводить в тупики ИМХО, хотя в целом все же так быстрее намного чем вообще, ген-алгоритмом искать супер-нейросетку))) Так что это наверно квазиоптимально, но всё равно, конца-края пока не видно. Я согласен с выше высказавшимися про то что нужно искать вдохновение в реальном мозгу, действовать как китайцы, на этапе обучения, тупо копировать, а потом уже по готовому дорабатывать, оптимизировать и тп. Но увы у нас пока большие проблемы с вычислительной мощностью, невозможно экспериментировать с чем то сложным пока, что то типа как пытаться сделать современную компьютерную графику, на компах 50х :)
+1 | 0
create
Методология создания сильного ИИ
10:31 09.04.2021 №863
figaro:
Prosolver:
figaro:
изподтишка навязывающих мракобесные креационистские взгляды
А Вы не замечаете абсолютно симметричной проблемы в том, что более громко и воинственно на каждом углу навязывается эволюционизм? Сейчас складывается новая религия, когда словом "эволюция" можно объяснять всё, что угодно, не объясняя при этом по сути ничего. Поэтому навязывать вообще ничего не надо, в каждой идеологии есть изъяны. Пусть моделей будет много разных. Пусть будет модель, что костям динозавров 6 тысяч лет и что они были созданы в таком виде. Эта модель безобидная она ничего не решает и ничего не объясняет. Будет лежать себе в сторонке, как забавный экспонат, а вдруг потом пригодится. Или, может, Вы абсолютно точно знаете, как всё было на самом деле?
Нет, нет, "кости динозавров создал Господь" это ни какая не модель, это чепуха, бессмыслица, жалкая попытка загнанных в угол креационистов пустить пыль в глаза, совсем уж тупым верующим. Какие эксперименты могут опровергнуть эту "модель"? Не надо было останавливаться в редактировании "Священного Писания", сфабриковать нужно было какие то "новые факты", новые евангелия "откопать" и тп. Но идти в ногу с наукой, чтобы не превратиться в сказки для юродивых. И такие "модели" как раз таки совсем не безобидны, как минимум это просто информационный шум, в итак переполненном этим шумом цивилизации, а с учетом "авторитетности" и навязчивости этого шума, а также специфики и достаточно сильном психотропном влиянии такого контента, то вред для научного прогресса может быть весьма существенный. Статистически более трети шизофреников в фабуле бреда имеют религиозную составляющую, религия как бы "легализирует" безумие, допускает произвольные "чудеса", что можно только "силой мысли" оказывать некое влияние на кого то или что то и тд. Это неадекват, если в двух словах. А "эволюция", точнее говоря Дарвинизм в современной его интерпретации, который так колбасит христианских попов и пасторовв их проповедях, это такой же очевидный научный факт как то что Земля вращается вокруг Солнца, ну просто нужно быть кретином что бы спорить с этим всерьёз, или корыстным манипулятором-демагогом, коими на 70% являются попы и пасторы. Дарвинизм это не идеология как раз, в том то и отличие от христианских мифов, это не вопрос что популярнее, это выбор между наукой и здравым смыслом с одной сторны и вообще неадекватом с другой, за которым стоит только авторитет религии и демагогия их проповедников.
В эмпирической психологии есть мнение что не так важен "знак"(полярность) мнения, как его эмоциональная зараженность(заинтересованность, фанатизм). То есть утверждение или отрицание некой концепции(теории, верования) обычно одинаково сильно влияют на мировоззрение человека и подобным образом. В народе говорят "у кого что болит тот о том и говорит", всем известно что самые ярые гомофобы, как правило латентные геи и тп. Таким образом, например Докинза можно подозревать в неистовой подсознательной вере в христианского бога, но вытесненной из сознания другой системой эмоций и концепций, которая более комфортна сознанию и его социальной роли, сформировавшейся именно таким образом. А лично мне больше нравится агностицизм в отношении религии, быть то может действительно что угодно, и ничего и "дед с бородой" и реинкарнации и титаны с феями, хз господа, главное не сильно заморчиваться над этим, особенно в негативном ключе, всё равно не угадаешь. Но к ИИ это всё имеет малое отношение. А методологию создания того чего пока нет заранее придумать невозможно. В голову приходит только что то общее вроде ТРИЗ и тп. А вообще конечно такие подвижки, как например алгоритм обратного распространения ошибки, или CNN, нельзя формализовать, а может даже и не нужно, вредно, это область научного творчества, этакая алхимия, ей не нужно мешать никак, ничем не ограничивать, ни какими формальными "правилами".
0 | 0
create
Эволюционно эвристический алгоритм обучения НС.
10:21 14.04.2021 №886
Egg:
Да, в NPC (а все задачи реконструкции такие) производительность - ключевой аспект. Но, кроме этого, не хватает еще хорошей внятной теории интеллекта и макета (рабочего прототипа) минимального интеллекта. Самого простого. Но который бы все-таки выходил за уровень регрессии и аппроксимации...
Я понимаю о чем Вы толкуете, как мне кажется, но в последние годы я отошел от концепции "минимального интеллекта". ИМХО интеллект сущность агрегатная, кумулятивная, по своей сути, начинается он с транзистора, а заканчивается Эйншттейном, нет резких скачков и четких "фазовых переходов", только накопление и "новые проекции"(слои ансамбля моделей). Интеллектуальность - штука количественная, она возникает только у нас в сознании, распознаётся, когда наличиствуют ряд антропных атрибутов у системы, в частности достаточно сложное целенаправленное поведение, желательно с возможностью до обучения в процессе взаимодействия со средой и как вишенка на торте — способность к символьной коммуникации.
Egg:
Требование-то самое простое - демонстрация интеллектуальности. Например, способности к обучению. Начать с самого простого - показать, что система может научиться распознавать изображения чисел (та же MNIST), а потом она же, без перекомпиляции и переконфигурации, может научиться складывать числа как значения. А потом научиться играть в крести-нолики. Этих трех задач вполне достаточно, чтобы охватить предельно широкий спект минимальных интеллектуальных навыков. Эти задачи не требуют высокого перформанса. Если найдется единая модель, которая сможет реализовать эти три разноплановых задачи, она вполне может претендовать на то, чтобы быть начальной моделью интеллекта. На мой вкус.
MNIST и крестики нолики может и обычный MLP с бэкпропом, а вот складывать, это вопрос другого порядка сложности, вроде кажется что просто, но это иллюзия, технически MLP может "примерно" складывать, но это совсем другое, так как складывает человек требует уже абстрактного(символьного) мышления, а это пока не совсем проработанная тема и проработка её до "терминатора" может занять от десятка до сотни лет.
Egg:
Интеллектуальность - это способность обучаться. (Там много прочих, но начнем с этого.) И мне кажется, что это полезнее всего остального в плане практики. Мне очень нужна программка, которая могла бы выполнять несложные рутиные действия, но с гибкими условиями, а не с формальными на уровне обработки потоков данных.
Обучаться способен и транзистор, в каком то низкоуровневом смысле этого слова, а Вы конечно имеете в виду вербально-текстовое обучение, так как согласитесь даже животные, такие как кошки или даже наши предки обезьяны, путём "дрессировки", мало чему могут "научиться" новому, или дельфины, у которых и мозг больше и извилин, но нет этого "главного".
0 | 0
create
Эволюция цифровых систем и элементарный интеллект
17:56 27.12.2021 №3139
Эволюция это прежде всего — антирелигия, отрицание Господа, низвержение нас людей с царского трона над всеми остальными земными тварями, если веришь в эволюцию значит ты как обезьяна, как таракан, как вошь. Вот представьте как орёт макака, как они трахаются без стыда, испражняются, едят вшей, это эволюция, а на другом конце Общая Теория Относительности и Египетские Пирамиды, полёты на Луну и великие люди такие как Иисус и Ганди.
0 | 0
create
Эволюция цифровых систем и элементарный интеллект
10:09 29.12.2021 10:09 29.12.2021 №3210
Prosolver:
Эволюция - это религия капитализма. Идеологическое оправдание экспансий, геноцидов, конкуренций, дискриминаций, превосходств, гедонизмов и прочих слабостей. Как сказал один мыслитель - люди придумали происхождение от обезьян, чтобы творить обезьяньи дела.
Человек существо достаточно зависимое, обусловленное. Например все мы вроде как и хотим быть на расслабоне, в комфорте, не хотим работать, особенно физически, но если дать волю этой мотивации развернуться на полную, то уйдём в гедонизм и праздность, быстро станем слабыми и больными, что не гуд. Наше тело требует определённого напряжения, как и наши мозги и не просто физического напряжения, вроде спорта, изучения матана, теории групп и тп, требуется также определённая мера естественно стресса, риска, горя, без них тоже возникают специфические расстройства(депрессии и наркомании у богатых и тп.) и вообще жизнь становится какой то "плоской". Правду глаголели древние: "Золото проверяют огнём, а мужчину - невзгодами". Капитализм хотя и жестокий строй, но правильный, мотивирующий, он не даёт нам забыть про свою животную суть, уйти от корней, оставляет нас живыми. Если человека защитить от хаоса то он начнёт деградировать а с ним и общество, нам нужен как пряник так и кнут, увы, так мы устронены.
0 | 0
create
Эволюция цифровых систем и элементарный интеллект
10:29 29.12.2021 №3211
На счет веры, это личное дело каждого, по сути вера, религия, это вопрос психологической физкультуры, как по мне этакий психотренинг. Нравится человеку верить в неважного кого(бога, нечистого, деда мороза…) приносит пользу, даёт уверенность, успокаивает нервы, ну и хорошо, главное чтобы эта вера не уводила в неадекват(яростно всем доказывать что Земле 6к лет итп.), не вредила социальной адаптации и профессиональной деятельности. Я бы даже сказал что в определённой степени вера нужна практически всем. Тут дело в том что наш "разум", структура достаточно новая и не проработана эволюцией ещё, нет механизмов защиты от "неизбежности смерти", "бессмысленности существования" и тп. У животных не было таких проблем, животное как бы априори "живёт вечно", так как для нормального существования нужен определённый оптимизм, эйфория, а разум нас лишил этого, мы ясно видим свой конец, мы знаем что нет особого смысла не в собственной ни в жизни вообще всего рода человеческого. Поэтому лучше бы всё это переиначить и обернуть красивым мифом, что как ни странно не так уж и сложно, наша психика как бы сама этого хочет, спрятаться в негу иллюзий.
0 | 0
create
Эволюция цифровых систем и элементарный интеллект
10:12 30.12.2021 №3225
Нужно верить, нужно. Без веры тяжко. В чем вообще смысл нашей жизни? Ну точно не в том чтобы заработать денег, это тупо, это просто средство, а средство для чего? Для того чтобы жить в комфорте и довольстве? Нет конечно, это тоже не цель а средство, но чего снова тогда? Размножение, семья, дети? Технически да, можно сказать что дети — смысл жизни, на какое то время, но они тоже умрут, да и весь род человеческий умрёт, и что тогда? ЧТО??? Человечество как и отдельный человек исчезнет, также как исчезли динозавры и мамонты, как и не было вовсе, весь космос в том виде в котором мы его понимаем тоже исчезнет, разлетятся кванты так что не смогут больше никогда взаимодействовать, это будет конец времени и пространства, так как только взаимодействие есть существование. Всё бессмысленно априори, абсолютно не важно, но это не очень здорово для психики, животной её части, которой так много в нас и невозможно изъять. Нам нужен "вечный смысл", иллюзия, она всегда двигала нашей жизнью, без ощущения что "всёбудет хорошо" жить невыносимо, но от куда его взять если "реальность" вот такая мрачная, безликая, пустая. Вера подобна любви, запускает систему подкрепления(удовольствия) обещающую "вечность", по сути просто действует как не вредный наркотик, можно даже сказать полезный, так как от него и мы с радостью встаём с утра и делаем всю эту по сути бессмысленную чепуху)))
0 | 0
create
Диалоговая система Думбот 4
10:23 30.12.2021 №3227
Вы же вроде специалист по 1С, я прав? Я к тому что "для молотка — все проблемы гвозди". Вероятно вы всё сделали через базу данных и SQL. Я даже не удивлюсь если кириллицей программируете, как это принято у 1С-ников.
0 | 0
create
Эволюция цифровых систем и элементарный интеллект
14:42 30.12.2021 №3231
Kek:
Странный поворот образовался в теме. Эволюция, да не просто тебе Дарвинская, а цифровых систем, далее все таки Дарвина вспомнили и эволюцию, как отрицание чего-то и пришли к вере, а такожде к Богу. Это не правильный путь дискуссии. Я говорил об эволюции, как об усложнении. Этого вообще у Дарвина нет. Это у Пригожина, это диссипативные системы, которые существуют вдали от термодинамического равновесия. Ну ладно. Но в конце причудливым образом появился вопрос о смысле жизни. Да, вопрос нервный, если отринуть рассудочную деятельность. А если её привлечь всё таки и спокойно с высока посмотреть через Пригожинские очки то может оказаться, что для любой формы белковой жизни существует один инвариант. Один. И именно он нам, как строителям AGI, интересен. Это ПОЗНАНИЕ, имея в виду сложные формы белковых систем. Спускаемся ниже и что же? ЭКСПАНСИЯ. А ты попробуй займи чью-нибудь освоенную для кормления территорию. Нужно консолидироваться, если ты стайный хищник, а это усложнение. И наконец универсальный принцип, пригодный не только для белковых форм, а для информационных систем, которые "хотят" называться разумными - это НОВИЗНА. Кушайте новизну, если вы её добудите. Это не простой "корм", чтоб её НОВИЗНУ добыть надо что-то делать. Усложняться внутренне, отражая тем самым сложность окружающего Мира.
Александр Мельник:
Нам нужен "вечный смысл"
Вот он. ПОЗНАНИЕ. А так как МИР бесконечен в своём проявлении, то предела не существует. Это вечное движение.
Александр Мельник:
весь космос в том виде в котором мы его понимаем тоже исчезнет, разлетятся кванты так что не смогут больше никогда взаимодействовать, это будет конец времени и пространства
Это эмоции. После революции (с маленькой буквы) у нас в стране был организован комитет по борьбе с энтропией и тепловой смертью Вселенной. И возглавляла его сумасшедшая баба с маузером. Это не рассудочная деятельность. Это черви.
Да, так хотелось бы и порешить. Познание — благородная цель, разумная, её выбрать действительно выгодно, чтобы не дурно провести свой жизненный путь. Хотя… Опять же, мы снова подменяем реальное желаемым, всовываем свой бытовой здравый смысл туда где он никогда не был и не будет, где вся наша логика не работает, так как это "вне обучающей выборки", "out of sample". Вообще нужно отказаться от концепции "смысл" когда речь идёт о том что вне контекста человеческих чаяний и сфер влияния. Даже к животным и их поведению понятие "смысл" мало применимо, следует говорить о желании, инстинкте и тп. Смысл есть только у нас людей, а в природе, в космосе ЕГО НЕТ И НЕ БЫЛО НИКОГДА. Природа, космос, мультиверс, они - ЗАКОНОМЕРНЫ, также как закономерна например функция y=x*x какая либо точка на этой функции не есть "целью" или "средством" другой, все точки функции равноправны, их вообще собственно и нет, также и в космосе ничто не есть РЕЗУЛЬТАТОМ, всё процесс , всё отображение некой витиеватой мета-закономерности(ей) и вообще как бы не факт что "есть", так как мы это понимаем. Но не приятно думать об этом, на уровне древнего эмоционального мозга, хочется чего то простого, душевного, чтобы кто то ВЛИЯТЕЛЬНЫЙ убаюкал, защитил, пообещал что будет всё хорошо. И вопреки логике и разуму это лучше принять, это даст уверенность и спокойствие, не готов наш разум пока к "холодной" зияющей бесконечности и бессмысленности. Я лично регулярно "молюсь" Господу. Конечно я не персонифицирую Его и вообще не считаю Его личностью или разумом, тем более не отношу к какой либо религии, это просто абстрактный Бог, я про него ничего не знаю, Он за пределами, Он вне. Я понимаю что это не имеет никакого смысла в научном понимании, но меня это успокаивает. Я бы хотел что бы все молились.
0 | 0
create
Диалоговая система Думбот 4
15:27 30.12.2021 №3232
Виктор Казаринов:
Александр Мельник:
Вы же вроде специалист по 1С, я прав? Я к тому что "для молотка — все проблемы гвозди". Вероятно вы всё сделали через базу данных и SQL. Я даже не удивлюсь если кириллицей программируете, как это принято у 1С-ников.
Русский язык тоже неплох при программировани на Форте. Я давным-давно (в 80-х годах прошлго века) писал на каких-то языках программирования с русскоязычным синтаксисом. И ничего, вполне нормально конкурировали с Фортраном. Вот когда наша гнилая интеллигенция с потрохами продалась Западу, англоязычность победила. А ведь я работал на неплохих 36-разрядных ЭВМ типа Минск-32. Программировал в их машинных кодах и языках высокого уровня, и ремонтировал, обслуживал несколько таких машин. Поэтому помню как устроены в них все блоки и даже отдельные модули. Они вполне конкурировали со слизанными у запада ЭВМ ЕС-1022, которые я тоже ремонтировал и документацию которых хорошо изучил. Но потом наше направление похерили и стали следовать в кильватере западной научной мысли.
Самому тошно. Ну а что делать, холодную войну проиграли, вообще просто проиграли, хуже оказались, меньше производили, больше занимались всякой фигнёй ненужной(вроде "помогать другим строить комунизм"), в общем слились. Да и противно это человеческой и животной природе, всех уравнивать. Нет мотивации, а без мотивации и в результате технологического роста никуда. Так что пишите латиницей или бомбите ядерными ракетами США. Станет Китай скоро первой сверхдержавой будем писать на китайском, подчиняться косым, они нам ещё дадут жару, это не Европа и США, азиаты будут очень не уважительны к славянам.
DCV:
Александр Мельник:
Вы же вроде специалист по 1С, я прав?
да
Александр Мельник:
Вероятно вы всё сделали через базу данных и SQL.
C#, MSSQL. На сайте ASP .NET MVC. 1C тоже использовал для проекта.
Александр Мельник:
Я даже не удивлюсь если кириллицей программируете, как это принято у 1С-ников.
На С# команды на английском. На русском языке команды только в 1С. Нет разницы писать те же команды на английском или на русском языке.
C# это хорошо, перспективно, одобряю. Так а где сайт, презентация?
0 | 0
create
Проект SoundAgent
17:04 18.01.2022 №3573
Kek:
Prosolver:
Поэтому обсуждать, имхо, интересно не частные технологии из области информатики, а теории и гипотезы о том что и как делает ум человека.
Любая теория или гипотеза из стадии обсуждения когда-нибудь перейдет в стадию проверки. И тут окажется, что не существует специфического алгоритма, имеющего непосредственное отношение к AGI. А что окажется? Я не очень разделяю то, что говорит Черниговская, но одну её фразу я запомнил: "мозг это сеть сетей". Точно также алгоритм AGI это алгоритм алгоритмов. Поэтому, являясь преверженцом теории элементарного ИИ, полагаю не обойтись без информатики и её методов. Здание AGI складывается из кирпичиков, коими являются элементарные методы кластеризации и распознавания. Другое дело, что они должны быть адаптированы к ИИ. И вот что это за адаптация и является предметом исследования. Например. - Как обойтись малой выборкой? - Как "на лету" быстро переобучать сеть? - Как создать иерархическую нейросеть? - Можно ли при малой выборке наращивать её, создавая паттерны, как гипотезы?
MLP(и всё подобное на бэкпропе) штука достаточно "хрупкая" я бы сказал. Совсем не уверен что у нас в мозгах оно так работает.
0 | 0
create
Происхождение Homo sapiens
09:49 19.09.2022 №5464
Главная заковыка любой космогонической модели, в том что ОБЯЗАТЕЛЬНО нужно объяснить происхождение ЧЕГО ТО ИЗ НИЧЕГО, иначе будет очередной притянутый за уши рекурсивный мистицизм как верно отметил Эгг. А это… мягко говоря трудно, по многим причинам. Предположим человека, животных и тп. создали разом некие чувак(и), разве это что-то объясняет(делает понятным)? Нет, это всё на многие порядки только усложняет, теперь нужно разобраться как возникли эти чувак(и), которые обычно вне поля научного эксперимента, в отличии от окружающей реальности. Только наивный ум, или искаженный фанатическими верованиями, может это замести под ковёр, "уверовать" произвольному мифу, который чаще всего даже не ложится на здравый смысл в наше время(хотя вероятно ложился когда то, пару тысяч лет назад, когда создавался). Эволюционный механизм изменения геномов и выстраиваемых по нему биологических видов, очевиден не менее чем законы Ньютона, спорить с этим - форменный кретинизм. Конечно много есть ещё загадок, также как были они и у законов Ньютона, которые уточнил Эйнштейн, но уж никак нельзя поспорить с существованием и ролью генома и тем что его более релевантно моделирующие реальность комбинации, строят тела выживающие\размножающиеся эффективнее и соответственно вытесняют прочие, это должно быть понятно 10 летнему. Такое можно закодить на питоне в сотню строк. Про космос в целом тоже большинство общепринятых концепций неоспоримы, например что вселенной в том виде в котором мы её знаем ~13.8 яра лет, что она расширяется, что текущее её состояние, с звёздами и планетами, очень мимолётно, ни о какой "вечности" речи не идёт. "Инволюция", "одомашнивание" в теории могли бы быть, но всё рано перед тем обычная эволюция должна была сделать либо протосущество или "создателя". В общем это просто некий дополнительный виток эволюционной траектории, который особо то ничего не меняет. Кстати некая "инволюция" таки да считается вероятной для современных приматов(человек кстати тоже до сих пор вид приматов), наш общий предок был считается более, так сказать, "человекоподобным", чем современные гориллы и шимпанзе, которые за 5-7 млн лет дополнительно изменились, специализировались. Сейчас много литературы на эту тему, даже в популярном формате.
+2 | 0
create
Происхождение Homo sapiens
13:29 19.09.2022 №5477
Prosolver:
Да, делает понятным, в частности, для чего и почему человек создаёт себе AGI. Ведь, согласитесь, это довольно странно. Чтобы такой важный и "полезный для выживания" орган как интеллект, животное пыталось отторгнуть в виде искусственного механизма. Это выглядит примерно так же нелепо, как если бы мужчина отрезал себе половой член, чтобы вместо него прицепить себе искусственную елду.
Пардоньте, не уловил сути, что значит "животное отторгло" и причем тут "важный и полезный" и гениталии. Никто ничего не принимает и не отторгает, идёт случайный и половой дрейф генома, тела которые статистически более приспособлены к среде экспоненциально множатся а менее удачливые исчезают из истории.
Prosolver:
Скажите, пожалуйста, кому и для решения какой задачи это нужно? Только ответьте, пожалуйста, предельно точно.
Это цель науки. Наука стремится докопаться до сути, до "дна кроличьей норы". Наука это моделирование(описание) сложного, через минимальный инструментарий элементов и их взаимосвязей. В начале должна быть простота, а не сложность, никаких разумов и создателей. Вы же предлагаете КОНСТАТИРОВАТЬ существование сверх-сложной системы, априорно, что рушит всю научную методологию и отправляет нас в царство "магического мышления" свойственное примитивным культурам.
Prosolver:
Т.е. Вы являетесь сторонником концепции креационизма, я правильно понял? Или у Вас уже есть готовая схема, как геном закодился сам собой из ничего?
"Всё из ничего" это про совсем другой уровень, это скорее про физический вакуум и "квантовую пену». А простейший геном да вполне вероятен, это уже почти доказанный факт, достаточно вполне не замысловатой(не сложной) молекулы РНК, которая в масштабах планеты, вполне могла возникнуть не один миллиард раз и начать сама себя реплицировать, а затем и эволюционировать. Это уже не фундаментальная загадка. Возможно вскоре откроют ещё и более простые репликаторы. Намного сложнее был переход от бактерий и архей к эукариотам, там вероятность уже куда более зыбкая, считается что этого легко могло и вообще не случиться. А вот просто бактерии, появляются почти сразу(считанные десятки миллионов лет) когда есть жидкая вода и атмосфера определённого состава. Нет я не креационист разумеется, в привычном понимании этого слова, когда была некая априорно сложная система, которая магическим способом "создала" всё сущее, это ИМХО примитивные модели, до научные, такие же как что плоская Земля на слонах стоит и тп. Но определённо я и не строгий МАТЕРИАЛИСТ, это так же радикально как и креационизм или религия, скорее агностик, я знаю что многое не знаю и даже знаю что никогда не узнаю и не смогу узнать, по попросту потому что человеческий ум очень ограничен, а инструментарий доступный человеку довольно скудный.
+1 | 0
create
Происхождение Homo sapiens
09:10 20.09.2022 09:12 20.09.2022 №5489
Prosolver:
Член и интеллект (если хотите мозг, разум) - это органы. Эволюционная парадигма утверждает, что все органы нужны только для одного - улучшения выживания. Если с членом эта логика в принципе работает, то в случае с интеллектом она проседает. Искусственный член мужчины себе не делают, а искусственный интеллект делают. Почему? Ведь создав искусственный интеллект, естественный интеллект деградирует, отсохнет и отвалится за ненадобностью. Вы сказали, что креационная концепция бесполезная, а она, вместе с тем, этот факт объясняет. А эволюционная - не объясняет.
Я не очень знаком с "эволюционной парадигмой", я сам своими руками писал стохастические оптимизаторы(генетика, отжиг и вариации) и четко понимаю как это работает. Когда оптимизируемая система сложная(много параметров, в геноме их миллиарды) то траектория оптимизации может быть тоже сколь угодно сложной и не логичной, с точки зрения каких то внешних простых требований. Будет множество тупиковых траекторий, точнее говоря почти все траектории так или иначе окажутся тупиковыми, в сравнении с некой единственной, "отыскавшей" что то сверх крутое, дающее супер преимущество. Так что не нужно какими то отдельными примерами "опровергать", эволюция генома. Это доказанный и очевидный факт такой же как электромагнетизм и гравитсция. Кстати год назад я беседовал с преподом богословия в семинарии, довольно вменяемый чувак, приятно пообщались, так уже даже там, никто не спорит что есть геном и он меняется, а соответственно что человек возник из обезьяны и оптимизируется уже несколько миллионов лет. Но они придумали свой "пач" про то что мол была обезьянка, животное, а потом БАЦ! и Господь дал её "душу", разум как у нас сейчас, резко и мол что она дальше жила также как животное это типа был "её личный ОСОЗНАННЫЙ выбор", ну и там целая цепочка такого, речь тоже был "осознанный выбор" а другие племена типа "отказались" и тп.))) Есть конечно секты разные, там где поют танцуют, пасторы проповедуют и тп. Вот там да, на мракобесов упирают, воюют со здравым смыслом, но сущность сект и фанатизма именно в переломе здравого смысла, что они и успшно делают, с теми кто к этому предрасположен.
Prosolver:
Хорошо, пусть будет так. Но форум ведь не называется "Форум учёных" или "Форум служителей науки" или "Форум любителей докапываться до сути всего"…. Вы же не предлагаете сначала докопаться до сути всего и только после этого переходить к созданию AGI?
Вы спросили я ответил, причем тут тема форума, зачем такие нечистоплотные риторические приёмчики? И вопрос был тоже не про AGI, и 99% постов форума не про AGI, а про всё на свете, от шизофрении и сепсиса до курса биткоина)))
Prosolver:
А Вам не кажется, что такое определение науки в большей степени отражает принципы устройства и работы человеческого ума, чем принципы устройства и работы мира? Сначала ребёнок научается рисовать палочки, потом буковки, потом составлять из буковок слова, из слов предложения, конструкции, механизмы - от простого к сложному. Почему Вы присваиваете миру, человеческие ограничения? Мир не обязан рождаться, обучаться, происходить и развиваться от простого к сложному. Мир вообще может быть устроен совсем по разному. Мне кажется, всё ровно наоборот. Человек присваивает миру свои ограничения, магически перенося на мир свои свойства. А того, кто с этим не согласен - жгут на костре и съедают. Вот даже сейчас, незаметно, подспудно, магическим образом тема свернула от "происхождения человека" к "происхождению мира" или "происхождению всего на свете".
В целом согласен. Вся наша "наука" — только модель, аппроксимация, как собственно и наш "разум" и всё его содержание, опровергнуть солипсизм не возможно. Но в тоже время есть ряд соображений о том что всё-таки солипсизм крайне маловероятен и "есть" мир во круг нас и он частично "похож" на то что мы о нем получаем с помощью органов чувств и моделей в наших мозгах. Ну а каков у нас выбор? Вот есть у нас эти модельки, отдельных аспектов "реальности", у этих моделек есть некие общие мета-характеристики, такая как например МАТЕМАТИЧЕСКАЯ СТРОГОСТЬ, мы не наблюдаем чудес(произвольных нарушений законов физики) экспериментально. Мы везде видим одни и те же законы действующие на некое множество элементов(квантов и их состояний). Логично что по тем же принципам экстраполировать "законотворчество" в те области которые нами пока не познанны и\или не могут быть экспериментально протестированы. Выдумывать там всякий произвол с антропоморфным и магическим содержанием это довольно наивно, хотя конечно исключать нельзя, но тогда вариация возможного бесконечна, не нужно себя ограничивать конкретикой.
Prosolver:
Мир - это уже по факту сверх-сложная система, которая по своей сложности превосходит человеческий ум, который её изучает. Т.е. мы уже имеем дело с переходом от сложного к простому, а не от простого к сложному. Мы не знаем был ли мир таким всегда или вдруг когда-то произошёл из ничего. Мы можем, конечно, изучать происхождение мира, только неясно почему обязательно это должно относится к происхождению человека
Вот цель науки - РЕДУКЦИЯ СЛОЖНОСТИ. Сведение сложного к математички простым моделям, применённым к большому количеству(10^80-10^100) тоже простых элементов. Конечно структуры получаются в результате сложные, но зато понятно как это работает, локально хотбы, ну и как побочный эффект, у нас есть автомобили, спутники и компьютеры. А человек "возник" понятно как, он собственно не возникал, человек это ветвь приматов, на ровне с гориллами и шимпанзе, то есть "обезьяна" как биологический вид. Лучше ставить вопрос не о человеке как о существе а о культуре и науке, как о новой форме аккумуляции данных повышающих эффективность индивида в эволюционной борьбе, на ровне с геномом и в последствии превосходящей геном.
0 | 0
create
Происхождение Homo sapiens
10:11 21.09.2022 №5507
Prosolver:
Александр Мельник:
Лучше ставить вопрос не о человеке как о существе а о культуре и науке, как о новой форме аккумуляции данных повышающих эффективность индивида в эволюционной борьбе
1. Правильно ли я Вас понял, что целью, содержанием, смыслом, наполнением, сутью культуры и науки (читай - разума, интеллекта, технологии) является эволюционная борьба? Кого с кем и за что? 2. Как решить парадокс, о котором я говорил в первом сообщении, и о котором говорит Marco Ragusa. А именно. Интеллект даёт преимущество своему носителю только в условиях наличия некоторой культуры, которая, как Вы говорите "аккумулирует данные ", хранит технологическую "ДНК". Но при возникновении человека по эволюционной парадигме изначально культуры никакой нет. А интеллект уже есть. Родился человек, а культуры нет. И не будет ближайшие 100 тысяч лет. В чём преимущество? И откуда возьмётся первая культура?
В целом верно. "культурно-технологическая ДНК"(кстати неплохой концепт, спасибо) так или иначе преследует те же цели что и обычная ДНК, то есть репликацию, которая косвенно порождает сонму предметных способов борьбы, игрового типа, предсказать отдельные ходы которые не возможно. Взять например шахматы, игра которая комбинаторно на десятки порядков проще чем "игра в жизнь", однако поведение гроссмейстера любителю чаще всего кажется очень мягко говоря странным, причудливым, тоже и с эволюцией и её выкрутасами. Цель простая, траектории весьма замысловатые, с учетом триллионных мини-шагов которые приводят к таким результатам. Наш мозг с такой сложностью не справляется, да даже будь мы в тысячу раз умнее, тоже не потянули бы. Косвенно, война идёт за совершенство модели реальности, если в общих чертах, так как чем совершеннее модель тем в эволюционной борьбе с природой и себе подобными, больше шансов победить. Но вообще как таковой "цели" нет разумеется, я же говорил, просто те кто несдюжат исчезнут из истории.
0 | 0
1
2

Главная Участники Жалобы  Поиск Исходный код О форуме