Последняя порция коментов к книжке СИИ На подступах к сверхразуму - 2021
Цитата:
Согласно теории выдающегося советского психолога Льва Выготского,
развитие мышления и других психических функций происходит в первую
очередь не через их саморазвитие, а через использование ребенком
«психологических орудий», путем овладения системой знаков-символов,
таких как язык, письмо, система счета.
В отличии от "обучения с подкреплением"(RL) в обычном ML у человека это происходит не совсем так. ИМХО у человека как и у животных во первых есть достаточно много, так скажем "предрасположенностей" на уровне архитектуры мозга, залоенной в ДНК, а также инстинктивных стимулы которые мотивируют их развивать. Что то типа как будто есть фундамент постройки и грубый план а строить и детализировать приходится самому уже в процессе научения.
Цитата:
Глубокое обучение, на первый взгляд, освобождает человека
от необходимости задавать класс моделей, но это во многом
иллюзия. Глубокая сеть не пытается обнаружить закономерность,
а лишь аппроксимирует ее.
А есть ли отличие??? Что мы понимаем под "обнаруживает"? Есть неплохая книженция на тему, называется "Исследование психологии процесса изобретения в области математики" там про эвристики человеческого поиска, конечно у человека есть много разных "рецептов" просто "глубокой" сетке далеко пока что до этого, но делятся они как правило на две категории, собственно аппроксимация, или как её ещё называют "интуиция" и разного рода "мыслительные"(символьно-комбинаторные) методы, всё это со временем реализуемо алгоритмически.
Цитата:
Действующее на территории ЕС общее положение о защите данных, в котором
закреплено, что любой гражданин имеет право запросить объяснение,
почему алгоритм принял относительно него то или иное решение.
Это ограничивает возможность применения ЫасkЬох-решений.
LOL
Цитата:
Метаnрограммирование - вид программирования, связанный с созданием
программ, которые порождают друrие программы как результат
своей работы.
Многие СИИ — пессимисты и гуманитарии, почему то это "мета-программирование" используют как аргумент того что мол "нельзя создать СИИ алгоритмически", сразу видно что код такие критики не писали никогда, это элементарно, особенно в высокоуровневых ЯП, а любой ML в своей сути это алгоритм который порождает алгоритмы на основе обучающей выборки.
Цитата:
существует ли возможность формулировать задачу таким образом,
чтобы из этой формулировки компьютер мог автоматически
извлечь требуемое решение? И не только извлечь,
но и объяснить? Поиском удовлетворительных ответов на эти
вопросы и занимается область ИИ.
Извлечь и объяснить две, как правило разные задачи, если задача сложная то и человек часто будет не в состоянии доходчиво объяснить как пришел к решению и почему именно так а не 100500 другим способом.
Цитата:
В целом можно сказать, что на настоящий момент подхода
к AGI на основе компьютерных наук пока не существует, так
как нет систематических попыток использовать результаты
из этой области к проблеме создания AGI. Однако представляется
возможным, что подход к AGI со стороны именно математики
и крмпьютерных наук является наиболее естественным,
поскольку возникновение самих компьютеров как машин, способных
эмулировать любой автомат, обязано развитию теории
алгоритмов, а создание систем AGI, способных находить алгоритм
решения любой разрешимой задачи, может быть обязано
компьютерным наукам, систематическое применение результатов
изысканий которых к AGI представляется актуальным.
Цитата:
Однако ИИ порой рисуется не как чудо инженерной и научной
мысли, спроектированное и воплощенное от начала
и до конца кем-то конкретным в виде интеллектуального
агента или робота, а как нечто, что возникает само по себе.
Конечно, было бы крайне наивно полагать, что ИИ может
возникнуть сам на пустом месте. Но если создать подходящие
условия, это вполне может произойти, ведь и человеческий
разум возник эволюционно, а не в результате проектирования.
Неудивительно, что и в рамках ИИ существует целое направление
эволюционных алгоритмов, подражающих биологической
эволюции.
Безусловно по мере развития будут придуманы не один десяток алгоритмов эмулирующих те или иные аспекты человеческой деятельности и вероятно они будут на много эффективнее и лаконичнее чем это реализовывала природа, но это путь трудоёмкий, всё же хотелось бы изобрести какой то автоматический способ порождения алгоритмов, пускай боле затратный по ресурсам и дающий сами алгоритмы на много менее качественные по структуре.
Цитата:
Может ли
общий ИИ воплотиться в форме сети взаимодействующих друг
с другом алгоритмов ограниченной сложности или в форме
коллективного разума агентов с ограниченным уровнем интеллекта,
взаимодействующих через интернет?
Цитата:
Мы снова и снова наблюдаем за тем, как разработчики ИИ,
находя работающее при некоторых условиях решение, делают
предположение, что при вложении немного больших усилий
и немного большего объема данных это решение заработает
при любых условиях. Точно так же и разработчики роботов
делают предположения, что решения, найденные для узкой
задачи управления положением тела в среде, заработают при
любых условиях. А это совершенно необязательно так.
В направлении трансферлйрнинга нужно ещё капать и копать, мы пока только на старте. По идее в общей системе вся иерархия модулей распознавания на каждом уровне все модальностей и проективных зон, должны быть так или иначе доступны в процессе поиска. Это нужно так как не смотря на "большое разнообразие" сенсорного опыта, порождающие его законы физики достаточно лаконичны и в этом всём разнообразии крайне много подобий, так что вполне вероятно найти решение(распознать структуру) ища подобные "логики" вообще во всём опыте всех структурах мозга.
Цитата:
Если для того, чтобы заменять
АGI-системами живых работников, то, наверное,
пригодится стиль мышления, похожий на человеческий.
Но если мы хотим, чтобы общий искусственный интеллект
помог человечеству решить проблемы, с которыми оно пока
не справляется, вряд ли стоит загонять его в рамки «человекообразности
».
Наверно под этим "общим ИИ" следует понимать именно такой процесс поиска аналогий в имеющихся инструментах\навыках.
Цитата:
Известный парадокс Маравека говорит о том, что компьютер
проще научить играть в шахматы лучше, чем это делают люди,
чем научить робота (и тот же компьютер) ловить мячик.
Происходит это потому, что наш физический мир основан
на невероятно сложных, но понятных нам законах. Эти же законы
мы должны тщательно записать в понятную компьютеру
форму, чтобы он смог повторить хоть что-то из того, что доступно
для детей.
Да, моторные навыки во многом заложены генетически, десятками миллионов лет эволюции, в раннем детстве мы их только "уточняем", очень многие "естественные" а потому как бы "простые" навыки, оказываются очень сложными.
Цитата:
Метаэвристика - это эвристика, не опирающаяся явно на специфику
конкретной задачи, но при этом часто неruюхо работающая во многих
задачах. В играх в качестве метаэвристики может выступать правило:
«Предпочитай ход, после которого у соперника остается меньше альтернативных
ходов», - которое не ссылается на правила игры и которое работает
часто, но не всегда. В задачах поиска скрещивание решений -это
тоже метаэвристика.
Эвристики и метаэвристики ИМХО результат способности мозга многократно обобщать опыт на разных уровнях, строить модели-моделей и тд.
Цитата:
Было бы здорово смоделировать процесс эволюции какого-то
виртуального мира на компьютере, где искусственные существа
будут эволюционировать и умнеть.
Но эволюция шла миллиарды лет и затрагивала миллионы
видов и неисчислимое количество особей, существовавших
одновременно, и даже на компьютере, где мы можем
«сжать» сутки и годы, это все равно займет очень много времени.
Либо же нам придется делать эволюцию гораздо более
«умной», но будет ли разработка умной эволюции проще, чем
сразу умного интеллектуального агента?
Да, это вопрос на ттриллион$. Однако может имеет смысл сделать что то гибридное? Некоторые части будет "захардкоженные", некоторые эволюционные и тд.
Цитата:
Один из наиболее интересных (и значимых в контексте
AGI) вопросов, которые могут быть постамены в рамках напрамения
«искусственная жизнь», - это вопрос о том, в любом
ли мире мог возникнуть интеллект? Не в плане физической
выживаемости, а в плане условий для выбора, которые
ставит среда. Судя по экспериментам на виртуальных мирах,
подходящий мир не должен быть слишком простым (в этом
случае будет слишком мало условий для развития) или слишком
сложным (если найти закономерности, на которых можно
выстроить эффективное поведение, будет слишком трудно или
невозможно, то агенту выгоднее выбрать случайное поведение).
В идеале он должен постепенно усложняться - как постепенно
усложняются условия в процессе обучения ребенка.
Вот!!! Вот где альфа и омега возникновения СИИ! Очень специфическая форма обучения,к которая иерархически от простого с сложному выстраивает "модели мира", плюс способность системы самой усложнять архитектуру модели в ответ на усложнение обучающей выборки.
Цитата:
Искусственная жизнь дает более конкретное понимание того,
как интеллект мог возникнуть в процессе эволюции. Но в то же
время эксперименты в этой области делают очевидным тот
факт, что эволюционное соэдание AGI с нуля - вычислительно
невыполнимая задача.
Не факт, нужно хотя бы понять её масштаб и что можно подправить костылями.
Цитата:
Возможно, создание гибридного общего ИИ можно сравнить
с проектом по созданию первой атомной электростанции или
запуском человека в космос, что требовало координированных
усилий большого числа ученых и инженеров.
Примерно так, но наверно более масштабно, в АЭС и космосом принцип был уже понятен, осталось просто много инженерной работы (понятного непонятного), а в СИИ многое ещё не понятно(непонятное непонятное), что может растянуть сроки как на десятки так и на сотни лет.
Цитата:
В частности, концепция «Общества разума» Марвина Минского
-одного из ученых, стоявших у истоков ИИ, - предполагает,
что интеллект человеческого уровня может проявляться
как сложное целое, возникшее при взаимодействии более простых
агентов, каждого из которых нельзя назвать разумным.
В целом так, но это видимо не просто синергичная система из десятков-сотен микросистем, но и ряд мета-систем, которые специфическим образом порождают целое.
Цитата:
Один из немногих экосистемных проектов, принимающих
во внимание цель создания общего ИИ, - это проект по разработке
ПJ;�атформы с открытым кодом SingularityNET.
Да нет, это какието бырыги щиткоинами.
Цитата:
Но в связи с популярностью глубокого обучения основное внимание
при разработке ИИ уделяется лишь одной области нейронауки
- коннектомике.
Суть ее заключается в том, чтобы изучать мозг как систему,
каждая часть которой как-то связана с другой, и пытаться воссоздать
эти системы связей на разных уровнях. Направление
коннектомики под названием Whole Brain Emulation (WBE),
то есть «полная имитация мозга», можно считать альтернативой
AGI - вместо того чтобы создавать продвинуrый ИИ
с нуля, мы могли бы оцифровать человеческий мозг и воссоздать
его работу на компьютере во всех деталях.
Сами по себе исследования мозга - затея парильная и перспективная, если исследовать малые фрагменты, пытаться понять принципы, но весь мозг "оцифровать" ИМХО что то фантастическое.
Цитата:
С точки зрения AGI нейронауки можно использовать как
источники новых данных и принципов для программного обеспечения.
Основные преимущества такого подхода заключаются
в том, что благодаря исследованиям мозга возникают математические
модели, которые описывают электрохимические
процессы, происходящие в нейронных цепях, и ограниченные
симуляции разных участков коры, а также помогают лучше
понять происходящие в мозге процессы (и, соответственно,
искусственно смоделировать их при необходимости).
Цитата:
Все психические процессы, включая обработку информации,
являются i3амкнутыми внутри нейронного комплекса мозга,
а потому оценка возникающей в мозге информации ( ее усложнение)
осуществляется исключительно через акт соотнесения
одной информации с другой, а сам мозг реагирует не на объект
реальности как таковой, а на то, как он соотносится с другой
информацией, находящейся в мозге.
Цитата:
Мозг человека не создает модель реальности всякий раз заново,
он пользуется той моделью, которая формировалась
и редактировалась на протяжении всей его жизни. То есть,
по сути, при столкновении с новой информацией он всегда
основывается на своем прежнем опыте, на уже сделанных им
выводах. Собственно принцип аппроксимации до сущности
заключается в том, что мозг как бы уже всегда знает, с чем он
может встретиться (часть соответствующих знаний, как уже
было сказано, являются генетически предопределенными,
другая -накопленным опытом), и формирует новое знание
только в том слуqае, если оно противоречит существующим
моделям и не схватывается ими.
Тоже вполне себе интересный механизм, нечто подобное SVM когда обучение идёт в основном по граничным элементам обучающей выборки.
Цитата:
Но на практике этот образ применяется как рекламный плакат
для привлечения финансирования с целью форсированного
внедрения систем ИИ частного назначения, зачастую эффективных,
но все еще не способных реш;�ть широкий круг задач.
И можно понять, почему это происходит. Во-первых, предполагается
(скорее всего, ошибочно), что процесс внедрения систем
узкого ИИ двигает нас в направлении общего интеллекта
и в перспективе приведет к появлению AGI эволюционным
путем без специальных усилий. А во-вторых, области приме-
нения общего искусственного интеллекта довольно трудно
очертить в силу его сложности и универсальности: придумать
и построить специализированные системы намного легче.
Движет движет и когда нибудь таки приведёт к СИИ, но с усилиями, странно слышать "эволюционно, без специальных усилий", эволюция это квинтэссенция усилий, сухой остаток из миллионов попыток и тупиковых решений.
Цитата:
AGI - универсалистский подрывной подход к искусственному
интеллекту «сверху», ориентированный на реи�ение
задачи рекурсивного самообучения, моделирования мира
и обобщения знаний и навыков из разных сфер и ситуаций.
Не, "сверху" не прокатит, только снизу, конечно мы люди имеем чуток больше скилов чем обычный стохастический поиск, но это всё полностью нивелируется вычислительными мощностями как наших мозгов так и нашей техники пока.
Цитата:
Для его создания и развития важно создавать фреймворки
и комплексы баз данных и алгоритмов, пригодных для работы
с универсальным представлением знаний, проведения
операций с цепочками причинно-следственных связей
и совершения логического вывода над представлениями.
Не думаю, это путь подобный экспертным системам, онтологиям и тп. Что то типа как Вольфрам Математика, это конечно круто, но это ручной труд который очень ограничен, а нужно сделать на много порядков больше, это никакая команда не потянет, хоть всех людей запряги, а тогда работа станет из за не эффективности работы в командах таких размеров.
Цитата:
Этот подход должен быть нацелен на достижение стратегического
результата - получение функциональной системы,
способной производить рассуждения над экосистемой узких
ИИ.
Всё так, но это не просто черные ящики должны быть, а построенные по похожим принципам узкие ИИ, чтобы они друг у друга могли дёргать подсказки и паттерны, если скрестить экспертную систему с нейросеттью и шахматной программой, это не очень хороший гибрид будет.
