Форум создателей искусственных интеллектов

Последняя порция коментов к книжке СИИ На подступах к сверхразуму - 2021 В отличии от "обучения с подкреплением"(RL) в обычном ML у человека это происходит не совсем так. ИМХО у человека как и у животных во первых есть достаточно много, так скажем "предрасположенностей" на уровне архитектуры мозга, залоенной в ДНК, а также инстинктивных стимулы которые мотивируют их развивать. Что то типа как будто есть фундамент постройки и грубый план а строить и детализировать приходится самому уже в процессе научения. А есть ли отличие??? Что мы понимаем под "обнаруживает"? Есть неплохая книженция на тему, называется "Исследование психологии процесса изобретения в области математики" там про эвристики человеческого поиска, конечно у человека есть много разных "рецептов" просто "глубокой" сетке далеко пока что до этого, но делятся они как правило на две категории, собственно аппроксимация, или как её ещё называют "интуиция" и разного рода "мыслительные"(символьно-комбинаторные) методы, всё это со временем реализуемо алгоритмически. LOL Многие СИИ — пессимисты и гуманитарии, почему то это "мета-программирование" используют как аргумент того что мол "нельзя создать СИИ алгоритмически", сразу видно что код такие критики не писали никогда, это элементарно, особенно в высокоуровневых ЯП, а любой ML в своей сути это алгоритм который порождает алгоритмы на основе обучающей выборки. Извлечь и объяснить две, как правило разные задачи, если задача сложная то и человек часто будет не в состоянии доходчиво объяснить как пришел к решению и почему именно так а не 100500 другим способом. Безусловно по мере развития будут придуманы не один десяток алгоритмов эмулирующих те или иные аспекты человеческой деятельности и вероятно они будут на много эффективнее и лаконичнее чем это реализовывала природа, но это путь трудоёмкий, всё же хотелось бы изобрести какой то автоматический способ порождения алгоритмов, пускай боле затратный по ресурсам и дающий сами алгоритмы на много менее качественные по структуре. В направлении трансферлйрнинга нужно ещё капать и копать, мы пока только на старте. По идее в общей системе вся иерархия модулей распознавания на каждом уровне все модальностей и проективных зон, должны быть так или иначе доступны в процессе поиска. Это нужно так как не смотря на "большое разнообразие" сенсорного опыта, порождающие его законы физики достаточно лаконичны и в этом всём разнообразии крайне много подобий, так что вполне вероятно найти решение(распознать структуру) ища подобные "логики" вообще во всём опыте всех структурах мозга. Наверно под этим "общим ИИ" следует понимать именно такой процесс поиска аналогий в имеющихся инструментах\навыках. Да, моторные навыки во многом заложены генетически, десятками миллионов лет эволюции, в раннем детстве мы их только "уточняем", очень многие "естественные" а потому как бы "простые" навыки, оказываются очень сложными. Эвристики и метаэвристики ИМХО результат способности мозга многократно обобщать опыт на разных уровнях, строить модели-моделей и тд. Да, это вопрос на ттриллион$. Однако может имеет смысл сделать что то гибридное? Некоторые части будет "захардкоженные", некоторые эволюционные и тд. Вот!!! Вот где альфа и омега возникновения СИИ! Очень специфическая форма обучения,к которая иерархически от простого с сложному выстраивает "модели мира", плюс способность системы самой усложнять архитектуру модели в ответ на усложнение обучающей выборки. Не факт, нужно хотя бы понять её масштаб и что можно подправить костылями. Примерно так, но наверно более масштабно, в АЭС и космосом принцип был уже понятен, осталось просто много инженерной работы (понятного непонятного), а в СИИ многое ещё не понятно(непонятное непонятное), что может растянуть сроки как на десятки так и на сотни лет. В целом так, но это видимо не просто синергичная система из десятков-сотен микросистем, но и ряд мета-систем, которые специфическим образом порождают целое. Да нет, это какието бырыги щиткоинами. Сами по себе исследования мозга - затея парильная и перспективная, если исследовать малые фрагменты, пытаться понять принципы, но весь мозг "оцифровать" ИМХО что то фантастическое. Тоже вполне себе интересный механизм, нечто подобное SVM когда обучение идёт в основном по граничным элементам обучающей выборки. Движет движет и когда нибудь таки приведёт к СИИ, но с усилиями, странно слышать "эволюционно, без специальных усилий", эволюция это квинтэссенция усилий, сухой остаток из миллионов попыток и тупиковых решений. Не, "сверху" не прокатит, только снизу, конечно мы люди имеем чуток больше скилов чем обычный стохастический поиск, но это всё полностью нивелируется вычислительными мощностями как наших мозгов так и нашей техники пока. Не думаю, это путь подобный экспертным системам, онтологиям и тп. Что то типа как Вольфрам Математика, это конечно круто, но это ручной труд который очень ограничен, а нужно сделать на много порядков больше, это никакая команда не потянет, хоть всех людей запряги, а тогда работа станет из за не эффективности работы в командах таких размеров. Всё так, но это не просто черные ящики должны быть, а построенные по похожим принципам узкие ИИ, чтобы они друг у друга могли дёргать подсказки и паттерны, если скрестить экспертную систему с нейросеттью и шахматной программой, это не очень хороший гибрид будет.

А нет четкого однозначного ответа, есть нечеткий и многозначный, который по большей части присутствует в потоке моих вопросов и ответов в этой теме. Препятствий на самом деле много, во многих контекстах и даже сложно определить какая из проблем - "главная", возможно конечно как то их отсортировать, но решив самую насущную проблему насущной станет следующая в очереди а очередь длинная. ИМХО самое слабое звено во всем движении к СИИ — как говорится "человеческий фактор", то есть масса всякой херни, связанная с мотивацией и организацией коллективов, а также с банально очень ограниченными возможностями отдельного человеческого ЕИ, то про что говорил ув. DVC. Увы как отдельный человек так и цивилизация в целом движется бабками и волей моды и "трендов" как сейчас говорят, интерес и финансирование тех или иных областей технологий то взлетает до небес то падает в ноль и тд. А тут придётся вложить триллионы$, не меньше чем как разработать атомную бомбу с нуля или полететь на Луну, это не по силам пока никому. Да и вообще не факт что это сейчас выйдет даже с триллионами инвестиций. По приказу не изобрести десятки новых алгоритмов уровня бэкпропагейшина в нейросетках, это происходит рандомно энтузиастами в гаражах и клерками из патентных бюро. Так что придётся тупо ждать пока не накопится критическая масса технологий, а к тому времени и компы раз так в тысячу пошустреют, а может в миллион и можно будет играться с многомиллионными нейростеками в реалтайме. А пока будут делаться разные фейки, подгонки, симуляторы отдельных способностей, или комплекса способностей, это тоже хорошо. Ведь что такое СИИ — как не элегантно организованное и управляемое множество ИИ с помощью другого множества ИИ, но пока нет возможности комфортно работать с такими системами, не тянет железо.

Я вообще не сторонник концепции "алгоритма СИИ", в том смысле что нет некого чудо алгоритма который скрывается в недрах мозга, который является этаким краеугольным камнем "сознания". Природа создала нейрон, сети нейронов и алгоритмы их "обучения" методом тыка, стохастической оптимизацией, для начала стоило бы хотя бы попробовать пойти тем же путём. Я не говорю про то чтобы сразу моделировать мозг человека, это абсурд. Но понять как "методом тыка" может возникнуть самые простые организации нейросетей из сотен нейронов. До сих пор этого сделано не было. Ведь вся суть чтобы алгоритмы обучения сетей сеть сама создавала, а не пытаться их найти как либо математически, искусственно, может получится, а может и нет, а может получится но алгоритм хреново масштабируется, как бэкпроп.

Нет, Вы ошибаетесь. RL это подмножество ML, точнее форма использования ML. "Поведение" или картинка\вектор, не имеет никакого значения для алгоритма классификации\регрессии. Временная задержка при формировании ответа среды, не играет роли, в результате пара действие =>ответ превращается в семпл фича-таргет, а (до)обучение идёт в реалтайме, вот и всё отличие.

Не ну цаца(GPT) прикольная, свои пару миллиардов конечно заработают, есть куда приткнуть в поисковиках и тп., вообще можно сказать вполне знаковое достижение, на подобии как выиграть в шахматы у чемпиона человека в первый раз, или потом Го. Тексты пишет вполне достойные, беседовать можно, тест Тьюринга пройден, даже удивительно что достигнут такой результат ТОЛЬКО ИЗ ТЕКСТА(тренировки исключительно на тестовых корпусах). Но думаю самое интересно ещё впереди и это гибридно-проективные системы, образно-текстовые, когда имеется СМЫСЛ, то есть интерпретация запроса идёт не текст →текст, а текст→образ → текст.

Математика ИМХО — ближе к текстам, думаю такие новые штучки как GPT тут хорошо сработают.

Нет, тут Вы ошибаетесь, GPT – чисто текстовая молотилка, в неё как раз сенсорномоторный опыт не воткнёшь принципе, там нет промежуточной "проекции", то есть ОСМЫСЛЕНИЯ, преобразования текста в образ, а потом решения задачи на уровне образов, и описания этого образа в тестовом виде. Некоторые задачи(большинство) решаются на уровне образов, так проще, некоторые чисто формально, путем логического вывода, хотя чаще всего даже формальные задачи задействуют образный движок, а потом просто дорабатывают результат до формального вида. Советую почитать интересную книжку "Исследование психологии процесса изобретения в области математики".

Что значит, "модели мира, где в базисе идёт физика"? А смысл? Идея понятна, можно нагенерить много данных для обучения, но разве их мало, с реала?

А почему это должно дать принципиальную подвижку в движении к СИИ? Технически мультимодальность это всего то дополнительные компоненты вектора с других сенсоров или каких либо модулей трансформации, прошедших некие процедуры фичаинжиниринга. Это по идее может улучшить качество обучения и распознавания, но суть и вероятно результаты процесса существенно не поменяется.

На мой взгляд тема "элементарного интеллекта" изъезженна вдоль и поперёк всеми, есть несколько полюсов мнений на этот счет. Первый, с одной стороны, назовём его "кибернетический", в том что "интеллект" это любые логические операции, начиная с базисных <и, не> и всё комплексное, производное, что может реализовано на МТ. (все помнят что на МТ с помощью <и, не> можно реализовать любые функции(поведение, логику и тп)). В этой концепции калькулятор — интеллектуален. Второй, с другой, назовём его "антропоморфный", про то что "интеллект" как минимум должен пройти ТТ, да ещё и обладать базовым "сенсорно-моторным опытом" человека, "здравым смыслом", "самосознанием" и тп. В общем "функциональным аналогом человека" по Луарвику. В этой концепции пока и вероятно всегда останется интеллектуальным, только человек. Ну и континум между этими двумя кластерами, который можно поделить как угодно. Здесь никогда не будет консенсуса, так как даже среди людей, в зависимости от опыта и образования, не все будут друг друга считать носителями интеллекта. Тут мы уходим в дебри психологии, социологии и даже политики, где всё может значительно отрываться от реальности. Если взглянуть в прошлое, то можно вспомнить что было время, когда только ученые занимались счетом и математическими операциями(особенно с римскими цифрами), это было очень интеллектуально. Тоже касается многих аспектов умственной деятельности, ремёсел и тп. Очевидна идея о том, что вообще всё что могут многие, или тем паче можно автоматизировать, запрограммировать, становится, задним числом, не интеллектуально. "Интеллектуальна" та логическая деятельность что ценна(редка и ликвидна)\статусна, которая приносит выгоду её обладателям. Как только нечто становится доступно, ставится на конвеер, оно перестаёт быть интеллектуальным. Потому в качестве окончательного критерия интеллектуальности, можно установить логический процесс генерирующий инновации, открывающий об окружающем нас мире и нас самих, новые закономерности, помогающие нам счастливо жить и процветать. Что в ряд ли может относиться к "элементарному интеллекту", но скорей всего это было бы наиболее консенсусное мнение.

Интеллект, просто интеллект, не искусственный, это штука агрегатная, консенснусная, как "красота" или "гармоничность". Люди решают в конце концов, кто\что интеллектуально, а что нет и суждения об этом меняются со временем, в зависимости от того, является ли некие манипуляции с данными, хоть в чем то ценными, то есть нужными и не легкодоступными. Поэтому какой бы вы алгоритм не создали, сам факт того что это алгоритм, уже как бы лишает некоторой магии интеллектуальности, то что он делает. Даже если алгоритм откроет новую математическую теорему, докажет, или поможет найти новое лекарство, не смотря на явную выгоду, всё равно такой результат поначалу будет чуток пованивать чем то механическим, переборным. Как игра в шахматы перестала значиться как особо интеллектуальной, после того как алгоритм победил человека и в последствии этот душок обычно только усиливается. Поэтому чтобы не угодить в трясиину всякой рандомной социальщины, лучше бы сосредоточиться на чисто технических требованиях, что на вход что на выход, юзер кейсы и тп. Не так важно что кто-то не согласится с вами, интеллектуальна ли некоторая система или нет, если она будет хоть в чем то полезна, это уже победа.

Формально "Это алгоритмы создания алгоритмов" это любой ML алгоритм, например kNN, или даже мапа(ключ-значение) со вводом-выводом, которая заполняется обучающей выборкой и меняет свою логику в ответ на запросы. Я понимаю, что Вы закладываете вероятно другой смысл, какой нибудь хайповый, например GPT и тп. в зависимости от того что сейчас в тренде. Но обосновать формально эту позицию невозможно, так как опирается она на эмоции, на то что "круто", что есть у богатых а нет у бедных. LLM в виде GPT как работает понять не сложнее чем MLP, есть же официальные статьи и пересказы "на пальцах" на хабре и тп. Другое дело в полной мере поиграться лично, пока нет возможности, из-за ресурсоёмкости обучения таких алгоритмов, разве что на игрушечных примерах. Но вероятно вскоре появятся специализированные платы для работы с нейросетями, чтобы не извращаться с графическими картами, как это было на заре крипто-майнинга и дело пойдёт шустрее. Кроме того сам GPT-Х не факт что останется на долго, вначале с такого рода данными пытались рекурентными сетями одолеть, утверждали что только так и не иначе, потом тупо в почти MLP влупили, с небольшими костыликами("внимание" и тп.), это — целина, ещё многие десятилетия будут выдумывать всякие новшества или даже сотрясать основы. Я предложил наиболее консенсусный вариант, точнее описал каковы причины того почему этого консенсуса не удается достичь. Лично моя точка зрения где-то ближе к тому что "сливной бачек- элементарный ИИ", но я её никому не навязываю))

А вот это очень интересная тема!

Сори, не верно интерпретировал контекст. Вы про github.com/mxgmn/WaveFunctionCollapse, а я думал вы "глубоко философски" ассоциировали идею "мгновенного" возникновения интеллекта из суммы составляющих, на подобии как меняется модель физического описания кванта при измерении. С алгоритмом WFC ознакомился, всё довольно прозаично и знакомо, марковские цепи, клеточные автоматы, было время тоже фанател с клеточных автоматов. Вообще, я заметил, алгоритмы которые дают генеративные сложные результаты, особенно в привычных человеку модальностях(картинки, звук, текст), оказывают чарующее и гипнотическое воздействие, кажется что раскрыты какие то глубинные тайны вселенной, вспоминаем например фракталы Мандельброта, генерируемые формулой в одну строчку))). Марковскими цепями пытались сделать первые LLМ кстати, но получался даже не бред, а тн. "словесная окрошка" в психиатрической терминологии. Сейчас на нейросетках конечно слова складываются достаточно ладно и как будто бы смысл есть, но в реальности это действительно нечто похожее на WFC, только логика генерации токена по контексту, более навёрнутая. Есть в неврологии расстройство похожее, не помню название читал в книжке "Человек который принял жену за шляпу", когда человек говорит вроде складно, но совсем не понимает о чем, разорвана связь текста и других моддальностей на что он указывает. Но спасибо за алгоритмик, ещё и на С#, слава Иисусу что не на пайтоне)))

Да, тема интереснейшая, жаль нет много свободного времени что бы окунуться глубоко в неё.(((

Итак, в сухом остатке: Узость современных ИИ-систем: Большинство решений эффективно работают только в рамках узких задач, что ограничивает их универсальность.

спойлер

Современные системы искусственного интеллекта (ИИ) в большинстве случаев разрабатываются для решения специфических, узких задач. Это делает их эффективными в четко определенных условиях, но ограниченными при попытке применить их за пределами этих условий. Такой ИИ называют узким ИИ (Narrow AI). Например распознавание лиц — отлично работает в системах видеонаблюдения, но не может, например, распознать жесты или эмоции того же человека. Автопилоты — могут уверенно вести автомобиль на дороге, но не понимают социальные сигналы водителей (например, уступающий жест рукой). Переводчики — грамотно переводят тексты, но часто не распознают контекст или эмоциональную окраску высказывания. Системы рекомендаций — успешно предлагают товары или фильмы, но не способны учитывать сложные личностные предпочтения или эмоциональное состояние пользователя. Эти системы основаны на обучении с использованием больших объемов данных, но каждая система строго ограничена своей специализацией. Это это проблема так как: слабая адаптивность, системы требуют полной перенастройки при изменении условий или переходе в новую среду, ограниченные знания, узкий ИИ не способен обобщать знания или переносить их на смежные задачи. Проблемы с непредвиденными ситуациями, такие системы плохо реагируют на условия, не предусмотренные в обучающей выборке, высокие затраты на разработку, каждая новая задача требует значительных ресурсов на обучение и настройку. Пример провала узкого ИИ В 2016 году чат-бот Tay от Microsoft, обучавшийся на данных из социальных сетей, за сутки начал генерировать, о ужас, неуместные и агрессивные высказывания. Это произошло из-за узости модели, которая не понимала контекст и не могла корректировать своё поведение. Для преодоления проблемы необходим переход к гибридным и универсальным методам. Например тн. метаобучение (Meta-learning), когда системы, которые учатся учиться, адаптируясь к новым задачам на основе прошлого опыта. Обучение с малым количеством данных (Few-shot и Zero-shot learning): Позволяет системам эффективно решать новые задачи, используя ограниченные примеры. Комбинация методов: Интеграция нейросетей, символических методов и алгоритмов адаптации для повышения гибкости.

Ограниченные методы обучения: Системы требуют больших объемов данных и не способны адаптироваться к новым условиям без полной перенастройки.

спойлер

Современные системы искусственного интеллекта впечатляют своими возможностями, но их развитие наталкивается на серьезную проблему — ограниченные методы обучения. Большинство популярных ИИ-моделей требуют огромных объемов данных и дорогостоящих вычислений. При этом, столкнувшись с новой задачей или изменением условий, такие системы зачастую не могут адаптироваться без полной перенастройки. Проблема особенно заметна в реальных приложениях. Например, система компьютерного зрения, идеально распознающая лица на стандартных фотографиях, может легко сбиться при плохом освещении или необычном ракурсе. Чат-боты, отлично ведущие диалог в привычных темах, теряются при столкновении с нестандартными вопросами. Даже продвинутые системы вроде AlphaGo демонстрируют высокий уровень только в строго определенных условиях, но требуют полного переобучения для решения задач с незначительно измененными правилами. Такая зависимость от данных делает развитие ИИ дорогостоящим и медленным. Однако есть перспективные направления, которые способны решить эту проблему. Один из них — обучение на малом числе примеров (Few-shot learning). Эта методика позволяет системе адаптироваться к новым задачам, используя всего несколько примеров. Другой подход — обучение без примеров (Zero-shot learning) — позволяет ИИ обобщать знания и справляться с задачами, на которых он ранее не обучался. Еще более мощной концепцией является метаобучение (Meta-learning) — своего рода «обучение обучаться». Такие системы не просто осваивают конкретные задачи, а развивают стратегии адаптации, корректируя свои методы обучения под новые условия. Это открывает путь к созданию гибких, самонастраивающихся ИИ-систем, способных работать в сложных и непредсказуемых средах. Для ускорения развития этих технологий активно используются синтетические данные — искусственно созданные наборы примеров, которые позволяют моделировать редкие или опасные ситуации (например, поведение беспилотников в аварийных условиях) без риска для людей. В ближайшие годы именно сочетание этих подходов может стать ключом к созданию по-настоящему адаптивных и универсальных систем ИИ, способных решать широкий круг задач без постоянной перенастройки и бесконечного наращивания данных.

Проблема привязки символов: ИИ не способен полноценно соотносить абстрактные понятия с реальной действительностью и как следствие отсутствие моделей здравого смысла: Современные ИИ не понимают физический мир и контекст событий.

спойлер

Одна из ключевых проблем на пути к созданию действительно интеллектуальных систем — это проблема привязки символов (Symbol Grounding Problem). Современные ИИ-модели хорошо оперируют словами, цифрами и прочими символами, но зачастую делают это без настоящего понимания их значения. ИИ может успешно обрабатывать текст или генерировать логичные ответы, но он не «понимает» их так, как это делает человек. Представьте себе чат-бота, который уверенно отвечает на вопросы о погоде. Он знает, что «дождь» связан со словами «зонт», «гроза» и «влажность», но не понимает, что дождь — это физическое явление, которое делает улицы мокрыми и людей промокшими. Его знания основаны на статистике совпадений слов, а не на реальном опыте или интуитивном понимании мира. Эта проблема особенно заметна в задачах, где требуется здравый смысл или связь понятий с физической реальностью. Например, попросите ИИ объяснить, как правильно поставить стакан на стол, чтобы он не упал. Хотя модель может предложить правильный ответ, она не обладает реальным представлением о гравитации, равновесии или свойствах поверхности. Основная причина этого — отсутствие в нейронных сетях встроенной «модели мира». Люди формируют знания через опыт: мы видим, как объекты взаимодействуют, запоминаем последствия и делаем выводы. Современные ИИ-модели, напротив, обучаются на текстах, изображениях или данных без физического контакта с реальным миром. Решение этой проблемы — одно из важнейших направлений в развитии ИИ. Один из подходов — обучение моделей с использованием мультимодальных данных (например, сочетание текста, видео и сенсорной информации), что помогает системе соотносить слова с физическими объектами и их свойствами. Еще одно направление — развитие обучения с воплощением (embodiment), где ИИ взаимодействует с реальным или виртуальным миром, обучаясь через практический опыт, как это делает человек. Без решения проблемы привязки символов ИИ так и останется мощным инструментом для узких задач, неспособным по-настоящему «понимать» мир. Прорыв в этой области станет важным шагом на пути к созданию по-настоящему универсального искусственного интеллекта.

Эволюционный тупик: Надежда на «саморазвитие» ИИ через накопление данных и вычислительных мощностей показала низкую эффективность.

спойлер

За последние годы развитие искусственного интеллекта часто шло по пути наращивания вычислительных мощностей и увеличения объемов данных. Эта стратегия дала впечатляющие результаты: языковые модели, такие как GPT, демонстрируют поразительные навыки генерации текста, а системы компьютерного зрения достигают точности, близкой к человеческой. Однако эта гонка за масштабом столкнулась со своими пределами — ожидания, что ИИ «саморазовьется» за счет больших данных и мощных серверов, не оправдались. Главная проблема в том, что накопление данных не решает базовых проблем понимания и адаптивности. Современные нейросети обучаются выявлять закономерности в огромных наборах данных, но при этом не приобретают реальных знаний о мире. Например, модель может запомнить миллионы примеров диалогов, но всё равно не поймёт, почему в ответ на вопрос «Где взять зонт?» уместно ответить «Посмотри в прихожей», а не «Зонт — это предмет, защищающий от дождя». Кроме того, увеличение данных и мощности делает обучение дорогим и ресурсозатратным. Модель GPT-3 от OpenAI, например, обучалась на сотнях миллиардах параметров, что потребовало затрат энергии, сравнимых с тем, что потребляет небольшой город за несколько недель. Однако даже такие мощные системы могут ошибаться в простых задачах, если те выходят за рамки шаблонных данных. Проблема особенно заметна в условиях нестандартных или неожиданных ситуаций. Автопилот может уверенно управлять автомобилем на ровной трассе, но столкнется с трудностями, если на дороге окажется сломанный светофор или неожиданное препятствие. Простое увеличение данных не научит систему гибко адаптироваться к таким условиям.

Отсутствие эффективных универсальных метрик: Существующие тесты не отражают уровень интеллекта систем в широком спектре задач.

спойлер

На данный момент в области искусственного интеллекта существует множество различных метрик для оценки работы систем, однако ни одна из них не является универсальной и не отражает реальный уровень интеллекта ИИ в широком спектре задач. Большинство современных тестов, таких как Turing Test или различные специализированные benchmark'и, оценивают ИИ в узком контексте, что ограничивает их возможности и не позволяет полноценно оценить способность системы к адаптации и решению разнообразных задач. Одной из основных проблем является то, что существующие метрики часто ориентированы на решение определённых узкоспециализированных задач. Например, тесты, связанные с играми (шахматы, го), прекрасно измеряют способности ИИ в этих конкретных областях, но не дают представления о том, насколько эффективно такая система будет работать в других, менее структурированных ситуациях, таких как взаимодействие с людьми или анализ сложных многозадачных сценариев. Второй важный момент заключается в том, что современные тесты, как правило, не учитывают факторы, такие как способность к обучению, самосовершенствованию или взаимодействию с окружающей средой. ИИ может продемонстрировать впечатляющие результаты в заранее заданных условиях, но его реальная ценность заключается в способности адаптироваться и учиться на основе опыта, что крайне сложно оценить с помощью традиционных тестов. Ещё одной проблемой является отсутствие учета этических и социальных аспектов интеллекта. Вопросы, связанные с безопасностью, прозрачностью алгоритмов, а также с возможностью интеграции ИИ в различные социальные и экономические процессы, требуют создания совершенно новых метрик, которые смогут комплексно учитывать все эти важнейшие аспекты. На данный момент существующие тесты фокусируются преимущественно на вычислительных или когнитивных аспектах. Кроме того, существует риск, что слишком узкая спецификация тестов может привести к созданию "специализированных" ИИ, которые кажутся очень умными в одной области, но не могут решить задачи за её пределами. Например, ИИ, оптимизированный для распознавания изображений, может легко обрабатывать фотографии, но окажется бесполезным в более сложных и разнообразных ситуациях. Таким образом, для того чтобы в будущем ИИ был по-настоящему универсальным инструментом, необходимо разработать новые метрики, которые смогут оценить интеллект машин в широком контексте, включая способность к обучению, адаптации и решению комплексных задач. Это потребует междисциплинарного подхода и интеграции знаний из различных областей: когнитивных наук, этики, социологии и других.

Сложность создания когнитивных архитектур: Требует значительных научных усилий и междисциплинарного подхода.

спойлер

Создание когнитивных архитектур, то есть моделей искусственного интеллекта, которые имитируют работу человеческого разума, является одной из самых амбициозных и сложных задач в области ИИ. В отличие от узкоспециализированных систем, которые решают конкретные задачи, когнитивные архитектуры должны обладать способностью к обобщению, адаптации и многозадачности, что требует значительно более глубоких и сложных подходов. Основной трудностью в создании таких архитектур является необходимость объединения знаний из разных научных областей. Когнитивные архитектуры, как правило, стремятся моделировать не только процессы восприятия и обучения, но и более высокоуровневые аспекты, такие как принятие решений, планирование, внимание, память и даже эмоциональные реакции. Для этого необходимо сочетать методы психологии, нейробиологии, нейросетевых технологий и теорий познания, что требует интеграции множества дисциплин, порой с диаметрально разными подходами. Кроме того, такие архитектуры должны учитывать множество факторов, включая нестабильность окружающей среды и неопределенность, с которой сталкиваются люди. Это делает задачи, стоящие перед разработчиками когнитивных систем, ещё более сложными. Например, необходимость интеграции сенсорных данных, социальных факторов и контекстной информации требует более гибких и адаптивных моделей, которые смогут работать в реальных условиях, а не только в контролируемых экспериментах. Не менее важным аспектом является создание механизмов для многозадачности и распределенной обработки информации, что позволяет системе эффективно справляться с различными видами задач. В отличие от традиционных специализированных систем, когнитивная архитектура должна быть способна переключаться между различными видами деятельности, что предполагает наличие не только мощных алгоритмов обработки данных, но и способов эффективного управления ресурсами и приоритетами. Ещё одной проблемой является отсутствие универсальных критериев для оценки эффективности таких архитектур. Мы можем оценить ИИ по отдельным задачам, но для комплексной оценки когнитивной архитектуры необходимо разработать новые методы и подходы, которые могут учитывать всю её способность к адаптации, обучению и решению широкого спектра задач. Этот процесс требует значительных усилий не только со стороны исследователей в области ИТ, но и специалистов в области философии, этики и нейробиологии. В связи с вышеописанными трудностями, создание когнитивных архитектур остаётся одним из наиболее амбициозных проектов в области искусственного интеллекта. Необходимость междисциплинарного подхода и интеграции знаний из разных областей требует большого объема научных усилий и времени, что делает успешное завершение таких проектов редким и ценным достижением.

Неравномерность развития технологий: Успехи нейросетевых подходов привели к забвению других методов, хотя их интеграция могла бы ускорить прогресс.

спойлер

Среди множества подходов, использующихся в области искусственного интеллекта, нейросетевые технологии в последние годы привлекли наибольшее внимание благодаря своим впечатляющим результатам в таких областях, как обработка изображений, распознавание речи и генерация текста. Однако этот фокус на нейросетях привёл к забвению других методов, которые могли бы дополнить нейросетевые подходы и ускорить общий прогресс в области ИИ. В результате мы наблюдаем неравномерное развитие технологий, где одни методы получают чрезмерное внимание, в то время как другие остаются на заднем плане, несмотря на их потенциал. Основной причиной такой неравномерности является феномен "нейросетевого бума". Успехи нейронных сетей, особенно глубоких нейронных сетей (deep learning), привели к тому, что научное сообщество и индустрия сосредоточились на их применении в самых различных задачах, считая их универсальным решением. Это явление сильно повлияло на распределение научных и финансовых ресурсов, что сделало другие методы менее приоритетными. Например, такие подходы, как эволюционные алгоритмы, метод многозначных логик или даже классические методы машинного обучения, стали менее популярными, несмотря на их потенциальную полезность в сочетании с нейросетями. Однако важно отметить, что исключение других методов из поля зрения может ограничить возможности прогресса. Некоторые из этих технологий могут быть более эффективными в специфических задачах, таких как оптимизация, планирование или работа с малыми данными. Например, методы, основанные на экспертных системах или символическом подходе, хорошо справляются с задачами, где требуется высокоуровневая логика и дедуктивное мышление, в то время как нейросети часто не могут предоставить такую прозрачность и интерпретируемость решений. Более того, интеграция нейросетевых подходов с другими методами может значительно ускорить развитие ИИ. Использование гибридных систем, которые комбинируют сильные стороны разных подходов, позволяет решить задачи, которые по отдельности могут быть трудными для каждого из них. Например, нейросети могут быть использованы для извлечения признаков из данных, в то время как более традиционные методы могут быть задействованы для принятия решений на основе этих признаков. Такой подход может привести к созданию более мощных и гибких систем. Неравномерность развития технологий также связана с узким фокусом на нейросетевых методах, что ограничивает область их применения. Например, нейросети требуют больших объемов данных и вычислительных ресурсов, что делает их менее подходящими для некоторых отраслей, где данные ограничены или ресурсы ограничены. В таких случаях другие подходы могут оказаться более подходящими, и важно вернуть внимание к ним, чтобы развить технологии, способные эффективно работать в разнообразных условиях. Таким образом, для того чтобы ИИ мог развиваться в полном объеме и достигать новых высот, необходимо пересмотреть доминирование нейросетевых методов и включить в научный и инженерный процесс интеграцию с другими подходами. Это потребует от исследователей более широкого взгляда на проблемы и возможностей, что, в свою очередь, может привести к созданию более универсальных и эффективных систем ИИ.

Наверно имелось в виду что на данный момент GPT подобные модели, работают в режиме чистого, так сказать "рефлекса", то есть "акция — реакция", нет процесса "обдумывания", когда некая порция данных "кружит" по системе, в месте с данными порождаемыми самой системой. Живой мозг сущностно отличается пока от нейросеток именно такими процессами реалтаймового моделирования и (само)коррекции, идёт генерация образов и потоков слов на ровне с анализом внешних, сенсорных данных. Такие процессы, особенно в контексте механизмов "внимания"(выбора наиболее существенных аспектов для моделирования) и можно назвать "сознанием", по мнению некоторых мыслителей, с чем я отчасти согласен. В текущих нейросетках этого нет от слова совсем, тупо вектор вошел, вектор вышел, ну или что то из чего делается вектор или во что потом преобразуется.

В основе интеллекта лежит управление действиями, а не просто пассивное распознавание образов. Это перекликается с современными подходами в RL. Сама же модель более всего блика к семантическим сетям, со всеми их преимуществами и недостатками. Описывается довольно общая теоретическая модель, но мало уделяет внимания деталям реализации. Например, механизм формирования целей или обучение через обратную связь требует уточнений. А дьявол в деталях, вспоминайте сколько всё человечество билось чтобы обучить MLP, а у вас структура на порядки более витееватая. Идея динамических семантических сетей предполагает высокую степень гибкости, но в ML-практике обучение подобных структур может быть крайне ресурсоемким. Механизм формирования целей требует уточнения — неясно, как эффективно их инициализировать и обновлять. Идея рецепторов действий перспективна, но реализация в реальных ML-системах выглядит сложной. Модель недостаточно раскрывает, как будет обеспечено обучение через обратную связь в динамических условиях. Показалось наивным понимание мышления как исключительно обработки сигналов с рецепторов и проекция их в действия, это ИМХО значительная редукция природы сознания. Предположение, что можно напрямую сконструировать самосознание через простую комбинацию действий и понятий. А также уверенность в возможность создания универсального механизма выбора действий. В общем классическое "гладко было на бумаге, да забыли про овраги". В реальной практике оказалось намного важнее не таксономировать "карту мозга", понять как работает нейрон и что он "как- то" связан с другими нейронами. А именно выяснить механизмы того как возникают сети нейронов и их веса связей, в ответ на воздействие данных, то есть механизмы "обучения". Технически то, "всё на свете" от XOR и MNIST, то жизни Эйнштейна, можно аппроксимировать некой сложной векторной функцией, нет никакого принципиального запрета на это. Но, как структурировать эту функцию так, чтобы эта функция возникла САМА, в ответ на воздействие правильно подобранного датасета? А почему именно САМА? Да потому что были уже десятки разнородных попыток, в том числе и с семантическими сетями, как то это вбить в ручную, и все они оказались тщетными, стоят очень дорого и в итоге выходит очень слабенько. Очень большая штука эта — наш интелект, то что мы называем здравым смыслом, опытом и тп. Миллионы сущностей и связей, очень порой хитро организованных, так хитро что мы можем ими пользоваться но не понимать как они работают, например как было десятки тысяч лет с законом гравитации и тп. На каждую профессию, тоже плюс по 100к до миллиона своих сущностей. Это ДА-ФИ-ГА, то есть гипотетичеси на сотни тысячи человеколет ручного вбивания с неопределённым результатом, так как многие эти сущности и связи нами не могут быть описаны формально.

Проблема-то возможно не только в "удочке", а в том числе, как правильно закинуть её в нужное место и понять, когда дёргать леску. У нас и сейчас хватает мощных инструментов, но они не магическим образом "понимают", а через тонны данных и грамотную настройку. И если честно, никакой архитектурный гениальный инсайт не отменит того факта, что без правильных методов обучения, обратной связи и накопления знаний вся эта конструкция — просто дорогая гирлянда на GPU. Да и то это всё пока "проекты на коленке", за миллиарды долларов, уж точно так лет через 20 они будут восприниматься в ретроспективе. Это творчество, очень много метода тыка. Про "контекст" согласен — любой ML-инженер подтвердит, что данные без контекста мало чего стоят. Но проблема не в том, что контекст "не определён", а в том, что он зачастую размазан по куче источников и плохо формализован. Ну и кроме того, опять же мультимодальность и "здравый смысл"(примитивная модель физического мира и социальных отношений), всё это пока в совсем зачаточном состоянии. В общем, я бы не ждал, что одна удачная архитектура вдруг сделает нам искусственное сознание на раз-два. Мы ещё долго будем крутиться вокруг вопроса "как заставить модель учиться так, чтобы она не просто повторяла паттерны, а понимала, зачем она их повторяет". Кстати, если уж копать в сторону сознания, то, скорее всего, если что-то подобное и появится, то не в виде одной "правильной" архитектуры, а как сложная сборная солянка(возможно сторож rrr3 в чем то прав). Скорее всего, это будет гибридная мультимодальная система, где одни подсистемы отвечают за зрение, другие за язык, третьи за планирование, а всё это оркестрируется чем-то сверху — некой мета-архитектурой. Единственное чего бы хотелось избежать, так это усложнения(алгоритмической разнородности) подходов на каждом уровне и домене, у нас в мозгах все домены и мета-домены работают похожим образом(так кажется), это большой плюс. Вот эта "мета - надстройка" как раз и может иметь сходство с тем, что мы называем сознанием — не отдельная структура, а механизм, который следит за приоритетами, переключает внимание, подстраивает поведение под долгосрочные цели и в целом рулит всей этой кухней. И вот тут становится интересно: такой "оркестр" уже не просто пассивно принимает сигналы от датчиков (читай, рецепторов), а активно вмешивается в процесс — задаёт фрейминг, корректирует восприятие и может даже придумывать цели. Если в этом и кроется ключ к искусственному сознанию, то путь точно будет не в одной "удочке", а в целой системе с правильным распределением ролей и хорошей обратной связью. Короче, не рыбу ловить, а сеть ставить придётся — большую, сложную и хитрую.