AGI.place

Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

шрифт+
шрифт-
Скачать
Вперёд
1
2
3
4
5
6
7
Главное препятствие в создании СИИ.
Аватар
create
Главное препятствие в создании СИИ.
11:41 17.07.2021 №1329
Дискуссия вокруг СИИ на разных ресурсах давно перешла в смесь маркетинга, речей безумцев и стёба, явно видно что не прёт человеческую рассу, приходится признаться что не выходит, однако переходить на сторону мракобесов и нытиков не стоит, нет в этом смысла. Попробуем озвучить самую главную причину в чем же эта «невидимая стена» от которую все долбятся и почему то не понимают как её обойти\перелезть. У меня есть ИМХА на этот счет, но озвучу её позже, что бы не искажать чьё то мнение.
+2 | 0
Аватар
create
Главное препятствие в создании СИИ.
17:37 17.07.2021 №1331
Gather:
Главное препятствие главную причину
Это хороший топик, показательный. 1. По сути автор призывает провести ретроспективный анализ произошедших событий. Анализировать память. 2. Автор намекает на установленную норму ("ИИ должен быть создан") и на противоречие этой норме ("ИИ до сих пор не создан"). 3. Автор призывает установить причинно-следственное отношение, назначить виновника этого противоречия, препятствие. 4. Очевидно, следующим этапом должно быть устранение этого противоречия, препятствия, виновника и тогда норма (цель) будет достигнута - решение задачи состоится - СИИ будет создан. Так в чём же главная причина, препятствие? Очевидно, главное препятствие в том, что люди применяют свой интеллект, вместо того чтобы изучать свой интеллект. Хотя ответы на все вопросы лежат у них под носом, в каждом акте своей мыслительной деятельности. Главное препятствие в неприменении рекурсивной, самоприменимой, самоподобной методологии. Это главное. Могу назвать и некоторые второстепенные причины: 1. Люди смешивают и путают интеллект с другими проявлениями человеческой психики (эмоциями, сознанием, чувствами). 2. Люди слишком подвержены страстям и своим зависимостям, чтобы окунуться в решение задачи создания СИИ с головой. Это мешает надлежащей кооперации. Боязнь потери сиюминутной прибыли приводит к потере перспективной прибыли в виде СИИ. 3. Использование речи в качестве средства записи/обмена продуктами мышления. Речь - крайне плохое средство, оно неоднозначное, синонимичное, противоречивое. 4. Коммерциализация ИИ стимулирует создание целой индустрии фейков, которые ведут по ложным путям. Человек может годы потратить на "машинное обучение", чтобы в итоге понять, что никакого обучения здесь и близко нет. 5. Создание СИИ в рамках ложных идеологий. Мне очень нравятся умопостроения Александра Болдачева, но он не сделает СИИ, хотя он очень близок к этому, потому что он пытается делать СИИ в рамках концепции эволюционизма, как продолжение и объяснение эволюционизма. СИИ надо делать в рамках концепции СИИ, просто пытаясь искусственно воссоздать интеллект человека как он есть, а не в угоду какой-то идеологии.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
11:00 18.07.2021 №1334
Влад:
Озвучиваем причину Разума – Мир
Если я скажу, что мир - причина светофора, то думаю Вы согласитесь, я сильно погрешу против правды. Потому что причины светофора - это необходимость регулировать трафик и сфетофорная фабрика. Почему же Вы тогда решили, что мир может быть причиной разума?
Влад:
прежде чем говорить об интеллекте, нужно поговорить о мире
Эта методология у меня идёт под номером №2 в списке неправильных методологий. Говорить о мире можно только в рамках некоторого понятийного аппарата, созданного интеллектом. Таким образом, чтобы говорить о мире, сначала нужно интеллектом создать понятийный аппарат, описывающий мир, и уж затем с помощью этого аппарата описывать интеллект. Зачем идти к интеллекту таким длинным и ненадёжным путём? Если можно сразу описывать интеллект в понятиях, созданных интеллектом специально для описания интеллекта? Зачем нам говорить о мире, когда речь идёт о памяти, знаниях, обучении, понятиях, правилах, знаках и им подобных чисто психологических сущностях?
+1 | 0
Аватар
create
Главное препятствие в создании СИИ.
14:08 18.07.2021 №1336
Влад:
устройство Мира не позволяет им делать это
Это очень хороший пример с автомобилями, демонстрирующий бесполезность изучения мира для создания ИИ. Если я попрошу Вас объяснить, как именно устройство Мира не позволяет автомобилям проникать друг в друга, то максимум, что Вы сможете сказать, так это что электромагнитное взаимодействие не позволяет предметам проникать друг в друга. Но это не особо далеко ушло от понимания Эйлера, который просто постулировал непроницаемость предметов. Это на самом деле никакого устройства Мира не проясняет. Мы как не знали почему предметы не могут проникать друг в друга, так и не знаем. Мы не познали устройства мира. И это надо признать. Фокус тут состоит в том, что ни Вы, ни Эйлер не постигали устройства мира непосредственно. Это самообман, иллюзия. Вы можете только постигать отношения между своими понятиями, когда наблюдаете за миром. Только так Вы изучаете мир. Или же постигать отношения между своими же понятиями, когда Вы наблюдаете за интеллектом. Только так Вы изучаете интеллект. Нет, конечно, никакой уверенности, что интеллекта человека достаточно чтобы познать интеллект (о чём говорит Egg), но это хотя бы не похоже на удаление гланд через анус (как Вы предлагаете). Это изучение предмета своего интереса непосредственно (выяснение гипотетического устройства интеллекта), а не опосредовано (выяснение гипотетического устройства интеллекта через гипотетическое устройство мира).
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
14:17 19.07.2021 14:20 19.07.2021 №1342
Читаю пока СИИ На подступах к сверхразуму - 2021 и делаю заметки на полях.
Цитата:
Разные авторы подчеркивают разные недостатки современных систем ИИ. Кто-то считает, что основной проблемой дпя них является приобретение новых навыков. Кто-то обращает внимание на нехватку надежности. Но все эти проблемы - симптомы одного свойства: недостаточной широты методов ИИ.
Цитата:
Проблема возникает тогда, когда методы, придуманные для решения узких задач в предсказуемой среде, начинают использовать широко.
"Широта методов ИИ" - откуда ей взяться? Это что некое свойство какого то алгоритма? Можно придумать такой алгоритм как MLP или RandomForest но чтобы он был "широкий"???
Цитата:
потому что чем конкретнее задачи, тем их больше, и каждая из них требует затрат на разработку. В результате и специалистов не хватает, и разработка и внедрение часто оказываются коммерчески неоправданными.
Цитата:
После «Алхимии» Дрейфуса другой известный философ, Джон Серл, ввел понятие сильного ИИ -то есть такого ИИ, который обладает всеми качествами человеческого разума: пониманием, самосознанием, субъективными переживаниями и т.д., -проведя границу между ним и слабым ИИ, который таковыми качествами не обладает. Серл полагал, что компьютеры принципиально не способны на сильный ИИ, что и пытался доказать на примере понимания естественного языка в своем мысленном эксперименте -парадоксе «Китайской комнаты», о котором мы поговорим позднее.
А разве не так у нас "в мозгах", не ловкий менеджмент над кучей узких алгоритмов? Кто вообще сказал что у нас(людей) этот самый GI(общий интеллект)? Каким способом доказать что у нас в черепушке не оттюненная за миллионы лет "китайская комната"? Может и нет этого самого "общего интеллекта", потому что тупо неоткуда ему взяться, кроме как на мета-материальной основе, что понятное дело абсурд, а всё реальное это обучение на примерах, когда как давно известно что все алгоритмы на примерах не очень "далеко" экстраполируют, только в окрестности.
Цитата:
Робот Эрик мог принимать разные позы, сидеть, стоять, двигаться. А кроме того, он разговаривал - голосом мог отвечать на вопросы, которые ему задавали. Правда, он знал ответы лишь на полсотни заранее заготовленных вопросов, но многие роботы и сейчас умеют не более того. Вот только Эрик был создан в 1928 г. Могли ли люди тогда, глядя на Эрика, подумать о том, что еще чуть-чуть - и роботы обретут сознание? Пожалуй, да. И они бы ошиблись.
Вот и сейчас ошибаются в тщетных поисках этого сферического коня в вакууме — AGI. ИМХО искать AGI – вполне по человечески, бы даже сказал что это правильно и амбициозно, но тем не менее это также перспективно как пытаться нарушить закон сохранения энергии, превзойти скорость света, или двигатель сделать без рабочего тела. Но сами подумайте если мы — интеллектуальные существа столько бьёмся над этим и вообще как горохом об стенку, то как это могла сделать природа??? У которой инструментарий предельно примитивный, один стохастический поиск без откатов, уж наверняка нет у нас в мозгах ничего сверх- мудрёного, это гарантированно. Однако природка нас превосходит вычислительными ресурсами, вполне возможно любую сложную логику аппроксимировать ансамблем простых модулей, что было и сделано.
Цитата:
Источник разногласий о перспективах и пуrях создания искусственного интеллекта кроется в интеллекте человеческом. Нейрофизиологи и психологи очень хорошо знают, насколько сложен феномен человеческого мышления, и сама идея воспроизвести его искусственно на компьютере без понимания того, как оно работает у человека, многим кажется нелепой. Технические же специалисты часто говорят, что ИИ может быть похож на человеческий интеллект не более, чем самолет похож на птицу. Но постойте, почему мы тогда вообще можем говорить о том, что создается именно интеллект? И из каких соображений он создается, если он так сильно отличается от естественного аналога? Самолет создавали авиаконструкторы, и орнитологи в спор об искусственных птицах с ними не вступали. Но самолет создавался с конкретной целью. А в чем же цель систем ИИ? Как отмечалось, эти системы должны решать задачи или автрматизировать ту или иную деятельность.
Цитата:
Если вместо вопроса: «Должен ли искусственный интеллект быть похож на человеческий?» - мы спросим: «Должен ли компьютер решать задачи теми же методами, что и человек?», то уверенно ответить «нет» будет гораздо проще.
Цитата:
Возможно, AlphaGo или MuZero обладают «пониманием » игры го и делают «творческие» ходы, но вряд ли в человеческом смысле этих слов. Да и разработчики данных систем вовсе не пытались наделить их творческими способностями и функцией понимания, как и не пытались доказать, что эти способности есть у их детищ. Они просто разработали системы, решающие некоторые задачи лучше человека. Почему это не может оказаться верным и для более сложных задач?
Вот опять всё сводится к нашим бытовым интуитивным интерпретациям, которые причем постоянно дрейфуют да так что скоро истинно человеческого мало чего останется, картины ИИ пишет уже вполне сносно, музыку тоже, всем ясно что скоро он будет это делать лучше человека, как и считать, потом книжки будет писать и кино начнёт снимать, лет через 10 это точно случится, но все по прежнему будут кричать ИИ — не СИИ.
Цитата:
Однако каждая конкретная задача наиболее эффективно решается своим частным методом, в идеале-точным алгоритмом, если таковой удается найти. Грубо говоря, компьютер, собирающий кубик Рубика по такому алгоритму, не проявляет ни малейшего интеллекта. Интеллект был проявлен разработчиком, придумавшим этот алгоритм. Но дело не в том, что компьютер действует по алгоритму, придуманному человеком (и потому якобы не проявляет творчества или интеллекта), а в том, что алгоритм сборки кубика Рубика полезен только для сборки кубика Рубика.
Цитата:
Сейчас есть множество приложений для искусственного интеллекта, но каждое из них требует человеческого труда. И труд этот в основном сводится не к развитию способности компьютера решать задачи, а к изучению предметной области человеком.
Да проблема ИМХО немного в другом. Не в самой предметной области а в данных, в том что бы их представить в виде удобного для ML датасеета, в этом пока основной труд и попаболь. Человек просто обладает сотнями разных "микро-навыков" которые и отличают его от ИИ, эти микро-навыки которые по сути сотни разных мелких ИИ, добрая половина из которых вообще генами завороженна и позволяет быть "ловким" в реальном мире и создавать иллюзию СИИ шности.
Цитата:
Если мы подумаем об этом в контексте вопроса «Чего не хватает существующим методам ИИ?», то становится очевидным, что их основной технический недостаток не в том, что они не являются сильным ИИ, а в том, что они являются узкими.
Так блядь! Шило сцуко поменяли на мыло, были "программисты" стали "разработчики", большая заслуга! Ребрендинг смотрю в наше время — это всё, позорище блядь. Да похуй как это не называй, суть в том что "широта\сила" это свойство не какой то супер формулы\алгоритма, а вообще только наша коллективная иллюзия, также как в наборе множества штрихов мы вдруг узанём лицо или манду, тоже и с этой "широтой\силой", посторой стены, крышу, дверь и опа! вдруг появился "дом", где он был до этого? Как в стене сделать свойство дома??? А никак, стена часть дома, а не дом свойство которое можно добавить стене.
Цитата:
Основная масса усилий в современном ИИ направлена на реЦIение узких задач. Здесь достигаются видимые успехи и приносится ощутимая польза. Однако более общие методы и методы решения более сложных задач при этом развиваются мало, хотя польза от них может быть неизмеримо больше. И сами собой общие методы из узких не возникнутони должны быть устроены по-разному.
Это ложь, да, "широкие методы" это алгоритмы этакого "менеджерского типа" которые по сути выбирают узкий алгоритм(ы) для решения конкретной задачи из широкого класса, но сами задачи будут решать узкие алгоритмы и широкие алгоритмы вряд ли участвуют в создании узких, широкие алгоритмы - не генератор алгоритмов узких, а только менеджер, свичер\роутер, сами узкие алгоритмы вероятней всего генерятся другим способом, вообще говоря редко они генерятся совсем с нуля, как правило это подбор из готового инструментария и немного стохастического поиска.
Цитата:
Как мы говорили, альтернативой узким методам ИИ является общий искусственный интеллект, который не лежит между слабым и сильным ИИ, а просто находится в стороне от них и определяется без отсылки к человеческому интеллекту как ИИ, способный решать широкий круг задач.
Цитата:
«Общий интеллект - это способность достигать сложных цепей в сложных средах». -Бен Герцепь
Цитата:
«Интеллект - это способность системы адаптироваться к своей среде, работая при недостаточных знаниях и ресурсах». -Пей Ванг
Цитата:
«Интеллект измеряет способность агента успешно действовать в широком диапазоне сред». - Шейн Легг и Маркус Xynep
Опять на мой взгляд антропоморфная иллюзия. "Сложная среда"… Снова намёки на то что нечто действует как бы с нуля и учится магическим способом всему. Нихуя блядь! Почти всё уже готово! Очень много есть захардкоженных скилов, под наш "реальный мир", наш GI – на 99% - "Китайская комната", которая заполнялась сотни миллионов лет. Какая нахер "сложная среда"? Человек уже не в состоянии предсказать совсем простые псевдослучайные ряды которые генерятся кодом из пары строк. Это не "сложная среда" а СЛОЖЕННАЯ, мультипоток из множества достаточно простых сигналов. С настоящей сложностью у человека и его "китайской комнатой" как раз большие проблемы, которые решаются чаще всего чисто случайно., обще видовым стохастическим поиском.
Цитата:
система, достигающая тех же целей, что и другая, но при использовании меньшего объема исходных данных или тратящая меньше вычислительных ресурсов, должна признаваться более интеллектуальной
Да, но опять же тут вопрос в том сколько и каких в системе готовых микро-ИИ, может так случиться что для данной задачи у системы просто готов ответ в виде заточенного под именно такой формат задач узкий ИИ, тогда интеллектуальности не так уж и много.
Цитата:
Если резюмировать все вышесказанное, общим интеллектом в AGI признается способность достигать целей в широком диапазоне сред с учетом ограничений (хотя настаивать на конкретных словах в этом определении не стоит). Среды могуr быть любыми - не только физическими, но и виртуальными, не только пространственно-временными, но и абстрактными.
Всё так, одна из важных задач в построении СИИ это именно генерация разных таких "сред", разных потоков данных с обратной связью, как говорится "от мала до велика", от простых к сложным, покрывающих весь диапазон сложности, с плотностью обратно пропорциональной сложности среды. Тысячи сред, может сотни тысяч.
Цитата:
Если мы зациклимся на конкретном физическом воплощении, есть риск уйти от общего интеллекта в набор специализированных решений, лучше человека приспособленных к некоторому фрагменту реальности, но катастрофически проигрывающих ему даже в тех вопросах, для решения которых человеческий мозг эволюционно явно не предназначался. Разве сможем мы такой ИИ, сколь бы хорошо он ни управлял телом, скажем, андроида, признать разумным? Именно поэтому указание на широкий диапазон сред оказывается столь важным.
Да, согласен на все 100%.
Цитата:
вики Интеллект - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний АЛЯ управления окружающей средой. Общая способность к познанию и решению проблем, которая объединяет все познавательные способности: ощущение, восприятие, память, представление, мышление, воображение, а также внимание, волю и рефлексию.
Какая то бляцкая солянка из всего подряд, забыли юмор, эмпатию и сексуальность. Но к сожалению так оно и есть, тот "интеллект" что ждут все именно такой, соляночный по сути, агрегатный, нужна критическая масса способностей чтобы возникло это чувство распознавания общения с разумным существом.
Цитата:
Например, наша память тесно связана с эмоциями, оценкой информации и другими функциями, а воля зависит от множества факторов (начиная от природной чувствительности к вознаграждениям и издержкам и заканчивая умением разбивать волевую деятельность на маленькие шаги и управлять своим вниманием).
Цитата:
Например, наверняка общий ИИ должен иметь способность к интроспекции - анализу собственных мыслительных процессов или даже оптимизации лежащих в их основе алгоритмов. При этом у такого ИИ будет некий образ себя как часть картины мира. Но это не обязательно означает, что у него будет самосознание в философском смысле и уж тем более личность сродни человеческой, хотя по глубине рефлексии он вполне может и превосходить человека.
Да будет будет, нет в человеческой личности ничего такого сверхъестественного, интроспекция — процесс порождающий тн. "сознание" всё верно, но человек мониторить может очень малую часть того что происходит у него в нервной системе, это "сознание" очень слабое по пропускной способности.
Цитата:
Есть теории о том, что разные психические расстройства -это следствие чрезмерной адаптации (как генетической, так и через опыт) к очень специфической среде, приводящей к дезадаптации при смене условий. Например, повышенная чувствительность к издержкам, которая в перспективе может привести к депрессии, имеет смысл в среде, где мало возможностей и много рисков. А синдром дефицита внимания, по одной из гипотез, мог быть вполне функциональным состоянием для первобытного охотника, которому было важно быстро переключаться между Р.азными сигналами, чтобы заметить добычу или опасного хищника. А вот с развитием земледелия, требовавшего кропотливой рутинной работы, . он стал приводить к дезадаптации.
В том то и дело что люди в большинстве своём не контролируют свой ЕИ, 99% это наследство, поменять существенно почти невозможно, только из готовых кубиков собрать что то как бы "новое", или стохастический поиск также как у матушки природы, с чуть большим горизонтом поиска и некоторыми другим приёмами.
Цитата:
Наверняка у него будет многомерная система мотивации, включающая аналоги, например, любопытства и удивления. Но его вовсе не обязательно пытаться наделить всеми человеческими эмоциями. Хотя, скажем, для социальных роботов это может быть полезно, но даже они способны лишь симулировать чувства и эмоции, а не испытъшать их.
А что значит "испытывать"??? Ведь испытывать = воспринимать, распознавать, а это робот может, тоже касается "внутренних" проекций, если есть интроспекция в этом нет проблемы.
Цитата:
Мы можем назвать задачи, которые решаются современными методами ИИ, но не можем однозначно соотнести текущий уровень развития с рубежом, после достижения которого сможем утверждать, что полноценный ИИ создан.
Ну почему же не можем, можем, только это сформулировать это намного тяжелее, а точнее менее эффективно чем на примере показать. Нам людям "интеллект" был представлен на примерах и мы легко можем его распознать тоже как пример, по совокупности принаков. Конечно можно сделать фейк и надурить толпу, также как сейчас делают современную компьютерную графику не отличимую от реальности, будет много и "CИИ" в виде китайских комнат. Но нет ничего страшного что пару раз надурят.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
09:41 20.07.2021 №1345
Цитата:
Первой доминирующей парадигмой в ИИ бьmа парадигма мышление как поиск. Как и многие последующие подходы, она бьmа построена на представлении об устройстве естественного интеллекта, а точнее, на лабиринтной гипотезе мышления, заимствованной из психологии.
Цитата:
Поставьте неожиданное препятствие на пути муравья, идущего привычным маршрутом, или курицы, бегущей домой через знакомую дырку в ограде. Их поведение станет хаотичным. Они будут метаться по сторонам и тыкаться в любое подходящее отверстие или проход. И это поведение бессмысленно только на первый взгляд. Если проверенный путь закрыт, они будут искать новые выходы из ситуации, перебирая случайные варианты. Курица осуществляет этот поиск в физическом пространстве, а человек или шимпанзе способны осуществлять его в голове, но для каждого из них мыслительная деятельность может возникать как поиск в ответ на незнакомую ситуацию.
Стохастический поиск — самая простая но в тоже время масштабируемая эвристика, более сложные подходы возможно в чем то и выигрывают но из за трудностей масштабирования не могут конкурировать с стохастичским поиском, особенно в контексте тн. СИИ, где нужно что то хотя бы отчасти "изобретать" то есть находить новое.
Цитата:
Ключевой технологией здесь стали экспертные системы, которые одно время являлись чуть ли не синонимом понятия «искусственный интеллект». Это программы, обладающие экспертными знаниями в какой-то отдельной предметной области и использующие их для решения конкретных задач - вроде системы, которая знает устройство электростанции, или налоговое законодательство, или симптомы заболеваний сердечно-сосудистой системы и пользуется этими знаниями, чтобы предупреждать поломки генераторов, или оптимизировать налоги, или ставить диагнозы.
Цитата:
Экспертные системы оказались способными находить и объяснять решения задач, сформулированных на ограниченном естественном языке для узкой области. При этом поиск решения в таких системах превратился в проблему рассуждения на основе знаний, в котором усматривалась суть мышления. Узким местом при создании таких систем оказалось извлечение знаний, то есть наполнение базы знаний фактами и правилами о предметной области, на основе которых система уже могла бы, рассуждая, приходить к ответу на ставящиеся перед ней вопросы.
Ну вот пример достаточно эффективной технологии на "узком поле" под задачу, но не применимая в контексте AGI, по крайней мере не как часть самоадаптивной системы и для поиска новых знаний. Экспертная система по сути база данных для предметной области с неким удобным интерфейсом для взаимодействия. Всё надо добавлять ручками.
Цитата:
Тогда 􀀽ак правила, по которым рассуждают люди, выявить сложно, принятые ими решения напрямую доступны, так что в рамках экспертных систем естественным образом возникла задача автоматического извлечения знаний из наборов примеров, что оказалось не чем иным, как частным случаем машинного обучения
Машинное обучение и само по себе может имитировать экспертную систему, нет необходимости таких гибридов на раной концептуальной основе.
Цитата:
Дополнением к описанным методам стал агентный, или мультиагентный, подход, снискавший популярность в конце 1990-х. Агентов программируют так, чтобы они бьmи по возможности автономны, в том числе при получении данных для обучения, и демонстрировали адаптивное поведение в некоторой среде обитания. Среди прочего, они должны достигать своих целей в среде, взаимодействуя с другими агентами, помещенными туда же. Вместе с агентным подходом развивались и другие «автономные» направления, например обучение с подкреплением, аниматы или эпигенетическая робототехника.
Вообще большой вопрос в том на сколько отличается тн. "обучение с подкреплением"(ОП) от обычного обучения на датасете метки-признаки. Почему то выделяют ОП как нечто особенное хотя это совсем не так. ИМХО ОП по сути тоже самое, только вектора метки-признаки формируются динамически, "активно", то есть это только вид семплирования.
Цитата:
Эпигенетическая робототехника идет еще дальше в стремлении создать агента, который имитировал бы уже не животное, а, скорее, ребенка. Дети часто не способны хорошо выполнять даже простые задания, но зато умеют сами добывать информацию о мире, взаимодействовать с окружающей средой, обучаться и идти к своей цели методом проб и ошибок. Такой агент должен проходить несколько стадий в своем развитии, взаимодействуя со средой, при этом обучение должно быть накопительным и сложность задач должна прогрессивно возрастать.
Дети это результат тюнинга системы за миллионы лет, не нужно сравнивать, мотивации ребёнка это результат работы десятков модулей сформированных эволюционно, многие из которых в AGI нафиг не нужны, хотя наверно и придадут большую убедительность в антропоморфных версиях роботов.
Цитата:
В качестве одного из подходов в этом направлении рассматривались когнитивные архитектуры для систем ИИ уровня человека или систем, обладающих общим интеллектом. Хотя именно эта парадигма стала самым популярным направлением в зародившейся области общего ИИ, она так и не стала главенствующей в области «обычного» ИИ. Вместо нее на передний план вышло глубокое обучение - совокупность методов машинного обучения, основанных на обучении многослойным, или иерархическим, представлениям информации, на каждом последующем уровне которых выучиваются все более абстрактные свойства исходных объектов. Оно в значительной мере устраняло другую зависимость методов машинного обучения от человека, а именно необходимость инженерии признаков (то есть создания информативных признаков, коррелирующих с выбранной целевой переменной). Инженерия признаков сродни инженерии знаний, но уже не в экспертных системах, а в системах самого машинного обучения, где экспертами выступают сами специалисты по машинному обучению, анализу данных, распознаванию образов. Как и инженерия знаний, инженерия признаков оказывается весьма трудозатратной и не достигающей идеального результата.
Цитата:
Глубокое обучение не сделало компьютер полностью самостоятельным: оно заменило инженерию признаков на инженерию архитектур интеллектуальных систем, в частности нейронных сетей, которые реализуют определенные аспекты разумного поведения (например, обучение, память, планирование и т.д.). Инженерия архитектур, в свою очередь, может быть автоматизирована методами поиска архитектур, автоматического машинного обучения (AutoML) и метаобучения 5.
Ну вот, всё правильно, движемся в верном направлении в целом, конечно наступим ещё на сотню граблей, но суть верна, когнитивные(модульные) архитектуры с модулей на ML + системы поиска модулей под задачу( AutoML).
Цитата:
При всем разнообразии подходов и методов, использовавшихся в последние 60 лет параллельно, вместе и по отдельности, у них есть общий лейтмотив. Каждая последующая парадигма ИИ была призвана снизить зависимость интеллектуальных систем от человека.
Разумеется в этом и смысл. Но людишки особенно современные, очень тормозят с реальным инноваторством, сейчас циклическая фаза "конвеера", "пайплайна", эра "профессионалов", то есть узких специалистов нажимающих очень профессионально и сертифицировано на три кнопки. Образование сейчас поверхностное, ферментированное, вперемешку с маркетингом, общую картину и в принципы того что делают никто не вникает, это сейчас не модно. Все рассчитывают что некие "ученые" в каких то университетах что то нароют и напишут статью. А то что 99% этих "ученых" это студенты-аспиранты, у которых ещё молоко на губах не обсохло , это не беда, тоже типа конвеер. Короче Леонардо Давинчи и братьев Райт сейчас нет.
Цитата:
Символьный подход берет свое начало в философии, логике и математике и оперирует логическими правилами, знаковыми и символьными системами, которые интерпретируются в тер􀀿инах высокоуровневых мыслительных процессов человека. Суть в том, чтобы воспроизвести сознательное мышление человека, абстрагируясь от нейрофизиологических деталей его реализации в мозгу (условно, вместо самолета, хоть сколько-то напоминающего птицу, построить вертолет или ракету).
Какая нах ещё философия и логика??? Символы берут начало в потребности в коммуникации, Ааааааааааааааааааа!!! - это типа "шухер! зверь напал", с этого начались символы и язык. Символы и язык это закодированный в самом доступном виде окружающий мир, для коммуникации, которая позволяет координировать коллективные действия и создавать примитивное общество, это выгодно для всех участников. Примитивный язык это пара сотен слов, а 10-20 тысяч слов почти полностью покрывает "реальность" обычного человека, это по сути весь мир, модель мира, ~15000 сущностей, в пространстве, времени и отношении.
Цитата:
Метаобучение (англ. meta-leaming) - это «обучение обучению», то есть улучшение существующих или поиск новых, более эффективных методов обучения в процессе самого обучения. Данный термин применяется как в когнитивной психологии, так и в машинном обучении. В последнем случае метаобучение, как правило, выполняется на наборе задач. На их примере нужно построить такой алгоритм, который бы умел эффективно обучаться решению не только этих, но и новых сходных задач.
Вот только надо понимать что никакой магии в этом контексте сотворить не получится. Всё только набор способов представления задачи в "машино-воспринимаемый вид" то есть датасет метки-признаки и разные эвристики по разложения специфических данных в квази-ортогональные, как например иерархические данные с картинок что делают CNN.
Цитата:
Помимо названных концептуальных проблем, есть и частные. Решение многих более узких, но практически важных задач остается недоступным для существующих методов искусственного интеллекта. Так, например, семантический анализ текста на естественном языке и семантический анализ изображений - задачи, которые будут затронуты в разделе, посвященном метрикам, -находятся на таком уровне развития, что даже в рамках узкого ИИ требуется большой объем исследований для продвижения вперед. Для решения этих задач необходимо развитие как символьных и субсимвольных техник ИИ по отдельности, так и подходов, сочетающих в себе сильные стороны каждого из направлений, что требует не только прикладных, но и фундаментальных исследований.
Да, это важно и краеугольно для СИИ. Анализ символов и образов по отдельности не даст СИИ. Ну с образами в отдельности ещё можно понять, а символы в отрыве от образов это чепуха, разве что можно научиться грамматике языка и составлять с виду верные но бессмысленные предложения. А смысл то именно в релевантном образе в ответ на символьную цепочку, без этого мы далеко не уйдём.
Цитата:
Современные образовательные программы готовят инженеров, умеющих работать с существующими технологиями, а не творчески мыслящих исследователей, способных совершать новые прорывы.
Это точно, "западное образование" одним словом. Может в самых престижных вузах там и учат думать а не только запоминать то что в тренде, но большая часть вузов точно учит просто конвейерных рабочих максимально быстро делающих что то не особо напрягая ивилины.
Цитата:
Возникновение сверхинтеллекта выглядит закономерным в перспективе эволюции, как закономерно возникновение молекул из атомов, клеток из молекул, организмов из клеток, выделение специализированных клеток в центральную нервную систему, возникновение социальных структур, развитие речи, письменности и информационных технологий. Похоже, что оно неизбежно, если прежде наша цивилизация не погибнет.
Да, похоже что так.
Цитата:
Оценивая искусственный интеллект, мы можем подходить к делу с двух сторон. Первый вариант - когда мы ориентируемся на функциональность: насколько хорошо агент решает ту или иную задачу. Это подходящий способ оценки «узкого» ИИ. Второй вариант - когда мы ориентируемся на способности. Способн,ость означает, что агент может справляться с определенным спектром задач без предварительной подготовки к конкретному заданию (например, способность решать логические задачи или ориентироваться в пространстве). В идеале AGI должен быть именно таким. Между умением решать конкретную задачу и интеллектуальными способностями в широком смысле слова, вероятно, должен быть какой-то спектр промежуточных состояний, если одно в принципе способно перетекать в другое.
Мне кажется тут кроется лукавство, или не понимание того как это происходит у "способных" людей. Опять же всё сводится какая у кого заранее сформирована "китайская комната", то есть набор уже готовых навыков, комбинацией и которых можно решить "новую задачу". То есть речь чаще всего(на 99.99999%) идёт не о решении с нуля новой задачи а поиска по аналогии, близкой по тем или иным признакам и подгонки под новые данные. А совсем новое решается людьми, всей человеческой расой, очень туго, рандомно, нет у нас того AGI про который все говорят, иначе бы давно уже колонизировали галактику.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
10:08 20.07.2021 №1346
Prosolver:
Так в чём же главная причина, препятствие? Очевидно, главное препятствие в том, что люди применяют свой интеллект, вместо того чтобы изучать свой интеллект. Хотя ответы на все вопросы лежат у них под носом, в каждом акте своей мыслительной деятельности. Главное препятствие в неприменении рекурсивной, самоприменимой, самоподобной методологии.
Вы же слышали про такую тему что операции на мозгах делают без анестезии, так как там нет болевых рецепторов. Даже когда человеку удаляют большой кусок мозга он ничего особенного не чувствует, для того чтобы это осознать нужно например считать или делать некое действие, которое в какой то момент вдруг какбы "выключится" словно этого никогда не умел. Я это к тому нам сознательно очень многое не доступно и того что, и особенно КАК, происходит у нас в черепушке. Конечно интроспекция это важно, но увы крайне не достаточно.
Prosolver:
Могу назвать и некоторые второстепенные причины: 1. Люди смешивают и путают интеллект с другими проявлениями человеческой психики (эмоциями, сознанием, чувствами). 2. Люди слишком подвержены страстям и своим зависимостям, чтобы окунуться в решение задачи создания СИИ с головой. Это мешает надлежащей кооперации. Боязнь потери сиюминутной прибыли приводит к потере перспективной прибыли в виде СИИ. 3. Использование речи в качестве средства записи/обмена продуктами мышления. Речь - крайне плохое средство, оно неоднозначное, синонимичное, противоречивое. 4. Коммерциализация ИИ стимулирует создание целой индустрии фейков, которые ведут по ложным путям. Человек может годы потратить на "машинное обучение", чтобы в итоге понять, что никакого обучения здесь и близко нет. 5. Создание СИИ в рамках ложных идеологий. Мне очень нравятся умопостроения Александра Болдачева, но он не сделает СИИ, хотя он очень близок к этому, потому что он пытается делать СИИ в рамках концепции эволюционизма, как продолжение и объяснение эволюционизма. СИИ надо делать в рамках концепции СИИ, просто пытаясь искусственно воссоздать интеллект человека как он есть, а не в угоду какой-то идеологии.
1. Это так, мы воспринимаем "интеллект" как вообще весь комплекс человеческого поведения, я даже думаю если выключить эмоции, чувства, то такой СИИ тупо не пройдёт тест Тьюринга у большинства людей. 2. Тоже верно. Но скорее вопрос в том что масштаб работ грандиозен, да и даже если и собрать триллион$ на это, может и вероятнее всего так и будет, всё закончится неудачей, хотя подвижка будет безусловно, но многое ещё не изобретено, а изобрести по указке за бабки редко получается, за бабки можно масштабировать, развить, но не изобретать. 3 Речь крайне важна. Но нужно её совместить с образами, без этого никак. 4 ML - не ложный путь, а какие никакие подвижки на этом поприще. Проблема в том что это всё достаточно сложно и затратно по машинным ресурсам, экспериментировать очень накладно, развитие идёт медленно. Фейки это уже из другой оперы, где бабки везде полно мошенников. 5 Стохастическая оптимизация(эволюция) - универсальная эвристика, важная часть СИИ, природа так нас и сделала, однако повторить её путь нам не позволяет пока вычислительные ресурсы, их нужно в триллионы больше, поэтому мы пытаемся захардкодить уже готовые модули и ими управлять.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
10:12 20.07.2021 10:14 20.07.2021 №1347
Egg:
Нет никакой "стены", есть простое непонимание, что такое понимание. И не хватает мышления для мышления о мышлении. Нет никаких оснований полагать, что интеллект как инструмент способен описать интеллект. Но главная причина в том, что люди безнадежно тупы. )))
Тут не поспоришь, мы умны только в том что уже знаем что общество копило тысячи лет, а шаг в сторону и тупняк, в контексте нового мы ни чем не лучше курицы которая хаотично мечется на авось чтобы найти выход.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
11:07 20.07.2021 №1349
Egg:
Gather:
мы умны только в том что уже знаем что общество копило тысячи лет, а шаг в сторону и тупняк
Да. Интеллект социален и развивался как средство племенной коммуникации и координации. Именно поэтому ИИ/СИИ может быть совсем не похож на человеческий. Именно поэтому вопрос об общественности разума - ключевой. Может быть ли быть интеллект вне искусственной коллективной среды?
Язык и символьный интеллект безусловно явление социальное, без коммуникация и затем общества он точно бы не возник и развился у людей. Однако СИИ вряд ли будет делаться эволюционным путём, как это делала природа, скорей всего костылями, постепенно воспроизводя одни а другим модули и аспекты человеческой рефлексивности. Самому по себе СИИ не обязательно нужен будет социальный опыт в реальном времени, но при обучении его точно нужно будет симулировать, особенно если это будет коммуникативный робот. Потом он конечно может доучиться в процессе общения в реальном времени, что хорошо будет в СИИ, что опыт всех предыдущих можно будет переносить новым без переобучения.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
21:13 20.07.2021 №1355
Egg:
важно УМЕТЬ строить и эскплуатировать автомобили, а уж объяснить как они не проникают друг в друга - это вопрос десятый
Согласен. Однако ведь умение строить автомобили стало возможным и стало следствием того, что было дано много объяснений для других, казалось бы отвлечённых вещей. Например, объяснение того, почему шёлк электризует стеклянную палочку привело к тому, что люди теперь умеют делать электрическое зажигание в автомобиле.
Egg:
объективные законы природы ОБЯЗАТЕЛЬНЫ к исполнению
Пытаюсь понять, какое умозаключение я должен сделать из этого в контексте данного топика и данной беседы. Что есть некие объективные законы мышления, обусловленные законами природы? Что изучая законы мира всё-таки можно познать законы мышления? Или что мышление принципиально ограничено законами природы? Отолиты в среднем ухе человека всегда подчиняются закону тяготения. Однако человек может осознанно использовать этот закон, только когда он отобразиться в виде отношения между его понятиями. Или вот Станислав Лем смог подумать о том, что когда-то технология дойдёт до таких высот, что станет возможным изменение законов мира. Каким законом природы было при этом ограничено его мышление? Изучать законы природы (в рамках решения задачи данного форума) нужно только для того, чтобы потом суметь подобрать подходящий физический процесс, на который можно "насадить" и в котором смоделировать механику мышления. А саму механику мышления законы природы, имхо, никак не помогают понять.
Egg:
Может быть ли быть интеллект вне искусственной коллективной среды?
Человеческого ребёнка можно отдать монаху-отшельнику, живущему в горах. И этот один монах вырастит (более-менее) полноценного человека. Дело ведь не в среде, а в богатстве опытного материала, на котором происходит обучение.
Влад:
свидетельствует об отсутствии у Prosolver/а осознанного понимания системного порядка существования мира
Вполне может быть. Не буду спорить. Мир меня не особо интересует. Но это не мешает. Напротив, надеюсь, благодаря этому у Prosolver/а присутствуют зачатки осознанного понимания системного порядка существования разума.
Gather:
совсем новое решается людьми, всей человеческой расой, очень туго, рандомно, нет у нас того AGI про который все говорят
Конечно, никакой мистики в интеллекте нет. Большая часть "наших" решений была рассказана нам кем-то и мы только запомнили и воспроизводим эти фокусы. Но ведь все конкретные точечные изобретения и открытия делались конкретными людьми, а значит каждый индивидуальный интеллект потенциально способен на большее, чем просто скопировать чужое поведение, или постоянно делать только ошибки. Меня вот сейчас интересует задачка построения искусственных умозаключений для игры в шахматы. Например, в ситуации, когда на поле два короля, любой скажет, что это ничья. Кто-то это скажет потому, что его обучили данному "фокусу" другие люди. А кто-то сделал это умозаключение сам. И продолжает делать открытия за шахматной доской самостоятельно. Вот если бы программа доказала (и поняла), что два короля на доске - это ничья, исходя только из самых минимальных знаний о правилах игры, это было бы, как мне кажется, весомым результатом при малых усилиях. Когда человек думает над позицией с двумя королями, он в процессе обработки вариантов, как мне кажется, на самом деле охватывает все возможные комбинации и дотрагивается до бесконечности. Вот в этой способности просто играючи охватывать большие комбинаторные множества без исключений (и даже саму бесконечность) кроется главная фича и сила интеллекта.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
06:23 21.07.2021 06:25 21.07.2021 №1361
Влад:
Prosolver:
Напротив, надеюсь, благодаря этому у Prosolver/а присутствуют зачатки осознанного понимания системного порядка существования разума.
Это можно проверить. На форуме gotai.net Egg определял Интеллект как способность. На форуме agi.place Egg определяет Интеллект как явление. Нужно поставить точку в его метаниях, поставьте свои названия значений Разума в системной таблице: 0. Явление - 0.1. Структура - 0.2. Порядок (способность) - 0.3. Процесс -
Явление = Всё, что угодно. Порядок - более общее и немного другое явление по сравнению со способностью. Можно использовать для явления названия разного уровня общности в зависимости от контекста, - лишь бы другие поняли.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
07:15 21.07.2021 №1364
Влад:
kondrat:
Явление = Всё, что угодно. Порядок - более общее и немного другое явление по сравнению со способностью. Можно использовать для явления названия разного уровня общности в зависимости от контекста, - лишь бы другие поняли.
Интеллект, это что, явление или способность, а может быть структура? Это тест на понимание, ориентировку в рассматриваемом форумом вопросе.
Интеллект - это точно явление, в котором, очевидно, присутствуют связность и повторяемость (структура), которая позволяет носителю интеллекта целенаправленно действовать (способнсть). Как их разделить?
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
08:01 21.07.2021 №1368
Egg:
знать - это уметь. Опровержение этой формулы я пока не видел Все умения и "знания" хранятся вне людей
Согласен с тем, что в богатом социальном взаимодействии человеческий интеллект раскрывается и развивается наилучшим образом. Согласен с тем, что знания накапливаются и хранятся наилучшим образом в богатом социальном взаимодействии. Но: 1. Очевидно должен быть некий минимальный социум, в котором интеллект ещё возможен. Мне кажется что пара учитель-ученик - это уже достаточный социум, чтобы интеллект мог как-то работать. Не говорю сейчас про наилучшие условия, говорю про минимальные. Если пары не достаточно, то сколько? Ведь мало сказать "социум", надо чётко определить его необходимые признаки, если уж утверждается, что социум есть необходимое условие интеллекта. Признаюсь, пытался найти какие-то опытные подтверждения тому, что пара человек - это уже жизнеспособный социум. Пока не нашёл. Найду - покажу. 2. Если знать - это уметь, то социум не может уметь. У него нет для этого актуаторов, манипуляторов. Умеет всегда конкретный человек, мастер. Поэтому высоко ценятся отдельные специалисты, умеющие что-то лучше других. Ручками шевелят конкретные люди. Да, они не вечны, когда-то умрут. И если успеют кому-то передать свои умения, то эти умения сохранятся для следующих поколений. Эти умения станут своими для других людей. А если не успеют, то эти умения пропадут навсегда. До тех пор, пока такие же или похожие умения не переоткроет ещё кто-то конкретный. 3. Если под "знанием числа Pi" понимать "умение вспомнить последовательность цифр числа Pi в нужный момент" - то не вижу никаких противопоказаний для называния знаний умениями. Это вопрос вкуса.
Влад:
поставьте свои названия значений Разума в системной таблице
Признаюсь, я не понимаю методологию Вашего подхода. Вы её плохо объясняете. Поэтому отвечу коротко, как умею. Мышление - это несомненно процесс, форма и способ функционирования такого физиологического органа, как интеллект. Смыслом и содержанием деятельности этого органа есть научение нормам и причинно-следственным отношениям, позволяющим выявлять и устранять нарушения этих норм в некоторой среде. Вполне допускаю, что это понимание и объяснение - моя профессиональная деформация, связанная с государственной службой, где удивительным образом именно эта деятельность является центральной. Но если учесть, что органы государственной власти - это "мозг социума", то где как не в госслужбе искать общественный аналог индивидуального интеллекта.
Gather:
интроспекция это важно, но увы крайне не достаточно
Речь идёт не только об интроспекции. В целом создатели ИИ, как я вижу, мало уделяют внимания изучению той деятельности, которая называется "мышление". Во внутренних и внешних своих проявлениях. Поэтому они не могут ни поставить нормальное техническое задание, ни определить, что такое интеллект, ни тем более сказать где он есть, где его нет, где его больше, где меньше. Нет общепризнанной метрики интеллектуальности или разумности. В этом я вижу главную проблему и причину. А Вы, кстати, обещали назвать свою версию главной причины, но так и не назвали.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
09:45 21.07.2021 №1373
Egg:
Gather:
Самому по себе СИИ не обязательно нужен будет социальный опыт в реальном времени, но при обучении его точно нужно будет симулировать, особенно если это будет коммуникативный робот. Потом он конечно может доучиться в процессе общения в реальном времени, что хорошо будет в СИИ, что опыт всех предыдущих можно будет переносить новым без переобучения.
Это перспектива очень далекого будущего. Пока мы имеем аппроксимацию вместо обучения. Проблемы с до- и пере- обучением сеток и деревьев. Вместо общения - марковское достраивание сообщения по миллиардным базам примеров. Вместо коммуникации и диалога - импликативные сети по ключам. И ничего из того, что я сейчас перечислил вообще никакого отношения к интеллекту не имеет. На сегодняшний момент нет никаких, даже самых минимальных представлений о механизмах интеллекта.
Да аппроксимация, но она же и у нас в мозгах происходит, только намного более так сказать проработанная, заточенная под всё множество модальностей восприятия и активность в среде. Потихоньку потихоньку, костыликами, один за одним идём к более объёмным моделям. Я не согласен с тем что мол всё что делается сейчас по ML "совсем мимо", я думаю это шаги.
Prosolver:
Gather:
совсем новое решается людьми, всей человеческой расой, очень туго, рандомно, нет у нас того AGI про который все говорят
Конечно, никакой мистики в интеллекте нет. Большая часть "наших" решений была рассказана нам кем-то и мы только запомнили и воспроизводим эти фокусы. Но ведь все конкретные точечные изобретения и открытия делались конкретными людьми, а значит каждый индивидуальный интеллект потенциально способен на большее, чем просто скопировать чужое поведение, или постоянно делать только ошибки. Меня вот сейчас интересует задачка построения искусственных умозаключений для игры в шахматы. Например, в ситуации, когда на поле два короля, любой скажет, что это ничья. Кто-то это скажет потому, что его обучили данному "фокусу" другие люди. А кто-то сделал это умозаключение сам. И продолжает делать открытия за шахматной доской самостоятельно. Вот если бы программа доказала (и поняла), что два короля на доске - это ничья, исходя только из самых минимальных знаний о правилах игры, это было бы, как мне кажется, весомым результатом при малых усилиях. Когда человек думает над позицией с двумя королями, он в процессе обработки вариантов, как мне кажется, на самом деле охватывает все возможные комбинации и дотрагивается до бесконечности. Вот в этой способности просто играючи охватывать большие комбинаторные множества без исключений (и даже саму бесконечность) кроется главная фича и сила интеллекта.
Всё так и разумеется те системы ML что сейчас имеются в наличии, очень далеки от нашего ЕИ, прежде всего ИМХО количественно, хотя частично может и качественно. Однако как говорится "раз в год и палка стреляет", в том смысле что всё же надо признать что такая штука как изобретательство это рандом, стохастический поиск, также как у примитивных животных которые не имеют готового решения, только у нас это делается более структурно, но суть та же. Я это к тому что именно в контексте AGI часто упоминают именно "моделирование новых сред". Шахматная задачка достаточно интересная, я думаю что "доказать" это перебрать все комбинации, если строго, но человек для себя лично на "здравом смысле" будет интуитивно уверен и за пару сотен примеров, иногда и пару десятков будет достаточно. :)
Luarvik.:
Легко рассуждать о вещах глобальных, отвлеченных, "высоко" абстрактных, о причинах космических масштабов ("и космической же глупости"), а между тем, на этих двух страницах вы продемонстрировали все самые "главные препятствия в создании ИИ" ))) Я бы мог перечислить их буквально по пунктам не отходя, как говорится, от кассы, но не стану этого делать по понятным, надеюсь, причинам.
А всё таки извольте, если не затруднит.
Влад:
Интеллект, это что, явление или способность, а может быть структура? Это тест на понимание, ориентировку в рассматриваемом форумом вопросе.
kondrat:
Интеллект - это точно явление, в котором, очевидно, присутствуют связность и повторяемость (структура), которая позволяет носителю интеллекта целенаправленно действовать (способнсть). Как их разделить?
Предлагаю разделять с одной стороны "интеллект" как образ, который мы узнаём общаясь с себе подобными, это очень комплексная штука, формально плохо определяемая, как "красота", "юмор", и "интеллектуальные функции\компоненты\способности" с другой стороны, например умение складывать, вычитать, распознавать образы - интеллектуальные функции. Моя ИМХА состоит в том что тот образ интеллекта как мы его понимаем на уровне здравого смысла, то есть то что должно пройти ТТ, это некая совокупность достаточно простых по отдельности "интеллектуальных функций" и некой мета-интеллектуальной(ых) функций над ними, своего рода агрегаторов, сборщиков. В итоге выходит весьма сложная система, описать в паре предложений её функциональность невозможно и не нужно, только на опыте на примерах можно её "внять".
Prosolver:
Gather:
интроспекция это важно, но увы крайне не достаточно
Речь идёт не только об интроспекции. В целом создатели ИИ, как я вижу, мало уделяют внимания изучению той деятельности, которая называется "мышление". Во внутренних и внешних своих проявлениях. Поэтому они не могут ни поставить нормальное техническое задание, ни определить, что такое интеллект, ни тем более сказать где он есть, где его нет, где его больше, где меньше. Нет общепризнанной метрики интеллектуальности или разумности. В этом я вижу главную проблему и причину. А Вы, кстати, обещали назвать свою версию главной причины, но так и не назвали.
"Мышление" как и "интеллект" часто люди смешивают и даже путают, мышление достаточно доступно нам в процессе саморефлексии, я бы определил мышление как одну из множества "интеллектуальных функций", задача которой по большей части в построении рассуждений на естественном языке и одновременном представлении их в цепочки образов. Это процесс моделирования посредством текстового нарратива, что даёт способ регулировать поток образных ассоциаций и даже создавать новые комбинируя имеющиеся, из разных полей проекции в мозгу. Это мощный инструмент моделирования и безусловно главный компонент отличающий наш разум от животных.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
10:35 21.07.2021 10:37 21.07.2021 №1375
Gather:
kondrat:
Интеллект - это точно явление, в котором, очевидно, присутствуют связность и повторяемость (структура), которая позволяет носителю интеллекта целенаправленно действовать (способнсть). Как их разделить?
Моя ИМХА состоит в том что тот образ интеллекта как мы его понимаем на уровне здравого смысла, то есть то что должно пройти ТТ, это некая совокупность достаточно простых по отдельности "интеллектуальных функций" и некой мета-интеллектуальной(ых) функций над ними, своего рода агрегаторов, сборщиков. В итоге выходит весьма сложная система, описать в паре предложений её функциональность невозможно и не нужно, только на опыте на примерах можно её "внять".
А моя ИМХА заключается в том, что интеллект, конечно, попытается примерить на любую задачу самые привычные в данном контексте решения (самый эффективный подход). Потом посвязывает-пооценивает что-нибудь из других эшелонов привычности. А потом, вдруг, совершенно внезапно и параллельно (но не независимо!) предыдущим процессам проложит совершенно новый путь к решению. Настоящий интеллект должен всё это мочь. В отличие от Эгга, который думает, что всё произойдёт не скоро, я исполнен оптимизма. А основанием для этого является тот факт, что история подкреплений конечна, а совокупное (т.е. по всем особям) будущее гораздо продолжительнее. Понятно о чём я?
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
11:15 21.07.2021 11:22 21.07.2021 №1376
kondrat:
А моя ИМХА заключается в том, что интеллект, конечно, попытается примерить на любую задачу самые привычные в данном контексте решения (самый эффективный подход). Потом посвязывает-пооценивает что-нибудь из других эшелонов привычности. А потом, вдруг, совершенно внезапно и параллельно (но не независимо!) предыдущим процессам проложит совершенно новый путь к решению. Настоящий интеллект должен всё это мочь.
"совершенно новый" вряд ли, разве что достижимый "методом тыка".
kondrat:
В отличие от Эгга, который думает, что всё произойдёт не скоро, я исполнен оптимизма. А основанием для этого является тот факт, что история подкреплений конечна, а совокупное (т.е. по всем особям) будущее гораздо продолжительнее. Понятно о чём я?
Не очень если честно :) На счет оптимизма я был бы по скромнее, реальная разработка это процесс ооочень топкий, порой даже на совсем очевидно-разрешимых конструкциях вязнешь на недели-месяцы, а когда вырастает франкинштейн в миллионы строк часть из которых написаны десятилетия назад на другом языке, всё становится совсем печально, а СИИ это именно про такой масштаб, возможно на порядки больший. Кто работал в крупных софтверных конторах где пишется софт вроде ОСок понимает о чем я.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
12:37 21.07.2021 №1378
Gather:
А всё таки извольте, если не затруднит.
Моё сообщение №1351, которое было ровно по теме, Вы не особо задумываясь удалили без объяснения причины. И чего Вы ещё хотите ? Чтоб я метал тут бисер ?
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
13:15 21.07.2021 №1379
Gather:
"совершенно новый" вряд ли, разве что достижимый "методом тыка".
Да. К тому же, ещё и тыка в правильном направлении, но такого, что никакие привычные правила/методики его не подскажут. Кроме одного: сделай что-нибудь не так, как всегда, даже если страшновато. К сожалению, чисто стохастическая методика не годится для определения, что и когда сделать не так. Но с точки зрения элементарного рефлектирующего агента нужно сделать "так" ровно столько раз, сколько раз получал подкрепление этой связки и один разок сделать не так. Всё немного сложнее, конечно. Но выбирая место и частоту исходя из отношений количеств и весов негативных и позитивных оценок, можно добиться успеха, кмк. На ансамбле таких независимо действующих агентов эффекты должны выглядеть сложнее. Разработка такой среды не очень сложна даже в распределённом варианте, а вот создание внешних оболочек, в которых она будет приносить пользу, а не кошмар, - это вопрос. Я тут подумал, что и для изменчивости ДНК космические лучи не обязательны. Она тоже может меняться целенаправленно, без ущерба для базовых функций и без участия внешнего по отношению к организму отбора..
0 | 0
create
Главное препятствие в создании СИИ.
13:33 21.07.2021 №1380
Причины изменений в ДНК могут быть разные, но если говорить за мутации, то они не могут быть направленными. В крайнем случае, отчасти направленным. мутагенез можно сделать лишь у бактерий.
0 | 0
Аватар
create
Главное препятствие в создании СИИ.
13:44 21.07.2021 №1381
rrr3:
Причины изменений в ДНК могут быть разные, но если говорить за мутации, то они не могут быть направленными. В крайнем случае, отчасти направленным. мутагенез можно сделать лишь у бактерий.
Я не утверждаю, но подозреваю, что можно делать отдельные участки более или менее подверженными мутациям, а также склонность к мутациям может зависеть от состояния организма.
0 | 0
1
2
3
4
5
6
7
шрифт+
шрифт-
Скачать
Вперёд

Главная Участники Жалобы  Поиск Исходный код О форуме