|
Сообщения участника "Prosolver" | |
| |
|
create
|
| Главное препятствие в создании СИИ. |
Egg:
у меня награда от IEEE Прошу прощения, но видимо моих поисковых умений не хватает, чтобы найти эту работу. Это информация с грифом? Или простым смертным, вроде нас, можно где-то почитать её в открытом доступе? |
| |
|
create
|
| 15:25 27.07.2021 |
|
20:22 27.07.2021 |
|
№1475 |
Цитата:«Искусство»
Родственно словам «искушать», «искушение» и через них — старославянскому «куси́ти» — «пытать», «познаваться». «Искуси́ти» значило «подвергнуть испытанию»; «искусство» — «умение испытывать». Говорим же мы и теперь «искушенный человек» про того, кто многоопытен, много испытал. Позднее слово стало синонимом для «художество».
«Искусственный»
Немецкое — kunstlich (поддельный, ненатуральный). Слово появилось в русском языке в середине XVIII в. Скорее всего, оно является калькой с немецкого слова с тем же значением. Буквально — «сделанный руками человека» (и, значит, неестественный, не от природы).
У меня создаётся впечатление, что многие создатели ИИ исходят в своей деятельности из того, что слово "искусственный" происходит от слова "искусство" и поэтому пытаются интеллект искусственный делать как "произведение искусства", как плод своего воображения, творческой фантазии. Совершенно забывая о том, что искусственный означает просто "сделанный вручную", ненатуральный. Я бы здесь ещё добавил и усилил - не просто сделанный вручную, а сделанный вручную взамен естественного. Ведь именно замена чего-то натурального чем-то ненатуральным подразумевается, когда мы говорим про искусственную кожу, искусственное мясо, искусственную траву, искусственную кому.
Искусственный интеллект самим своим названием подразумевает, что есть некий естественный процесс (орган, механизм), который в силу каких-то обстоятельств требует замены на искусственный. Почему он требует замены, чем нас не устраивает естественный интеллект - это хорошая тема для другого разговора. А сейчас я хочу ещё раз обратить внимание на то, что естественный интеллект давно является предметом изучения психологов. И хотя у них не было цели репликации интеллекта, создания искусственного интеллекта, они изучали его с другими практическими целями, требующими достаточной точности и конкретного результата. Поэтому было бы, по меньшей мере, легкомысленно и расточительно отбрасывать итоги их наблюдений и не попытаться их применить для решения задачи создания AGI. А по большей мере, делать искусственное нечто, не понимая, что собой представляет его естественный аналог - просто бесперспективно.
В этом топике я хочу продолжить близкий мне подход к интеллекту со стороны психологии.
Цитата:Теория социального научения (ТСН) – теория личности, разработанная американским психологом Джулианом Роттером. Согласно ТСН, социальное поведение личности можно исследовать и описать с помощью понятий
"поведенческий потенциал",
"ожидание",
"подкрепление",
"ценность подкрепления",
"психологическая ситуация",
"локус контроля".
Под "поведенческим потенциалом" понимается вероятность поведения, встречающегося в ситуациях с подкреплением; подразумевается, что каждый человек обладает определённым потенциалом и набором действий и поведенческих реакций, сформировавшихся в течение жизни.
"Ожидание" в ТСН относится к субъективной вероятности того, что определённое подкрепление будет наблюдаться в поведении в сходных ситуациях. Стабильное ожидание, генерализованное на основе прошлого опыта, объясняет устойчивость и цельность личности. В ТСН различаются ожидания, специфичные для одной ситуации (специфические ожидания), и ожидания наиболее общие или применимые к ряду ситуаций (генерализованные ожидания), отражающие опыт различных ситуаций.
"Психологическая ситуация" такова, какой ее воспринимает личность. Особо важным является роль ситуационного контекста и его влияние на поведение человека и на психологическую ситуацию.
Роттер определяет "ценность подкрепления" как степень, с которой личность при равной вероятности получения подкрепления предпочитает одно подкрепление другому. На поведение человека влияет ценность ожидаемого подкрепления. Разные люди ценят и предпочитают разные подкрепления: кто-то более ценит похвалу, уважение со стороны других, кто-то – материальные ценности или более чувствителен к наказанию и др. Существуют относительно устойчивые индивидуальные различия в личностном предпочтении одного подкрепления другому. Как и ожидания, ценность подкрепления основана на опыте личности и может меняться с течением времени и от ситуации к ситуации. При этом ценность подкрепления не зависит от ожидания. Она связана с мотивацией, а ожидание – с познавательными процессами.
Предсказание вероятности поведения личности в некоей ситуации базируется на двух основных переменных – ожидании и ценности подкрепления. В ТСН предлагается формула для прогноза поведения личности, базирующаяся на основных понятиях теории: поведенческий потенциал = ожидание + ценность подкрепления.
Поведенческий потенциал включает пять потенциальных "техник существования":
1) поведенческие реакции, направленные на достижение успеха и служащие основанием социального признания;
2) поведенческие реакции приспособления, адаптации, которые используются как техники согласования с требованиями других людей, общественных норм и т. д.;
3) защитные поведенческие реакции, используемые в ситуациях, требования которых превышают возможности человека в данный момент (например, такие реакции, как отрицание, подавление желаний, обесценивание, затушевывание и т. д.);
4) техники избегания – поведенческие реакции, направленные на "выход из поля напряжения", уход, бегство, отдых и т. п.;
5) агрессивные поведенческие реакции – это может быть и физическая агрессия, и символические формы агрессии типа иронии, насмешки, интриг и др.
Роттер полагал, что люди всегда стремятся максимизировать поощрение и минимизировать или избежать наказания. Цель определяет направление поведения человека в поисках удовлетворения основных потребностей, которые обусловливают набор различных типов поведения, включающих, в свою очередь, различные наборы подкреплений.
В ТСН выделяются шесть видов потребностей, применимых к прогнозу поведения:
1) "статус признания", означающий потребность чувствовать себя компетентным и признанным авторитетом в широком спектре деятельностей;
2) "защита-зависимость", определяющая потребность личности в защите от неприятностей и ожидании помощи от других в достижении значимых целей;
3) "доминирование", включающее потребность влиять на жизнь других людей, контролировать их и доминировать над ними;
4) "независимость", определяющая потребность принимать самостоятельные решения и достигать цели без помощи других;
5) "любовь и привязанность", включающие потребность в принятии и любви других;
6) "физический комфорт", включающий потребность в физической безопасности, здоровье и отсутствии боли и страданий. Все другие потребности приобретаются в связи с названными и в соответствии с удовлетворением основных потребностей личности в физическом здоровье, безопасности и удовольствии.
Роттер предполагал, что каждая категория потребностей состоит из трех основных компонентов: потенциал потребности, ее ценность и свобода деятельности. В сочетании они составляют основу формулы общего прогноза:
потенциал потребности = свобода деятельности + ценность потребности.
Потенциал потребности представляет собой функцию от свободы деятельности и ценности потребности, что позволяет прогнозировать реальное поведение личности. Человек склонен стремиться к цели, достижение которой будет подкреплено, а ожидаемые подкрепления будут иметь высокую ценность.
Базовое понятие генерализованного ожидания в ТСН – интернально-экстернальный "локус контроля", базирующийся на двух основных положениях:
1. Люди различаются по тому, как и где они локализуют контроль над значимыми для себя событиями. Выделяется два полярных типа такой локализации – экстернальный и интернальный.
2. Локус контроля, характерный для определённой личности, надситуативен и универсален. Один и тот же тип контроля характеризует поведение данной личности как в случае неудач, так и в случае достижений, и это в равной степени касается различных областей социальной жизни и социального поведения.
Для измерения локуса контроля, или, как его иногда называют, уровня субъективного контроля, используется "Шкала интернальности-экстернальности" Роттера. Локус контроля предполагает описание того, в какой степени личность ощущает себя активным субъектом собственной деятельности и своей жизни, а в какой – пассивным объектом действий других людей и обстоятельств. Экстернальность – интернальность является конструктом, который следует рассматривать как континуум, имеющий на одном конце выраженную "экстернальность", а на другом – "интернальность"; убеждения же людей расположены на всех точках между ними, по большей части в середине.
Личность способна добиться большего в жизни, если она верит, что ее судьба находится в собственных руках. Экстерналы намного сильнее подвержены социальному воздействию, чем интерналы. Интерналы не только сопротивляются постороннему воздействию, но также, когда представляется возможность, стараются контролировать поведение других. Интерналы в большей степени уверены в своей способности решать проблемы, чем экстерналы, и поэтому независимы от мнения других.
Личность с экстернальным локусом контроля полагает, что ее успехи и неудачи регулируются внешними факторами, такими как судьба, удача, счастливый случай, влиятельные люди и непредсказуемые силы окружения. Личность с интернальным локусом контроля верит в то, что удачи и неудачи определяются ее собственными действиями и способностями.
Экстерналам присуще конформное и зависимое поведение. Интерналы в отличие от экстерналов, не склонны к подчинению и подавлению других, и сопротивляются, когда ими манипулируют и пытаются лишить степеней свободы. Экстерналы не могут существовать без общения, легче работают под наблюдением и контролем. Интерналы лучше функционируют в одиночестве и при наличии необходимых степеней свободы.
У экстерналов чаще возникают психологические и психосоматические проблемы, чем у интерналов. Им свойственны тревожность и депрессивность, они более склонны к фрустрациям и стрессам, развитию неврозов. Установлена связь высокой интернальности с положительной самооценкой, с большей согласованностью образов реального и идеального "Я". Интерналы обнаруживают более активную, чем у экстерналов, позицию по отношению к своему психическому и физическому здоровью.
Экстерналы и интерналы различаются также и по способам интерпретации социальных ситуаций, в частности, по способам получения информации и по механизмам их каузального объяснения. Интерналы предпочитают большую осведомленность в проблеме и ситуации, большую ответственность, чем экстерналы, в отличие от экстерналов избегают ситуационных и окрашенных эмоциями объяснений поведения.
На эту теорию я наткнулся случайно в процессе изучения латинско-русских словарей. Меня заинтересовало, что на латыни одно из моих любимых понятий "место" обозначается словом "locus". И я подумал, что это слово, будь оно кем-то применено в психологии, наверняка относилось бы к какой-то хорошей теории. И введя в гугле запрос "локус психология" нашёл теорию Роттера. Возможно, это общеизвестная популярная теория, которую стыдно не знать, но я не помню, чтобы встречал её раньше.
Пройти тест на свой локус контроля (грубо говоря, место контроля, центр управления своей жизнью) можно, например, здесь.
В этой теории меня особо заинтересовал этот самый локус контроля. Поскольку ранее я уже отмечал интернально/экстернальную проблему принятия решений, решения которой не видно. И, наверное, его нет.
Суть этой глубинной проблемы в том, что у любой проблемы могут быть ровно две противоположные причины:
- либо это я неправильный
- либо это мир неправильный
и, соответственно, от выбора варианта причины зависит, что нужно исправлять (как решать проблему). В первом случае для решения проблемы надо исправлять себя, во втором случае - исправлять мир. В общем случае нет однозначной возможности определить некий один объективный истинный вариант. Эти два противоположных варианта правильны одновременно.
Рассмотрим пример.
Вы купили в магазине некачественный товар. Например, колбасу. Пришли домой распаковали, а она порченная. У интеллекта есть ровно две правильные альтернативы:
1) это я неправильный. Надо было внимательно смотреть на срок годности, понюхать, распаковать в магазине, перепроверить. Решение - запомнить себе как норму, научить себя, завести правило - тщательно проверять любой товар перед покупкой.
2) это мир неправильный. Магазин обязан проверять качество своих товаров и я, как покупатель, защищён законами о моих потребительских правах. Решение - отнести товар в магазин, устроить скандал, потребовать вернуть деньги, заставить администрацию магазина уволить мерчендайзера колбасного отдела, ввести контроль качества, обратиться в правоохранительные органы.
И то и другое решение абсолютно правильное. И то и другое решение скорее всего приведёт к тому, что в дальнейшем эта проблема возникать не будет (будет соблюдаться норма о том, что все купленные товары должны быть свежими и годными). Но проблемы для создателей AGI только начинаются. Из данного примера следует, что некий универсальный всеправильный AGI для всех случаев не возможен. Что должен быть набор разных AGI с разными врождёнными характеристиками личности (с разными локусами контроля, распределёнными равномерно по шкале от абсолютно интернального до абсолютно экстернального), которые будут решать проблемы принципиально по разному и только тогда они смогут обеспечить правильное решение в широком смысле.
P.S.
Выжимка любопытных, с моей точки зрения слов, из латинско-русского словаря:
ab от, из
solvi, solûtum, ab-solvo освобождать
ab-sum отсутствовать
ad-sum быть
alio в другое место
alter другой (из двух)
anima душа
animal животное
ante перед, до
antea прежде
appello называть
arma оружие
audio слышать
bellum война
bonitas добро
bonus хороший
bracchium рука
brevis краткий
caput голова
casus случай
causa причина
com-prehendo понимать
copia изобилие
corpus тело
credo верить
debeo быть должным
debilis слабый
deleo разрушать
destino предназначать
dexter правый
discipulus ученик
disco учиться
e, ex из, от, со временем
ego я
epistula письмо
ergo следовательно
erro ошибаться
exceptio исключение
exemplar пример
existimo судить
ex-specto ожидать
extra за, вне
fabula сказка, история
fallo, falsum ошибаться
finis конец
forum площадь
gens род, народ
intel- = inter- перед начальным l основного слова
inter- между, среди
intellectum понимать
imaginis образ, изображение
impero приказывать
infans ребенок
lectio чтение, урок
lex закон
libera свободный
liberi дети
loco, locâtum помещать, размещать
locus место
manus рука
matris мать
mens, mentis ум, разумение
miror удивляться
moderâtus умеренный
modus образ, способ
negâtum отрицать
nomino именовать
non не, нет
principium начало
propter по причине
ratio расчет, мысль
regula правило
res вещь, дело, предмет
salveo быть здоровым
sane хорошо, верно
scio знать
servo служить
singulâris единичный, исключительный
socius товарищ
specto смотреть
sponte добровольно
status состояние
sum быть
tempus, temporis время
turbo смешивать
utilis полезный
verum правда
video видеть
Если взять во внимание, что приставка "intel-" в латыни - это аналог приставки "inter-" ("между, среди") для тех слов, которые начинаются на "L", то "интеллект" вполне можно было бы записывать по-русски как "интерлект". А если учесть, что "lectio" означает "чтение, урок", то интерлект - с точки зрения Римской империи - это что-то вроде посредника в обучении. Может быть знатоки латыни меня поправят и дадут более точную версию этимологии. |
| |
|
create
|
Egg:
к решению задачи это не приближает. Ибо задача не только не поставлениа, но даже не артикулирована как следует Можно вопрос. С твоей точки зрения, кто в этом виноват в большей степени? Ты или я? |
| |
|
create
|
Egg:
нет не только дорожной карты, но даже обозначения направления движения
...
в глобальном эволюционном процессе становления Интеллекта Возможно, я ставлю просто не ту задачу, которую ты ожидаешь. Я ставлю задачу изучения и воссоздания человекоподобного интеллекта (если не полномасштабного, то хотя бы сходного по принципам, методам функционирования). Ты же, насколько я понимаю, ставишь задачу не столько создания искусственного, сколько развития интеллектуальности, как явления, новыми технологическими средствами. Но лично я далёк от такой общей постановки вопроса. Меня сейчас не сильно интересует сверхсильный нечеловеческий суперинтеллект. Это совсем другая задача. И, как мне кажется, её можно корректно поставить только после того, как будет полностью изъезжена и окончательно решена задача воссоздания обычного "И" человеческого масштаба. Когда школьники будут собирать человекоподобные ИИ на лабораторных в 5-ом классе. Когда любого сотрудника на любой интеллектуальной работе можно будет просто заменить на искусственную интеллектуальную штатную единицу. В твоей постановке задачи, как мне видится, может быть вообще не целесообразно говорить про "искусственный" интеллект. Имеет смысл говорить о некоторой принципиально новой надстройке над человеческим социальным интеллектом, типа усилителя интеллекта, о котором говорил Переверзев-Орлов Вячеслав Сергеевич (Slava).
Если бы перед инженером была поставлена задача "создать искусственную траву", то, на мой взгляд, очевидно, ему нужно было бы просто изучить свойства естественной травы и воссоздать их искусственными средствами. Было бы по меньшей мере странно, если бы вместо мелких мягких зелёных синтетических пластинок, инженер создал бы, например, красный двухметровый частокол из чугунных прутьев и назвал это суперпродвинутой искусственной травой (ИТ). Я бы посчитал что задача не решена, насколько бы продвинутой, с точки зрения инженера, ни была его ИТ. |
| |
|
create
|
Egg:
Либо мы говорим об интеллектуальных (когнитивных) функциях, либо нет Данный топик открыт для подхода к интеллекту со стороны психологии. Наверное, к интеллекту можно приближаться и с других сторон: информационных технологий, религии, эмоций, биологии, лингвистики, педагогики, математики. Если бы была такая наука "интеллектология", то наверное приближение с этой стороны было бы скорейшим. Но такой науки нет. Максимально близко к искомой сфере знаний, наверное, психология. Если я ошибаюсь и этот топик окажется неэффективным, то он просто погибнет, да и всё.
Для подхода к интеллекту со стороны информационных технологий, наверное, можно открыть специальный топик. Только я думаю, первым же делом там попросят поставить ТЗ и чётко ответить на вопрос: а что собственно Вы хотите в итоге получить? Здесь-то и пригождаются психологические знания.
Если я буду говорить об интеллекте в моём понимании (оно у меня есть и другого у меня нет), то я буду обречён говорить сам с собой. В этом я имел неудовольствие неоднократно убедиться. У людей, к сожалению, очень разные представления об этом предмете. Вот, например, некоторые экземпляры дихотомий:
мозг человека производит акты мышления самостоятельно VS мозг это приёмо-передающее устройство для связи с коллективным эгрэгором, который единственный производит акты мышления
человек был создан богами, чтобы им служить VS человек возник случайно, чтобы удовлетворять свои инстинкты и выживать
человек детерминированный автомат VS у человека свободная воля
модель мира строится на данных рецепторов VS модель мира строится из врождённых примитивов, а на рецепторах только выборочно тестируется
искусственное сознание необходимо VS искусственное сознание не нужно
эмоции важны для правильной работы мышления VS эмоции крайне вредны и мешают мышлению
память запоминает всё VS человек уже всё знает с рождения
Как можно говорить об интеллекте сразу предметно, если нет надёжно обоснованного (а не просто конвенционального) консенсуса в рамках этих дихотомий?
Лично моя постановка задачи очень проста и конкретна - требуется изготовить:
механическое устройство, желательно (но не обязательно) человекоподобное,
с любым типом привода эффекторов,
которое будет существовать в обществе людей, изучать, запоминать и применять их нормы,
вместе с этим познавать нормы окружающей среды (помимо социума),
у которого будет один хозяин (я), команды которого оно будет воспринимать как высшие нормы,
которое будет выполнять мои команды, самостоятельно подбирая и ставя себе промежуточные задачи.
В моём понимании именно это будет искусственным интеллектуальным устройством, которым можно будет заменить естественных интеллектуальных людей. Но я допускаю, что у кого-то может быть другое представление, поэтому не настаиваю на своей формулировке.
cortl:
Мне видится необходимум построить фундамент А я прочитал "необходимимум". По-моему хорошее слово. Гугл не знает такого. Это можно засчитать за новацию? |
| |
|
create
|
Luarvik.:
подойти с позиции элементарного здравого смысла Можете показать список элементарных смыслов?
cortl:
Не проще ли обзавестись человеками-рабами? Это запрещено законом, посадят. Ирония состоит в том, что других-то человеков по сути и нет. Разница между рабом и "свободным" человеком только в том, что свободный сам выбирает себе источник приказов (задач, целей, норм). Вечный Юрьев день. А у раба - один источник приказов. С точки зрения изучения и воссоздания работы интеллекта проще и безопаснее рассматривать ситуацию, когда источник приказов один и задан заранее. Но это не принципиально. Можно рассматривать и общий случай "свободного" человека.
Egg:
есть просто Научный Метод, которого достаточно (и необходимо) придерживаться Солидарен с этим мнением в общем, о чём уже говорил ранее. Хочу только дополнить, что научный метод не с небес к нам спустился. А стал результатом многовекового наблюдения за работой интеллекта и селекции тех методов, которые "чудесным образом" оказались "почему-то" эффективными в широком круге задач. Секрет в том, имхо, что научный метод работает хорошо только в той мере, в которой он соответствует методам работы человеческого мышления.
Если бы всё было так просто, то достаточно было бы научный метод изложить языком Си и вот он - готовый ИИ. Но, к сожалению, научный метод не настолько детализирован, и до сих пор требует живого человека в качестве обязательного звена.
Кстати, подобное же явление я обнаружил в сфере юриспруденции. Судьи принимают решения, пользуясь некоторой судебной методологией, которая на самом деле нигде чётко не формализована и поэтому требует наличия живого человека. И функция судьи, и функция учёного - дополнять собою научный/судебный метод, чтобы он работал. Поэтому ни автоматической науки, ни автоматических судов у нас сейчас, к сожалению, нет.
Gather, благодарю за источники, постараюсь изучить. |
| |
|
create
|
| Предложения/замечания/новости по движку форума |
cortl, насколько я понимаю, флудилка не модерируется по определению. Я уже предлагал открыть флудильню, но желающих нет.
Мне кажется, ключевой вопрос, на который стоит ответить, прежде чем заводить любой топик на публичном форуме, это не "захочу ли я туда писать?", а "захочет ли кто-то это читать?".
|
| |
|
create
|
Egg:
то, что мы не в состоянии облечь научный подход в алгоритм говорит о сложности мира Пытаюсь понять логику этого умозаключения.
Я исхожу из того, что научный метод - это циклический процесс генерации новых знаний, подтверждаемых экспериментами, поставленными на базе старых знаний. Научный метод в астрономии, медицине, биологии - это ведь один и тот же научный метод. От того, что "теплород" поменялся на "энергию" учёные не перестали ставить эксперименты. И через 100 лет, когда в технологию войдут квантовые компьютеры и всякие звездолёты, учёные не перестанут выдвигать гипотезы и ставить эксперименты. Научный метод не может зависеть от сложности/простоты мира, для изучения которого он применяется.
Как ты всегда учил, я пошёл в школу, за парту, и вот что я нашёл в свежем учебнике по физике за 7-ой класс (прошу прощения, учебники у нас теперь только на украинском):
Ключевая цитата к рис. 3.6: Цитата:
Однако и в наши дни основные этапы получения новых знаний (наблюдение - гипотеза - эксперимент) остаются неизменными. Вот этот цикл:
наблюдение ⇒ теория ⇒ гипотеза ⇒ эксперимент ⇒ знание ⇒ наблюдение
- это ведь не про мир, это про интеллект. И от того, что мир сложнее или проще, сам этот цикл познания, как метод, никак не меняется. Потому что мышление не меняется. Меняется только его наполнение.
На мой взгляд, наука не автоматизирована только потому, что когнитивная составляющая научного метода (построение теорий и гипотез) остаётся плохо проработанной. Она остаётся прерогативой человека, потому что как раз таки человек плохо изучен, а не мир. Учёный вдруг осознаёт, что он изобрёл теорию, но он не понимает, как он это сделал. Например, "Основания математики" Гильберта и Бернайса - это ведь не про мир, это про мышление математиков. Попытка автоматизировать процесс выдвижения математических теорий.
Если всё же исходить из того понимания, что человеческий когнитивный мыслительный процесс представляет собой неизменный циклический процесс накопления индивидуальных знаний и является базисом для функционирования всех социальных институтов, то логично провести следующую аналогию на 3-х слоях организации:
отдельный человек / наука / государственная бюрократическая машина
восприятие / наблюдение / министерство статистики
акт воли / эксперимент / исполнительная власть
память / протокол эксперимента / архив
оценки / измерения / аудит
индивидуальные нормы / законы природы / законы государства
Болдачев недавно намекнул на интересную идею, что "понятие" это может быть физический феномен, присущий даже элементарным частицам. Что электрон имеет понятие об электромагнитном поле, благодаря чему он отличает ситуации, где поле есть, от ситуаций, где поля нет, и реагирует по разному, именно поэтому он взаимодействует с протоном. А нейтрон не имеет понятия о поле, поэтому он не различает ситуации, где поле есть или нет. В этом смысле можно попробовать понять процитированный тезис так, что мы ещё просто недостаточно изучили физику понимания.
Luarvik.:
Там Истина где-то там. Понятно.
kondrat:
В социально-экономическом контексте раб - это тот, кто бесплатно работает на хозяина. Если в деталях рассмотреть процесс, то мы всё-равно придём к двум моделям, разница между которыми только в количестве источников команд. Если хозяин (источник команд) один, то он вынужден взвалить на себя и всё бремя заботы о нуждах своего слуги. А если хозяин регулярно даёт "свободу" своему слуге, (например, в виде денег, позволяет рабу иногда выполнять команды от своих нужд), то фактически перекладывает на слугу заботу о самообеспечении. Удобно. Собственно, именно так работает современный "социально-экономический контекст", как Вы выразились. |
| |
|
create
|
| Предложения/замечания/новости по движку форума |
|
| |
|
create
|
Egg:
своя система обучения Ты хочешь сказать, что гипотеза пещерного человека о том, что заострённая палка поможет в копании корешков, и гипотеза современного физика о том, что БАК поможет "откопать" новые частицы, чем-то отличаются друг от друга по своей психологической природе?
Влад:
отрицающего реальное существование общих понятий и заменяющего их на чисто мыслительные образования 1. Я ничего не отрицал, а только утверждал. В противном случае требую цитату, где я что-то отрицаю.
2. Вы полагаете, что понятия "существуют" вне человеческого разума? Если да, то как они это делают? И как Вы об этом узнали?
cortl:
вы имеете в виду первое или второе? Первое. Опасно предоставлять механизму полную автономность в принятии решений. Сила интеллекта проверяется ведь не оригинальностью задач, которые он может себе поставить. А тем, может ли он дополнять цель, заданную в общем виде, промежуточными целями, для достижения этой заданной.
kondrat:
тяпку сломать, сбежать или хозяина грохнуть Если он осознанно предпринимает такие действия, значит у него просто другой хозяин, другой источник задач и другая задача. Например, страсть к размножению |
| |
|
create
|
kondrat:
чтобы затеять спор на тему "Мы не рабы системы, а рабы божьи" Если регулятор температуры в холодильнике поддерживает заданную человеком нормальную температуру, то холодильник чей "раб" - человека или датчика температуры? Допустим, что раб датчика температуры, потому что датчик всё-таки непосредственно входит в организацию холодильника, и управляет им. Так же и человек, можно сказать - раб "своих" предубеждений, потому что эти предубеждения (цели, ценности, задачи, нормы, законы) входят в организацию человека непосредственно и определяют его поведение. Но если эти предубеждения по определённой процедуре обучения были роковым образом "индуцированы" другими людьми, то корректно ли сказать, что интеллект человека служит достижению всё-таки не своих, а внешне заданных целей? Я думаю, что вполне корректно. Так же как холодильник не "сам" решает, какую температуру ему поддерживать. Так и человек не сам решает, чем ему заниматься в жизни. Интеллект - это орган, преследующий интересы чего-то внешнего. То, что нам выпала беда быть его носителями, никак не улучшает нашу участь, будь мы хоть рабы божьи, хоть рабы науки, хоть рабы страстей.
Egg:
где в научном методе есть часть, которая относится к психологической природе объяснений Это все теории, из которых логически следуют любые эксперименты - чистая психология. Вот, например, что пишет Гильберт в "Основаниях математики" (пытаюсь найти что-то полезное в этом труде): "Формальная аксиоматика по необходимости нуждается в содержательной как в своём дополнении, поскольку именно эта последняя поначалу руководит нами в процессе выбора соответствующих формализмов, а затем, когда формальная теория уже имеется в нашем распоряжении, она подсказывает нам, как эта теория должна быть применена к рассматриваемой области действительности".
"Содержательная аксиоматика" в понимании Гильберта - это как раз и есть чисто психологическое понимание какого-то наблюдаемого процесса, который мы хотим выразить в виде абстрактной упрощённой математической модели - формальной аксиоматике.
Или что пишет Фреге: "Очевидно, самое надёжное доказательство - чисто логическое: основанное только на тех законах, на которых покоится всё познание, оно ведётся в отвлечении от специфических особенностей вещей". Вот это вот "познание" - это ведь психологический, я бы даже сказал физиологический акт.
Egg:
Продемонстрируй что-нибудь из СИИ. Не можешь. Пока не могу. Надеюсь, позже покажу.
Влад:
членение мира в нашем мышлении происходит в соответствии со структурой идеальных умопостигаемых сущностей Когда Вы изучаете мир, то оперируете понятиями, обозначаемыми словами, типа: "материя", "частица", "поле", "энергия" и так далее. Совмещаете их, разсовмещаете, сваливаете их в кучи, строите причинно-следственные цепочки. Когда же Вы изучаете разум, то палитра понятий уже другая: "память", "понятие", "мотивация", "восприятие", "умозаключение" и так далее. Но операции, которые Вы с ними проделываете (совмещаете, разсовмещаете, сваливаете их в кучи, строите причинно-следственные цепочки) - остаются теми же самыми. Законы, по которым ум совмещает понятия, разсовмещает их, запоминает, забывает, сваливает в кучи, выстраивает причинно-следственные цепочки - и составляют суть мышления, независимо от того, чем именно наполнен разум (изучением мира или изучением себя самого). Именно эти законы и надо изучать для создания СИИ. Вы же предлагаете что, для создания СИИ изучать комбинации "атомов"? |
| |
|
create
|
Мф 5:37:
Но да будет слово ваше: да, да; нет, нет; а что сверх этого, то от лукавого. Меня давно интересует вопрос, что именно происходит в механике мышления, когда человек (думает и) говорит "да" или "нет". Эти слова настолько простые, ёмкие и универсальные для всех языков, что мне видится принципиально важным дать предельно точное и конструктивное объяснение тому, при каких условиях они становятся передним фронтом поведения человека, реакцией человека на задачную ситуацию. "Да" и "нет" - это слова обозначающие понятия, относящиеся исключительно к описанию разума. Они не обозначают каких-то предметов или отношений мира. Они обозначают отношение понятий. Я предполагаю, что это отношение - это вмещение. Проанализировав множество разных случаев применения этих слов, я предполагаю, что ситуация при которой человек говорит "да" - это вхождение одного места (понятия) в другое. А "нет" - полное несовпадение мест.
Т.е. ответ, выражаемый словом "да", можно перефразировать через размещения "В" в "А".
А ответ, выражаемый словом "нет", можно перефразировать как разсовмещение "В" и "А".
Видимо поэтому физическое отношения невмещения также обозначается этим словом (масла в банке нет). А слово "есть" используется как синоним слова "да" и в то же время также является синонимом для обозначения вмещения (масло в банке есть).
Цитата:
Согласно Фасмеру, этимологию «да» традиционно возводят к индоевропейскому указательному местоимению *dō. Согласно Черных, индоевропейское *dō имело значение «сюда». К этому же индоевропейскому слову восходит и английский предлог to.
Рассмотрим на простых примерах.
"Ты кушал сегодня кашу? Да."
Сегодня = А
Я кушал кашу = В
"Тебя зовут Андрей? Да."
Андрей = А
моё имя = В
"Тебе грустно? Нет."
Грусть = А
Я = В
Тот факт, что множество казалось бы разных отношений могут быть выражены ответом "Да" или "Нет" говорит о том, что различие этих отношений существует только в языке. А на уровне отношений понятий есть только один универсальный вид отношения - вмещения или невмещения.
В рамках этой аксиоматики можно сказать, что понятие "Да" вмещает в себя все случаи совмещения понятий.
А понятие "Нет" вмещает в себя все случаи разсовмещения понятий.
Рассмотрим детальнее пример с кашей.
"Ты кушал сегодня кашу? Да."
Сегодня = А
Я кушал кашу = В
Здесь "я кушал кашу" также представляет собой вмещение понятий.
Я = А
кушать кашу = В
и далее:
кушать = А
кашу = В
Таким образом, ответ "Да" является возможным и точным, когда все понятия ответа вмещены друг в друга. Если хоть одно не вмещено, то ответ "Нет". Такая получается понятийная матрёшка.
Люди часто при постановке точечного вопроса, просят ответить односложно: "да или нет". Такой ответ создаёт у них однозначное понимание. Отсюда можно сделать предположение, что ключ к пониманию - это однозначное совмещение или разсовмещение понятий. |
| |
|
create
|
cortl:
Постоянно контролировать? Вам оно надо? Мне надо безопасность. Эта норма может быть нарушена бесконтрольным AGI. Если можно как-то иначе достичь безопасность - предложите вариант. По остальным пунктам ТЗ, насколько я понял, возражений нет. Хорошо.
Egg:
воспроизведи какой-нибудь элемент цивилизации Не воспроизведу. Что это докажет? Что тысяча человек может достичь большего результата, чем один? Так это вроде никто не ставил под сомнение. Тысяча человек последовательным набором физиологических актов сможет воспроизвести алюминиевую вилку. |
| |
|
create
|
kondrat:
присвоением, захватом, чтобы подчеркнуть, что богатства могут быть совершенно иной природы, - от платоновской идеи Я прошу прощения, подскажите, каким органом захватываются платоновские идеи? И в какой среде и в какой форме эти идеи "плавают"?
Egg:
Живое существо занимается тем, что Если психология не относится к технологии ИИ, то жизнь и подавно. Но только почему-то жизнь обсуждается, а психология - нет. Почему так? |
| |
|
create
|
Egg:
откуда взялась логическая посылка "и подавно", не увидел обоснования Жизнь относится к психологии, примерно так же, как физика относится к жизни. Если в изучении интеллекта уходить всё глубже в организацию материи, то как на AGIRu, задача создания искусственных человекоподобных роботов сведётся к философским рассуждениям об интеллекте эритроцита или интеллекте электрона. имхо.
Egg:
мы обсуждаем жизнь как феномен Да, но очевидно в контексте создания технологии искусственных интеллектов.
Egg:
мы не знаем как делать AGI, из чего он будет состоять и как он будет устроен, но уже предлагается обсуждать его какую-то психологию Да, это очень точно подмечено. В деталях - не знаем, а вот в общем можем уже кое что знать, благодаря как раз таки психологии. В частности, с помощью какой угодно технологии ни воспроизводи интеллект, но локус контроля у него очевидно, будет либо тот либо иной. Наверное я просто плохо донёс свою мысль. |
| |
|
create
|
Egg, благодарю за развёрнутый ответ. Но кое-что я так и не понял. Психологию AGI обсуждать нецелесообразно, а Жизнь AGI - сообразно? Ведь точно так же по пунктам я могу предъявить аналогичные претензии к жизни:
1. Человеческий ИИ - живой, а СИИ (я предполагаю) будет кремниевый (строго говоря мёртвый).
2. Биология крепка задним умом и умеет всё объяснять эволюцией, когда все виды уже есть готовенькие, и ни разу не объяснила появление жизни.
Egg:
Человеческий интеллект социален, СИИ (я предполагаю) будет семиотичен Здесь дискутировать не буду, потому что:
1. Второе (семиотика) не исключает первое (социальность).
2. Мой подход к пониманию интеллекта ничего иного кроме социальности не предполагает. Поэтому вне этой логики я вообще не могу размышлять. Интеллект (с моей точки видения) - это механизм, делающий из эгоистического инстинктивного унитарного животного элемент социального организма, в котором система знаковых коммуникаций - это способ поддержания этого организма в целостности и способ его существования. Постановка любой задачи (человеку) вне знаковой системы вообще не возможна. А значит вне социума она невозможна. Но это я отвлёкся от роя, извините за оффтоп.
|
| |
|
create
|
В соседнем топике произошёл обмен мнениями касательно оправданности привлечения психологии к решению задач построения AGI. Хочу ещё раз прояснить ситуацию и расставить акценты.
Задача "создать искусственный интеллект" звучит примерно так же широко как "создать транспортное средство".
Если не попытаться "обжать" эту задачу дополнительными условиями, то вероятнее всего дело закончится рассуждениями на уровне "сферического интеллекта в вакууме". Психология (наравне с другими сферами знаний) позволяет сузить (доопределить, ограничить) поставленную задачу. Например, для меня "искусственный интеллект" - это не просто самодостаточный конкретный термин, я его для себя существенно доопределяю и понимаю примерно как "искусственный мужской рациональный безэмоциональный механизм мышления с большой памятью, механизмом самообучения и интернальным локусом контроля".
Эту задачу можно доопределять и со стороны физики (негэнтропия), и со стороны биологии (жизнь), и со стороны философии (Платон). Как в любой сложной многофакторной головоломке, которую трудно объять умом сразу во всех деталях, в задаче создания СИИ нужно фиксировать отдельные места этой головоломки, не возвращаясь к ним больше. Если в задаче "создания транспортного средства" нам не сообщат конкретных деталей устройства, но при этом ограничат общими условиями, что оно должно, например, помещаться в чемодан и весить не более 10 кг - то это существенно упростит задачу, сузит количество вариантов, степеней свободы и это значит, что изобретать "самолёт" и "паровоз" уже не нужно. Так и в задаче создания AGI психология человека предоставляет возможность упростить задачу "сверху", со стороны общих требований к конечному продукту, со стороны психологии будущего AGI.
Luarvik.:
Наглядный пример Послушал дядю по поводу свободы. Свобода не очень удачный термин в данном случае. Лучше говорить о детерминированности и индетерминированности. Тогда яснее о чём речь. Дядя в данном случае говорит о детерминированности. И я с ним согласен. Но когда люди говорят о свободе, речь идёт несколько о другом. Свободу можно понимать двояко:
1. как богатство возможностей
2. как минимум зависимостей.
Кто более свободен?
1. Курящий человек, которому на каждом углу предлагают купить всевозможные сигареты и у которого всегда есть на это деньги.
2. Некурящий человек.
В моём понимании более свободен второй. А первый только имеет богатые возможности для удовлетворения своей зависимости, несвободным рабом которой он является.
Нельзя быть "просто свободным". Свободным можно быть только от чего-то конкретного. Свобода от чего-то - это противоположность к зависимости от чего-то. Мы зависимы от воздуха, значит мы не можем освободиться от воздуха, иначе мы околеем. Чем меньше зависимостей, тем больше свободы. Но свобода - не самоцель. Нельзя быть свободным от всего. На самом деле ценность свободы только в том, что большая свобода позволяет делать более широкий выбор своих зависимостей. И делать этот выбор правильно. |
| |
|
create
|
Luarvik., мне кажется, этот дискурс о свободе показывает только одно, что язык крайне убогое и ненадёжное средство обмена продуктами мышления. Получается, что под "свободой" может пониматься: зависимости, выбор, детерминизм, возможности, цели. Такой дискурс я не вижу смысла поддерживать. Мой комментарий был призван только для того, чтобы дать содержательную реакцию на выложенный Вами ролик.
На мой взгляд, термин "свобода" наиболее адекватно и конструктивно применяется Бернштейном для описания механизма построения движений. И этот механизм можно распространить и на более высокую интеллектуальную деятельность. Опорно-двигательный (костно-мускульный) аппарат человека - это шарнирный механизм с большим количеством степеней свободы. И для того, чтобы эффективно управлять им, нужно вытормозить (заблокировать) большое количество лишних степеней свободы. Оставшимися степенями свободы, собственно, и совершается движение. Можно сказать, что мускульный аппарат используется двояко - одни мускулы блокируют лишние степени свободы, другие - производят движение с нужным усилием. При другом движении их роли меняются. Тот же принцип, как мне кажется мы находим и в построении высшей интеллектуальной деятельности. Только здесь степени свободы - это не шарниры, а варианты выбора дальнейших действий и мыслительный аппарат также используется двояко - с одной стороны он блокирует лишние варианты выбора (степени свободы), а оставшимися вариантами строит поведение (тоже степени свободы).
Собственно этот принцип я использую в данном топике - лишние степени свободы вытормаживаются (ИИ не должен быть женским, эмоциональным, экстернальным...), а другие наоборот остаются активными (ИИ должен быть мужского типа, рациональным, интернальным...). Попытки делать ИИ "вообще", как мне кажется, при более детальном рассмотрении, это либо попытки делать "интеллект как у меня", либо неосознанное и/или неартикулированное сужение смысла, которое для других людей может быть не очевидным (текстовый ИИ, творческий ИИ, ИИ-слуга и т.д.).
Luarvik.:
смерти противостоит рождение, а жизни - умирание. Непривычно ? Привычно.
|
| |
|
create
|
cortl, если не различать женский и мужской тип мышления, то не удивляйтесь если вдруг Ваш ИИ вместо работы станет болтать с другими ИИ "за жизнь", а все задачи будет решать с помощью скотча и синей изоленты.
|
| |
|
create
|
| Формат передачи данных сенсорных и моторных |
Luarvik.:
значение имеет не только то, как часто что-то передаётся, не только интенсивность, но и что именно передаётся 1. Кто помнит, на "мембране" был персонаж по имени georg, так вот он эту "супер-идею" продавал за миллиард долларов. Нашёл в своих закромах файлик с его теорией от 2006 года, может кому-то будет интересно полюбопытствовать.
2. У меня нет нейрофизиологических данных о том, что по одному и тому же аксону могут передаваться специфические сигналы, приводящие к синтезу в синапсе разных нейромедиаторов. Во всяком случае, в широком диапазоне. Это просто миф, который Вы тут только что придумали и вешаете нам на уши. Разные отделы мозга пользуются специфическими нейромедиаторами, больше никакой дифференциации, кроме локализации в мозге, у нейромедиторов, насколько мне известно, нет. У кого есть иные фактические данные - прошу пруфлинк. |
|
|
