Форум создателей искусственных интеллектов

Хочется открыть тему в которой подробно разобрать заблуждения, предрассудки, неправильные выводы, ошибки в заключениях, распространенные невежества и прочие когнитивные искажения, которые свойственны философствующим обывателям (например, Луаврику, Цапу, Владу) в части их представления об искусственном интеллекте. Великий Дэн Канеман разобрал поведение обывателя (и когнитивные искажения такового поведения) в экономических отношениях и получил за это Нобелевскую премию в 2002 году. Мои задачи много скромнее - создать небольшую энциклопедию типичного представления типичного обывателя об ИИ, то есть энциклопедию нелепостей и ахинеи. Много лет назад я сформулировал признак отсутствия компетенции в какой-либо области, это когда человек знает в этой области какие-то верхнеуровневые концепции и какие-то нижнеуровневые элементы (и отдельные факты), но у него отсутствуют знания и опыт того, как элементы реализуют подходы и концепции, как архитектура имплементирована в решениях и технологиях. Вот этот понятийный разрыв - это причина заблуждений, основной источник несуразицы, которую в таком диком количестве несут наши друзья по социальным сетям.

Ну и чтобы тема не висела пустой, сразу помещу в нее Заблуждение #1. Представление об ИИ как о системе антропоморфного мышления. 1.1. Тут нужно сказать, что под мышлением обыватель почему-то сразу представляет достижения уровня создания Общей Теории Относительности, а не свою неспособность иметь горизонт планирования больше, чем на несколько дней. Мы и об этом поговорим. Позже. Кстати, по части "галлюцинаций" и несения бреда некоторые местные форумчание совершенно не уступают chatGPT. Но сейчас про ИИ. 1.2. Сначало определение, искусственный интеллект — это область исследований в области информатики, заключающееся в разработке программного и аппаратного обеспечения, позволяющее информационным комплексам воспринимать окружающую среду (input) и решать поставленные перед ними задачи. 1.3. Можем ли мы называть это мышлением и должно ли оно быть антропоморфным - это вопрос открытый. С учетом того, что 1) никто не имеет точного знания о том, что такое мышление и 2) человеческое мышление слишком примитивно, чтобы быть эталоном - есть очень сильные сомнения в необходимости копировать мышление в AGI. 1.4. Но так или иначе есть фундаментальная разница между интеллектом и искусственным интеллектом. AI - это не AGI, надо их различать. На текущем этапе AGI и интеллект можно считать синонимами, но только не в контексте, когда мы обсуждаем их устройство и реализацию. Но я бы предложил под интеллектом понимать исключительно человеческую разумность, поскольку очевидно, что AGI в какой-то момент станет эволюционировать дальше и люди уже не смогут понимать ни его уровня, ни его "целей".

А где здесь противоречие? Я как-то его не вижу. Разве я где-то написал, что LLM - это человеческий интеллект? LLM намного лучше. AGI (на мой вкус) - это семиотический процессор. LLM - это один из возможных подходов, реализующих семиотический процессор. ChatGPT - это одна из возможных имплементаций LLM. Нет противоречия. И вопрос заключается не в том, насколько сhatGPT4o хорош и эффективен и не в том, что может быть решение лучше и реализация лучше, а в том, правильное ли направление выбрано для развития этих систем. На мой вкус - правильное.

1.5. Для понимания различия AGI и интеллекта (напоминаю, под интеллектом я понимаю исключительно человеческий) очень хорошо задаться такими вопросами: развивался ли человеческий интеллект? Есть ли у человека перспективы развития интеллекта? Факты заключаются в том, что человеческий интеллект не развивался, развивались технологии, в рамках которых происходил Техногенез. Поддержание огня, земледелие, письменность, строительство, мануфактура и так далее. Мозг же за последные сколько-то тысяч лет уменьшился в размерах и, возможно, сейчас вообще находится в процессе деградации. Но даже, если нет, никаких перспектив дальнейшего развития у мозга и естественного мышления нет. Только с помощью технологий. Развивался ли искусственный интеллект? Развивался, а сейчас испытывает этап самого бурного развития. Есть ли у AGI перспективы развития? Да. Почти ничем не ограниченные. AGI даже не нуждается в самовоспроизводстве и поиска энергии - за нее это делают людишки, которые уже сейчас тратят на обучение LLM заметный процент всего энергопотребления цивилизации.

Человеческий интеллект - это не AGI. Это Заблуждение #1, только немножно инверсивно, то есть еще тупее))). Попробуйте для начала разобраться со словом ARTIFICIAL. Попробуйте перевести его на русский язык, попытайтесь понять, что этот термин означает.

Насколько я смог понять, Влад (который выражается исключительно комбинаторной перестановкой трех или четырех слов или цитированием невпопад) хочет до меня донести мысль, что AGI должен иметь человеческий интеллект. Это продолжение Заблуждения #1. Человеческий интеллект мало кому нужен, особенно как у большинства людей. Особенно, если учесть, что человеческий интеллект использует довольно узкий набор сенсоров и социальную среду в качестве обязательного условия своего развития и существования. Плюс к тому, человек существо хрупкое, болезненное и живущее не очень долго, требующее предельно комфортные условия для своего существования. AGI должен быть лучше и мощнее человеческого интеллекта и может вообще на него не походить. Может походить какими-то отдельными способностями. Это обсуждаемо, но похожесть на человеческий, не является требованием, это заблуждение)))

Вы малокомунужный примитив с человеческим интеллектом? ...или вы высокоинтеллектуальная искусственная машина, ....созданная примитивным интеллектом?

Я говорил про среднестатистического человека, а не о себе. ))

Прийдется отдельно повторить для Андрея Prosolver'а разоблачение Заблуждения #1: Интеллект AGI не обязательно должен быть человекоаналогичным. 😃😃

Согласен. Не согласен. Попробую пояснить. После многолетних попыток сделать хоть что-то похожее на человеческий интеллект миру наконец явили LLM. Это неплохой новый инструмент человека для создания инструментов человека. Ещё один инструмент со своими условиями и ограничениями. Попытка выдать данный инструмент за интеллект, на мой взгляд, это не совсем честный маркетинговый ход. Нужен кому-то человекоподобный интеллект или не нужен - это вопрос второстепенный. Мне, например, нужен. Но если у вас есть такой супер-инструмент, лучше человеческого интеллекта, то вам ничего не должно стоить воспроизвести чахлый, хилый, никомуненужный, слабый интеллект человека. Если вы сделали экскаватор, то не должно представлять проблемы выкопать маленькую ямку. Но нет, функционал человека не воспроизведён. Самолёт не летает. Хоть и не машет крыльями. То, что сейчас происходит, мне вполне понятно. Вместо того, чтобы сделать желаемое, пытаются назвать желаемым сделанное. Согласен. Недоговорка здесь только в том, что технологии, развивались человеческим интеллектом. Он их создатель.

По факту - ровно наоборот. Трансформер решил тебе 72% задач, которые ты выбрал в качестве теста на AGI, а ты начал рассказывать, что если у решения нет пританцовывания и шести присяданий, то это не решение вовсе. То есть критерием является не решение, а то, чтобы это решение понравилось тебе и соответствовало именно твоим представлениям. Проблема именно в том, что твои представления очень наивные (как мы выяснили в параллельной теме ты не можешь даже сформулировать что такое обучение) и именно ты требуешь от самолета махания крыльями.

Заблуждение #2. Возможность непротиворечивого описания мира Это не просто заблуждение, а целая группа заблуждений, на основе которых выросла такая забавная вещь как экспертные системы - то есть попытка формализовать употребление слов и создать полное, точное и непротиворечивое описание мира. Мало того, предполагается, что любое утверждение в таком описание можно будет отнести либо к истинному, либо к ложному. Использование мажоритарной и непрерывной логики сути не меняет. Особо выдающиеся мыслители полагают, что вершиной такого описания может служить утверждение, что Луна имеет форму круга, а другие мыслители настаивают, что существует конечных набор норм, использование которых породит всё возможное знание. Третьи добавляют, что не просто использование, а пермутация и для этого достаточно всего трех слов: комбинаторный, организация и системы. Давайте потихоньку со всем этим разбираться)))

Чтобы понять, почему непротиворечивое, точное и полное описание мира невозможно, давайте освежим в памяти проблематику Текста. Я много и подробно об этом рассказывал, но будет не лишним. 2.1. Что такое слово. Это идентификатор. Имя. Знак. Символ. Иероглиф. Токен. Слово (самое по себе) должно обладать двумя свойствами: 1) оно должно иметь какой-то материальный носитель и 2) должно отличаться между собой. Больше в слове ничего нет. Искать в словах какой-то особый смысл, настаивать на магических сакральных качествах каких-то словосочетаний (и их аббревиатур))) - это признак дремучести и первобытного ума, когда слова в своем большинстве участвовали либо в сказаниях, либо в заклинаниях. 2.2. Суть слова - быть указателем, осуществлять референцию между миром явлений и миром понятий, миром вещей и миром смыслов. Разумеется в их образах, в их представлениях. Роль слова в указании на образ явления называется денотатом. Роль слова в указании на образ понятия называется десигнатом. Одно и тоже слово указывает на многие явления и на многие понятия, поэтому слово по своей роли больше всего похоже на это (количество и плотность ссылок справа и слева не совпадает):

В чем великий смысл использовании слов? (далее я буду использовать термин Имя) Первый я уже назвал - имя позволяет устраивать взаимную референцию вещей и понятий. При условии, что у вас есть пространство образов того и другого. Это называется семиотика)) 2.3. Второй великий смысл в том, что материальный носитель имени может быть сколь угодно разным, а имя будет одним и тем же. Можно копировать имена без ущерба для их целостности. Именно поэтому ДНК - это тексты. Имя - единственный объект, который не подчиняется Второму Началу термодинамики, хотя его материальный носитель вынужден подчиняться. Это называется репликация))) 2.4. Третий великий смысл использования имён заключается в возможности их обработки независимой от обработки смыслов и явлений. Имена можно обрабатывать как значения, быстро и эффективно. Это называется язык)))

2.5. Отсюда должно быть предельно понятно, почему не существует "правильного" описания мира, потому что тексты (модели, теории, гипотезы, определения, итд) не описывают мир, они именуют объекты мира и адресуют их смыслами из понятийного пространства. Иными словами, явления для нас существуют как некоторые понятийные конструкции)))). С правой стороны тоже самое - мы не можем описать смыслы и понятия, мы можем только поименовать их и перечислить явления, в которых (с точки зрения наших представлений) эти смыслы и понятия содержатся. Вот такая комплементарность. Смыслы отражаются в явлениях, явления в смыслах. Текст только устанавливает соответствия и формирует структуры. Именно поэтому реальность - это рефлекс))). Или устойчивая интерференция (standing wave) процесса наблюдения. И это мы еще не коснулись репликации и языка))

Мне показалось, что я тут применён в роли денотата, поэтому позволю себе прокомментировать. Назвать топик "Заблуждения", а потом утверждать, что нормы - это заблуждения - это достаточно смело. Ведь заблуждения возможны, как таковые, только в противопоставлении с чем-то правильным, нормальным. Человеку от норм убежать не удастся. Потому что нормы - это центральный механизм человеческого целеполагания. Если с утра в омлете не будет 4 вида сыра, то [для носителя этой нормы] это ненормально. Название этому психическому феномену можно придумать и иное (цели, желания, правила и пр.), но по сути, мне кажется, всем понятно о чём речь. Для каждого человека есть конечный набор всего того, что [для него] есть правильным, и что-то ещё, отклоняющееся от правильного. Только в этой оппозиции и в её устранении существует человеческое целеполагание и интеллектуальная активность. И ещё, с позволения, пару вопросов по семиотике. 1. Десигнат и денотат существуют как статические реферальные ссылки в некоторой "базе знаний", либо же они проявляются только в динамике мыслительного процесса, в том смысле, что денотат всегда следует за десигнатом во времени, и является как бы его следствием. Или наоборот? 2. Я тут насобирал несколько твоих цитат: "Быть успешным означает так же быть моральным", "Если эти попытки шли десятилетиями и были упрямыми, значит их много и Вам не составит труда", "Если не сможете указать, значит мое представление в этой части - релевантно". Слово "значит" здесь можно заменить на слово "следовательно", значит ли это, что человеческое понимание (воображение) того, что последует за некоторым событием, есть проявлением семиотики? Ну, например, если я узнал, что Путин посетил КНДР, то следовательно (значит) они задумывают военные союзы. 3. Слово (имя) - малофункциональный инструмент, его функция в полной мере раскрывается только в фразе, когда за одним словом следуют другие слова. Является ли фраза именем? Или фраза это нечто большее?

Ничего такого я не делаю, не нужно мне приписывать своих заблуждений)) 😃😃 Вот у тебя есть кошка. Она как-то независимо от тебя существует. В процессе своего существования оставляет в твоих рецепторах своё отображение, которое как-то откладывается в памяти в виде образов. Ты можешь мыслить о ней, как-то относиться и прочее. Так вот, всякий раз, когда ты будешь использовать слово "кошка", ее собственное имя, алиасы и погоняла, какие-то другие слова, указывающее на нее, она будет по отношению к этим именам - денотатом. Он, денотат, не является ни следствием, ни причиной десигната и у них нет выраженного отношения во времени. Семиотика - это модель. Теория. У моделей нет проявлений. Понимание - это процесс деятельности мозга (или машинного интеллекта). Модель может иметь решение, которое можно использовать для понимания. Но человеческое понимание будет всегда проявлением жизнедеятельности ансамбля нейронов, а не философской теории. ))) В естественном языке нет жестких правил. В исчислениях - да - строгость, а в обиходе может быть по-разному. Вечерело - это фраза из одного слова. Андрей Prosolver - это одно имя из нескольких слов. Функции слова в полной мере расскрываются только в полном контексте: явления, понятия, тексты, репликация, язык. ))

Вот в этом месте хотелось бы разобраться поподробнее, если можно. Любое использование слова подразумевает мыслительный/интеллектуальный процесс, развёрнутый во времени и направленный на цель. Само слово "ис-пользует" указывает на это - на полезное применение, с какой-то целью. Т.е. не бывает использования слов вне времени и вне цели. А это значит, что слово всегда является элементом последовательности событий. Слово само по себе является событием. Это может быть процесс объяснения кому-то чего-то про кошку, процесс понимания мной чего-то про кошку, процесс взаимодействия с самой кошкой. Вариантов, на самом деле, не так много. Таким образом, хотим мы того или не хотим, но слово всегда представлено наравне с другими событиями, которые мы можем охарактеризовать как сенсорные. Поэтому, хотим мы того или не хотим, слово обрабатывается умом наравне с другими сенсорными событиями. А если эта обработка подразумевает установление причинно-следственных отношений во времени (а она конечно же это подразумевает), то вынужденно слова обязательно будут включены в такие отношения. А если это так, то возникает подозрение, что вся семиотика без остатка и сводится к этим отношениям. Ведь если слово мы используем для достижения целей, значит эти цели всегда следуют во времени после использования слова. Значит слово является их причиной, условием.

Понимаю, что ты очень этого хочешь, но нет, не наравне, а совсем иначе. В этом суть, что иначе.))) Слово - это адрес, а не значение. Смысл в слове не содержится. Более того, смысл не может быть описан словами (однозначно, полно и точно). На смысл можно только указать. Примерно так же, как слово указывает на явление. Тебе не приходит в голову фарфоровая чашка как предмет, как денотат, когда слово указывает "чашка стоит на столе". Точно также в голову не приходит понятие "ёмкости, образованной фарфором, в которую налить жидкость" как десигнат. И то и другое существуют отдельно от этого слова. Точно также как вульгарные материалисты типа нашего Лаврика наивно полагают, что воспринимают мир как он есть на самом деле, приверженцы экспертных систем вроде тебя думают, что оперирование словами == оперированию смыслами == мышлению. A это три совершенно разных процесса. Связанных между собой, разумеется, но намного сложнее и тоньше твоих представлений об этом. Вот почему вы все никак не можете понять, что же _на_самом_деле_ происходит в LLM, когда она обучается и занимается генерацией...

Выпишу отдельно и еще раз... Заблуждение #3. Обработка слов не является обработкой смыслов Слово является идентификатором, указателем на денотат (явление внешнего объективного мира) и указателем на десигнат (на смысловое значение в понятийном пространстве). Обработкой слов занимается язык. Обработкой вещей (жизнью в мире) - тело. Обработкой смыслов занимается сознание и мышление. Но сознание и мышление не исчерпывается этой обработкой, они шире.