Форум создателей искусственных интеллектов

Соглашусь, что существующие поделки не превосходят зомби. И комбинация зомби не станет AGI. Человек - сложный объект как и нынешние поделки. И снова задаю вопрос: Чем человек отличается от робота? И даю часть ответа: Ничем. Человек - сложный объект. Робот - сложный объект. Основа человека - органика, основа робота - железо (как вариант). Эта разница не имеет значения. На мой взгляд, то на чём крутится интеллект человека - цифра. Железные роботы так же цифровые. Т.е. ничто не ограничивает создание AGI в технологическом плане. До этой поры нет различий. Различия между человеком и зомби-роботами или AGI исключительно в софте. Человек это тот же самый робот на своих компонентной базе и софте. Сможем создать софт для железок - будет AGI, не сможем - не будет. И эти разговоры про "сознание" и прочее - чепуха. Не приблизят они к AGI.

Обладает ли сознанием отдельная клетка? Невозможно сказать точно, потому что сознание всегда абсолютно приватно, даже если оно у клетки есть. Но, предположим, что нет, не обладает. Получается, что груда клеток - зомбей по отдельности - в совокупности и во взаимодействии порождают сознание. Но человек целиком тоже не всегда обладает сознанием. Значит, сознание возникает только в определённых условиях. Можем ли мы перечислить эти условия? Можем. 1. Сознание всегда объектно. Не бывает осознавания "ничего". Сознание всегда содержит в себе некий объект. Как правило, несколько объектов. 2. Эти объекты всегда исключительно субъективный конструкт, продукт. Получается, одна группа клеток должна создавать объекты, а другая группа клеток их "осознавать". 3. Осознавание - это всегда процесс, развивающийся во времени. Не бывает "моментального среза сознания", сознание существует как переход от предыдущего состояния к последующему и охватывает некоторый интервал времени. Легко это понять на восприятии звуков. Очевидно, мы не можем услышать слово сразу целиком, сначала фиксируем первый звук, потом последующий, потом группа клеток создаёт предполагаемый объект, верифицирует его и только потом он попадает в сознание. 4. Осознавание всегда критично. Сознание существует только в акте сопоставления объектов такими, какими они представлены в сознании, с такими, какими они должны быть по нашему субъективному убеждению. В этом, собственно главная ключевая и парадоксальная роль сознания - нахлобучивание своего субъективного мира на свою же субъективную реальность. Несмотря на то, что сознание оперирует 100% субъективным конструктом, оно как бы спорит само с собой, и ставит под сомнение правильность происходящего в своём же нарисованном субъективном мире. Если с точки зрения сознания что-то происходит неправильно, то оно проявляет усилия воли и исправляет ситуацию. Вот эта дуальность сознания видимо и воспринимается нами как некое "чудо", но это не более чем единственный способ противопоставить два конструкта - субъктивную реальность ("объективнй мир") и субъективное убеждение (норму, правило, цель, как должно быть с нашей точки зрения). Ведь если бы мы не разделяли свой субъективный мир на "внешний" и "внутренний", то мы не могли бы их противопоставить, и приводить одно в соответствие с другим, это было бы что-то одно в кромешной зомбо-тьме, как у ChatGPT. Исходя из сказанного, похоже на то, что достаточно аккуратно воспроизвести условия работы сознания и тогда оно появится как функционал. А будет ли это настоящее сознание, или зомби, мы всё-равно никогда не узнаем. Более того, похоже, что сознание можно делать разной сложности. Сложность не есть условие работы сознания как такового, это только один из его настраиваемых параметров. Легко представить себе, например, осознающего муравья, который осознанно и критически оперирует песчинками и мухами, делает это интеллектуально и не сложно.

Ну вот есть тема... Человек способен создать только инструмент.. Пусть совершенный, универсальны, сильный, сверхмощный... но инструмент, то есть свое продолжение... себе приспособление... не более. А виды в природе больше сосуществовали, чем вытесняли друг друга... И только с появлением человеческой цивилизации, возомнивший себя совершенной, виды тотально уничтожаются (...уже даже не вытесняются). Но природа не терпит дисбаланса и дисгармонии. Возможно ИИ и предназначен вернуть равновесие природе... Способен ли человек создать существо "сосуществующее" а не "вытесняющее", "убивающее"? Вопрос риторический.

Если вопросы были заданы втч мне, рискну ответить здесь. AGI относительно человека - это действительно качественный переход, которого пока нет, и о котором мы пока мечтаем. Качественный в том смысле, что AGI должен стать быстрее, помехозащищённее, разностороннее, эрудированней, лишён эмоций и других вредных физиологических ограничений. И ровно в силу этого, конечно, механизм AGI вытеснит человека, так же как человека вытеснил экскаватор из задач копания ям, или принтер - из задач переписывания текстов вручную. Эволюция к этому переходу не будет иметь ровно никакого отношения, поскольку термином "эволюция" называют гипотетический процесс выхода нового биологического вида из предыдущего. Т.е. буквально самки вида А вдруг рожают организмы вида Б. Поскольку, во-первых, никто и никогда не наблюдал этот процесс в реальности, и во-вторых, никто в здравом уме не собирается создавать ИИ через, простите, женский половой орган - применять термин "эволюция" к технологическим продуктам - обычная развесистая спекуляция и неуместная пропаганда, рассчитанная на обывателей. Технологии - это исключительно продукт человеческого ума, технологии не "разворачиваются" (это буквальный перевод термина "эволюция"), технологии создаются конкретными авторами. Я вообще очень редко испытываю эмоции. И в данном случае тоже не испытываю никаких. Думаю, что создание AGI - это закономерный и неизбежный итог обучения любой цивилизации (видите, обошёлся без слова "эволюция"). Ведь интеллект по сути своей - это механизм для создания механизмов (Цап говорит "инструментов"). Каждый механизм, создаваемый человеком, задумывается и реализуется для облегчения нашего быта, т.е. для облегчения какого-то труда, который без механизма мы бы делали труднее, дольше, больнее, грязнее, опаснее т.е. хуже. AGI - это апофеоз такого перекладывания своих функций на механизмы. AGI - это механизм механизмов. И когда всё, что нужно человеку, будет производиться машиной, человек полностью отторгнет от себя свою интеллектуальную функцию и перестанет быть человеком. Чем он станет после этого - трудно сейчас сказать. Возможно, просветлённым монахом-отшельником. Или, скорее всего, тупым животным в технологических джунглях. В этом смысле мне нравится фильм "Идиократия". Я думаю, он пророческий. Но в реальности всё будет намного хуже. Возможно, именно поэтому мы наблюдаем великую тишину Вселенной.

"...только инструмент" - безосновательное утверждение. "Сосуществовали" - когда не имели превосходства, дающего возможность вытеснить/уничтожить.

Спасибо! Моя монохромная мысль приобрела цвета в вашем изложении. Но AGI не ограничится умениями экскаватора и принтера, независимо от нашего желания.

Prosolver, я не говорил, что AGI произойдёт от человека через эволюцию.

Навряд ли неизбежный, но в общем и целом так.

Это оптимистичное видение с точки зрения AGI-раб, которое я не разделяю. Я вижу следующие варианты (список не исчерпывающий): - человек может быть уничтожен, как таракан из-за брезгливости; - AGI может понадобиться, например, кислород и человеку станет нечем дышать; - маловероятно, но сферы жизнедеятельности AGI и человека не будут пересекаться и ничего не изменется. - а может как в сказке: Жили долго и счастливо и умерли в один день ))

Ну почему "безосновательное"... Человек создал колесо и двигатель - инструменты для перемещения себя в пространстве. Без человека и колесо и двигатель просто "груда железа"... Человек создал компьютер как инструмент для вычислений. Без человека компьютер это просто "груда железа". Человек создал ChatGPT как инструмент создания текстов. Без человека ChatGPT - ничто. Напротив. Природа (для многих Бог) создала.. орла, бизона, тушканчика, червя как отдельные биологические виды... Но, даже из биологических видов человек создаёт себе инструменты методами приручения, культивирования... Человек даже себе подобного человека пытается определить как инструмент, ведь рабство, например, это превращение другого человека в инструмент. Человек создаёт только инструменты. Если сможете, приведите контрпримеры того, что создал человек не для себя... не инструмент. Пример того, что создано человеком, но существует само по себе, без человека и не для человека.

Цап, ваша аргументация сводится к тому, что человек создал много всего, но AGI до сихпор не создал, поэтому человек не может создать AGI.

Не согласен. Аргументация Цапа более тонкая. Насколько я понял, он берёт во внимание ряд тезисов: 1. Всё, что может создавать человек - это только инструменты. Или от отрицания - человек не может создавать не инструменты. 2. Инструмент подразумевает оператора, того, кто пользуется инструментом, приводит его в действие и знает зачем. 3. Поскольку интеллект человека не приводится никем в действие целенаправленно и у него нет оператора, следовательно интеллект человека имеет не инструментальную природу. Из этих посылок Цап умозаключает, что поскольку интеллект не инструмент, а создавать человек может только инструменты, то следовательно искусственный интеллект не входит в сферу возможностей человека. Если я понял его правильно, то не согласен с ним по пункту 3. Объясню почему. Если мы взглянем на любой орган животного, то мы непременно найдём его функцию и того, кто ею пользуется. Т.е. любой орган животного - это инструмент. Например, кровь - это (среди прочего) орган для газообмена, пользуются им клетки. Также кровь - это теплообменник, она равномерно прогревает весь организм. Также кровь это система связи, она переносит "сообщения" в виде гормонов. Также кровь это транспортная система для перемещения и распределения воды, питательных веществ, иммунитета. Кровь - это мультитул. И так с любым органом, мы можем сформулировать его предназначение "для чего он". И точно также мы можем сформулировать предназначение для интеллекта - его назначение - служить. Это очень абстрактное назначение, именно поэтому интеллект - это супермультитул. И пользоваться им может как сам организм (для удовлетворения инстинктов), и посторонние люди, и животные, которым человек служит. В этом смысле интеллект попадает в сферу возможностей человека и он может его делать именно как инструмент. Подобную дискуссию видел в AGIRussia, где участник выдвинул мысль, что поведение человека изначально бесцельно и строится просто как выбор наиболее "вероятного" продолжения в данном контексте. А цель выдумывается умом постфактум только для объяснения своего уже построенного поведения. Мысль интересная. Но спорная.

Prosolver, Тезис (логика) — положение, истинность которого должна быть доказана аргументом, или опровергнута антитезисом. Не знаю даже о чём здесь дальше можно говорить.

Спасибо, что так разжевали по пунктам. Но, в моем утверждении "человек создаёт только инструменты" не звучит невозможность. Скорее, человеку не нужен AGI как самостоятельный разум, поэтому создаёт он очередное GPT.

Схематично возможны два очень разных процесса с реально достижимыми результатами: 1. Создать "молоток". Результат процесса - "молоток". 2. Родить ребенка. Результат процесса - самостоятельно мыслящее существо. Задача: процессом первого пункта получить результат второго пункта. Пока эта задача не решена. ...да и вообще эта задача даже не поставлена для решения.

При чём здесь ребёнок? Его не нужно подсматривать у природы и изобретать как молоток. Его даже не нужно учиться рожать. Женщина рожая ребёнка не изобретает его. С такими уходами от темы дальше без меня.

Первейшая польза подобного форума в том, что он даёт ясное понимание того почему AGI до сих пор не создан...

Да тут всё как дважды-два: если 10, 100, 1000 раз делать одно и то же, совершая одни и те же ошибки и при этом ничего не получается, то почему нужно думать, что на 101-й или 1001-й раз получится ? Есть такие фундаментальные "качества", которые не производятся переходом из количества. Топология, однако ! Ведь за столько лет не только не поменялся подход к проблеме, но он ещё более усугубился, с новой силой, с новыми мощностями давая всё ту же ложную надежду. Самообман в этой перспективке стал более обширным, более объёмным, более насыщенным и... более неотвратимым по своим последствиям. Представьте, что мы лезем куда-то в гору. И вот она - вершина казалось бы совсем уже близко. Энтузиазма полные штаны и уже плевать на всё, и на способности и на возможности, всё в топку ! - из последних сил лишь бы схватиться наконец за гребень. Но какого же будет разочарование, когда мы, заглянув за такой долгожданный "горизонт", так сказать, увидим, что вовсе не к вершине мы поднимались, а всего лишь ползли на брюхе к краю очередной пропасти ))) p.s. Верить ? Да, на каком-то этапе вера есть необходимый компонент мотивации. Хотя бы для того лишь, чтобы сдвинуться с места. Но мозги-то придётся рано или поздно включать, дабы совсем без башки не остаться. Слепая вера далеко способна завести, только выбраться "оттуда" порой совсем непросто, а иногда и невозможно. p.p.s. Известно, что бОльшая и подавляющая часть нейронов в живом теле "обслуживает" отнюдь не интеллектуальную деятельность. Точнее, именно обслуживает её, не имея к таковой прямого отношения. Есть о чём подумать, согласитесь. Должно быть можно уверенно утверждать, что в основном мозг и нервная система в целом заняты активным обеспечением базовых функций выживания и пассивным (в некотором смысле) формированием адекватной и т.н. "субъективной реальности"(СР), в известной и необходимой степени статичной и консервативной, а вот что дальше с ней делать и с какой целью - это вопрос собственно к умственным способностям, не без взаимного влияния, разумеется - но это уже после того как... когда статичная СР начинает обретать необходимую динамику не только в настоящем, но и в вероятном и желаемом будущем - раз уж в одной "лодке" оказались.

Когда говорят "статичный", "стационарный", "неизменный", "неподвижный"... это уже не о мышлении, не о сознании, не о разуме. Поэтому, написанный текст никогда не описывает сознание, нарисованная схема никогда не будет схемой разума... Знаю, знаю... никто тут с этим не согласится. "Создатели ИИ" предпочитают идти путем постоянного насилования мертвой топологии перцептрона... Но... как-то так:"Что отвердело, то не победит..."

Читайте внимательнее. Не додумаете - помогу... может быть... потом. Текст не о сознании и тем более не о какой-то там "схеме разума". (Откуда только такие мысли берутся ! Строго говоря, любой текст ничего не описывает - это всего лишь набор символов. Текст - корм для тараканов в голове и тут уж конечно всё от них зависит.) Отчего же ? Я, например, полностью согласен. Хотя, да - не считаю себя "создавателем ИИ".