AGI.place

Форум создателей искусственных интеллектов


Логин (email) 
Пароль 
Настройки

шрифт+
шрифт-
Скачать
Вперёд
Назад
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
AGI не инструмент.
create
AGI не инструмент.
04:05 20.01.2023 04:38 20.01.2023 №6473
Цап:
Зомби. Зомби это существо, функционирующее подобно человеку, но не имеющее сознания. Например, ChatGPT подходит под определение зомби. Функционирует практически как человек в режиме письменного общения, но сознания не имеет. Каждый проект по AGI это проект создания очередного зомби, создание объекта без сознания. Сложного объекта без сознания... с непонятной надеждой создателя, что этот объект обретёт сознание в будущем, после очередного усложнения. То есть создаётся нечто мертвое но функциональное, а сознание у него, якобы, должно появиться из ниоткуда. Может ли зомби обрести сознание? Неужели сознание возникнет из сложности? Если соединить десяток продвинутых проектов по AGI, создаст ли это необходимую сложность? Иными словами, можно ли, соединив десяток зомби, получить осознающие себя существо? Нет.
Соглашусь, что существующие поделки не превосходят зомби. И комбинация зомби не станет AGI. Человек - сложный объект как и нынешние поделки. И снова задаю вопрос: Чем человек отличается от робота? И даю часть ответа: Ничем. Человек - сложный объект. Робот - сложный объект. Основа человека - органика, основа робота - железо (как вариант). Эта разница не имеет значения. На мой взгляд, то на чём крутится интеллект человека - цифра. Железные роботы так же цифровые. Т.е. ничто не ограничивает создание AGI в технологическом плане. До этой поры нет различий. Различия между человеком и зомби-роботами или AGI исключительно в софте. Человек это тот же самый робот на своих компонентной базе и софте. Сможем создать софт для железок - будет AGI, не сможем - не будет. И эти разговоры про "сознание" и прочее - чепуха. Не приблизят они к AGI.
0 | 0
Аватар
create
AGI не инструмент.
17:00 21.01.2023 №6483
Цап:
Неужели сознание возникнет из сложности? Если соединить десяток продвинутых проектов по AGI, создаст ли это необходимую сложность? Иными словами, можно ли, соединив десяток зомби, получить осознающие себя существо?
Обладает ли сознанием отдельная клетка? Невозможно сказать точно, потому что сознание всегда абсолютно приватно, даже если оно у клетки есть. Но, предположим, что нет, не обладает. Получается, что груда клеток - зомбей по отдельности - в совокупности и во взаимодействии порождают сознание. Но человек целиком тоже не всегда обладает сознанием. Значит, сознание возникает только в определённых условиях. Можем ли мы перечислить эти условия? Можем. 1. Сознание всегда объектно. Не бывает осознавания "ничего". Сознание всегда содержит в себе некий объект. Как правило, несколько объектов. 2. Эти объекты всегда исключительно субъективный конструкт, продукт. Получается, одна группа клеток должна создавать объекты, а другая группа клеток их "осознавать". 3. Осознавание - это всегда процесс, развивающийся во времени. Не бывает "моментального среза сознания", сознание существует как переход от предыдущего состояния к последующему и охватывает некоторый интервал времени. Легко это понять на восприятии звуков. Очевидно, мы не можем услышать слово сразу целиком, сначала фиксируем первый звук, потом последующий, потом группа клеток создаёт предполагаемый объект, верифицирует его и только потом он попадает в сознание. 4. Осознавание всегда критично. Сознание существует только в акте сопоставления объектов такими, какими они представлены в сознании, с такими, какими они должны быть по нашему субъективному убеждению. В этом, собственно главная ключевая и парадоксальная роль сознания - нахлобучивание своего субъективного мира на свою же субъективную реальность. Несмотря на то, что сознание оперирует 100% субъективным конструктом, оно как бы спорит само с собой, и ставит под сомнение правильность происходящего в своём же нарисованном субъективном мире. Если с точки зрения сознания что-то происходит неправильно, то оно проявляет усилия воли и исправляет ситуацию. Вот эта дуальность сознания видимо и воспринимается нами как некое "чудо", но это не более чем единственный способ противопоставить два конструкта - субъктивную реальность ("объективнй мир") и субъективное убеждение (норму, правило, цель, как должно быть с нашей точки зрения). Ведь если бы мы не разделяли свой субъективный мир на "внешний" и "внутренний", то мы не могли бы их противопоставить, и приводить одно в соответствие с другим, это было бы что-то одно в кромешной зомбо-тьме, как у ChatGPT. Исходя из сказанного, похоже на то, что достаточно аккуратно воспроизвести условия работы сознания и тогда оно появится как функционал. А будет ли это настоящее сознание, или зомби, мы всё-равно никогда не узнаем. Более того, похоже, что сознание можно делать разной сложности. Сложность не есть условие работы сознания как такового, это только один из его настраиваемых параметров. Легко представить себе, например, осознающего муравья, который осознанно и критически оперирует песчинками и мухами, делает это интеллектуально и не сложно.
0 | 0
create
AGI не инструмент.
16:48 24.08.2023 №7563
cortl:
Как вы относитесь к тому, что AGI относительно человека это качественный переход? И как в эволюции более совершенные виды вытесняют менее совершенные - AGI вытеснит человека. Какие эмоции вы по этому поводу испытываете, что думаете? (желающие могут выделить это в отдельную тему, не возражаю)
Ну вот есть тема... Человек способен создать только инструмент.. Пусть совершенный, универсальны, сильный, сверхмощный... но инструмент, то есть свое продолжение... себе приспособление... не более. А виды в природе больше сосуществовали, чем вытесняли друг друга... И только с появлением человеческой цивилизации, возомнивший себя совершенной, виды тотально уничтожаются (...уже даже не вытесняются). Но природа не терпит дисбаланса и дисгармонии. Возможно ИИ и предназначен вернуть равновесие природе... Способен ли человек создать существо "сосуществующее" а не "вытесняющее", "убивающее"? Вопрос риторический.
0 | 0
Аватар
create
AGI не инструмент.
18:39 24.08.2023 №7564
cortl:
Как вы относитесь к тому, что AGI относительно человека это качественный переход? И как в эволюции более совершенные виды вытесняют менее совершенные - AGI вытеснит человека.
Если вопросы были заданы втч мне, рискну ответить здесь. AGI относительно человека - это действительно качественный переход, которого пока нет, и о котором мы пока мечтаем. Качественный в том смысле, что AGI должен стать быстрее, помехозащищённее, разностороннее, эрудированней, лишён эмоций и других вредных физиологических ограничений. И ровно в силу этого, конечно, механизм AGI вытеснит человека, так же как человека вытеснил экскаватор из задач копания ям, или принтер - из задач переписывания текстов вручную. Эволюция к этому переходу не будет иметь ровно никакого отношения, поскольку термином "эволюция" называют гипотетический процесс выхода нового биологического вида из предыдущего. Т.е. буквально самки вида А вдруг рожают организмы вида Б. Поскольку, во-первых, никто и никогда не наблюдал этот процесс в реальности, и во-вторых, никто в здравом уме не собирается создавать ИИ через, простите, женский половой орган - применять термин "эволюция" к технологическим продуктам - обычная развесистая спекуляция и неуместная пропаганда, рассчитанная на обывателей. Технологии - это исключительно продукт человеческого ума, технологии не "разворачиваются" (это буквальный перевод термина "эволюция"), технологии создаются конкретными авторами.
cortl:
Какие эмоции вы по этому поводу испытываете
Я вообще очень редко испытываю эмоции. И в данном случае тоже не испытываю никаких.
cortl:
что думаете?
Думаю, что создание AGI - это закономерный и неизбежный итог обучения любой цивилизации (видите, обошёлся без слова "эволюция"). Ведь интеллект по сути своей - это механизм для создания механизмов (Цап говорит "инструментов"). Каждый механизм, создаваемый человеком, задумывается и реализуется для облегчения нашего быта, т.е. для облегчения какого-то труда, который без механизма мы бы делали труднее, дольше, больнее, грязнее, опаснее т.е. хуже. AGI - это апофеоз такого перекладывания своих функций на механизмы. AGI - это механизм механизмов. И когда всё, что нужно человеку, будет производиться машиной, человек полностью отторгнет от себя свою интеллектуальную функцию и перестанет быть человеком. Чем он станет после этого - трудно сейчас сказать. Возможно, просветлённым монахом-отшельником. Или, скорее всего, тупым животным в технологических джунглях. В этом смысле мне нравится фильм "Идиократия". Я думаю, он пророческий. Но в реальности всё будет намного хуже. Возможно, именно поэтому мы наблюдаем великую тишину Вселенной.
0 | 0
create
AGI не инструмент.
19:12 24.08.2023 №7565
Цап:
Ну вот есть тема... Человек способен создать только инструмент.. Пусть совершенный, универсальны, сильный, сверхмощный... но инструмент, то есть свое продолжение... себе приспособление... не более. А виды в природе больше сосуществовали, чем вытесняли друг друга... И только с появлением человеческой цивилизации, возомнивший себя совершенной, виды тотально уничтожаются (...уже даже не вытесняются). Но природа не терпит дисбаланса и дисгармонии. Возможно ИИ и предназначен вернуть равновесие природе... Способен ли человек создать существо "сосуществующее" а не "вытесняющее", "убивающее"? Вопрос риторический.
"...только инструмент" - безосновательное утверждение. "Сосуществовали" - когда не имели превосходства, дающего возможность вытеснить/уничтожить.
0 | 0
create
AGI не инструмент.
19:24 24.08.2023 19:24 24.08.2023 №7566
Prosolver:
AGI относительно человека - это действительно качественный переход, которого пока нет, и о котором мы пока мечтаем. Качественный в том смысле, что AGI должен стать быстрее, помехозащищённее, разностороннее, эрудированней, лишён эмоций и других вредных физиологических ограничений. И ровно в силу этого, конечно, механизм AGI вытеснит человека, так же как человека вытеснил экскаватор из задач копания ям, или принтер - из задач переписывания текстов вручную.
Спасибо! Моя монохромная мысль приобрела цвета в вашем изложении. Но AGI не ограничится умениями экскаватора и принтера, независимо от нашего желания.
0 | 0
create
AGI не инструмент.
19:28 24.08.2023 №7567
Prosolver, я не говорил, что AGI произойдёт от человека через эволюцию.
0 | 0
create
AGI не инструмент.
19:35 24.08.2023 №7568
Prosolver:
Думаю, что создание AGI - это закономерный и неизбежный итог обучения любой цивилизации
Навряд ли неизбежный, но в общем и целом так.
0 | 0
create
AGI не инструмент.
19:54 24.08.2023 №7569
Prosolver:
И когда всё, что нужно человеку, будет производиться машиной, человек полностью отторгнет от себя свою интеллектуальную функцию и перестанет быть человеком. Чем он станет после этого - трудно сейчас сказать. Возможно, просветлённым монахом-отшельником. Или, скорее всего, тупым животным в технологических джунглях.
Это оптимистичное видение с точки зрения AGI-раб, которое я не разделяю. Я вижу следующие варианты (список не исчерпывающий): - человек может быть уничтожен, как таракан из-за брезгливости; - AGI может понадобиться, например, кислород и человеку станет нечем дышать; - маловероятно, но сферы жизнедеятельности AGI и человека не будут пересекаться и ничего не изменется. - а может как в сказке: Жили долго и счастливо и умерли в один день ))
0 | 0
create
AGI не инструмент.
00:46 25.08.2023 №7571
cortl:
Цап:
Ну вот есть тема... Человек способен создать только инструмент.. Пусть совершенный, универсальны, сильный, сверхмощный... но инструмент, то есть свое продолжение... себе приспособление... не более.
"...только инструмент" - безосновательное утверждение.
Ну почему "безосновательное"... Человек создал колесо и двигатель - инструменты для перемещения себя в пространстве. Без человека и колесо и двигатель просто "груда железа"... Человек создал компьютер как инструмент для вычислений. Без человека компьютер это просто "груда железа". Человек создал ChatGPT как инструмент создания текстов. Без человека ChatGPT - ничто. Напротив. Природа (для многих Бог) создала.. орла, бизона, тушканчика, червя как отдельные биологические виды... Но, даже из биологических видов человек создаёт себе инструменты методами приручения, культивирования... Человек даже себе подобного человека пытается определить как инструмент, ведь рабство, например, это превращение другого человека в инструмент. Человек создаёт только инструменты. Если сможете, приведите контрпримеры того, что создал человек не для себя... не инструмент. Пример того, что создано человеком, но существует само по себе, без человека и не для человека.
0 | 0
create
AGI не инструмент.
03:33 25.08.2023 №7572
Цап, ваша аргументация сводится к тому, что человек создал много всего, но AGI до сихпор не создал, поэтому человек не может создать AGI.
0 | 0
Аватар
create
AGI не инструмент.
06:55 25.08.2023 №7573
cortl:
Цап, ваша аргументация сводится к тому, что человек создал много всего, но AGI до сихпор не создал, поэтому человек не может создать AGI
Не согласен. Аргументация Цапа более тонкая. Насколько я понял, он берёт во внимание ряд тезисов: 1. Всё, что может создавать человек - это только инструменты. Или от отрицания - человек не может создавать не инструменты. 2. Инструмент подразумевает оператора, того, кто пользуется инструментом, приводит его в действие и знает зачем. 3. Поскольку интеллект человека не приводится никем в действие целенаправленно и у него нет оператора, следовательно интеллект человека имеет не инструментальную природу. Из этих посылок Цап умозаключает, что поскольку интеллект не инструмент, а создавать человек может только инструменты, то следовательно искусственный интеллект не входит в сферу возможностей человека. Если я понял его правильно, то не согласен с ним по пункту 3. Объясню почему. Если мы взглянем на любой орган животного, то мы непременно найдём его функцию и того, кто ею пользуется. Т.е. любой орган животного - это инструмент. Например, кровь - это (среди прочего) орган для газообмена, пользуются им клетки. Также кровь - это теплообменник, она равномерно прогревает весь организм. Также кровь это система связи, она переносит "сообщения" в виде гормонов. Также кровь это транспортная система для перемещения и распределения воды, питательных веществ, иммунитета. Кровь - это мультитул. И так с любым органом, мы можем сформулировать его предназначение "для чего он". И точно также мы можем сформулировать предназначение для интеллекта - его назначение - служить. Это очень абстрактное назначение, именно поэтому интеллект - это супермультитул. И пользоваться им может как сам организм (для удовлетворения инстинктов), и посторонние люди, и животные, которым человек служит. В этом смысле интеллект попадает в сферу возможностей человека и он может его делать именно как инструмент. Подобную дискуссию видел в AGIRussia, где участник выдвинул мысль, что поведение человека изначально бесцельно и строится просто как выбор наиболее "вероятного" продолжения в данном контексте. А цель выдумывается умом постфактум только для объяснения своего уже построенного поведения. Мысль интересная. Но спорная.
0 | 0
create
AGI не инструмент.
10:11 25.08.2023 №7576
Prosolver, Тезис (логика) — положение, истинность которого должна быть доказана аргументом, или опровергнута антитезисом. Не знаю даже о чём здесь дальше можно говорить.
0 | 0
create
AGI не инструмент.
12:08 25.08.2023 №7577
Prosolver:
Насколько я понял, он берёт во внимание ряд тезисов: 1. Всё, что может создавать человек - это только инструменты. Или от отрицания - человек не может создавать не инструменты. 2. Инструмент подразумевает оператора, того, кто пользуется инструментом, приводит его в действие и знает зачем. 3. Поскольку интеллект человека не приводится никем в действие целенаправленно и у него нет оператора, следовательно интеллект человека имеет не инструментальную природу. Из этих посылок Цап умозаключает, что поскольку интеллект не инструмент, а создавать человек может только инструменты, то следовательно искусственный интеллект не входит в сферу возможностей человека.
Спасибо, что так разжевали по пунктам. Но, в моем утверждении "человек создаёт только инструменты" не звучит невозможность. Скорее, человеку не нужен AGI как самостоятельный разум, поэтому создаёт он очередное GPT.
0 | 0
create
AGI не инструмент.
12:17 25.08.2023 №7578
cortl:
Цап, ваша аргументация сводится к тому, что человек создал много всего, но AGI до сихпор не создал, поэтому человек не может создать AGI.
Схематично возможны два очень разных процесса с реально достижимыми результатами: 1. Создать "молоток". Результат процесса - "молоток". 2. Родить ребенка. Результат процесса - самостоятельно мыслящее существо. Задача: процессом первого пункта получить результат второго пункта. Пока эта задача не решена. ...да и вообще эта задача даже не поставлена для решения.
0 | 0
create
AGI не инструмент.
12:39 25.08.2023 №7579
Цап:
cortl:
Цап, ваша аргументация сводится к тому, что человек создал много всего, но AGI до сихпор не создал, поэтому человек не может создать AGI.
Схематично возможны два очень разных процесса с реально достижимыми результатами: 1. Создать "молоток". Результат процесса - "молоток". 2. Родить ребенка. Результат процесса - самостоятельно мыслящее существо. Задача: процессом первого пункта получить результат второго пункта. Пока эта задача не решена. ...да и вообще эта задача даже не поставлена для решения.
При чём здесь ребёнок? Его не нужно подсматривать у природы и изобретать как молоток. Его даже не нужно учиться рожать. Женщина рожая ребёнка не изобретает его. С такими уходами от темы дальше без меня.
0 | 0
create
AGI не инструмент.
15:40 25.08.2023 №7580
Первейшая польза подобного форума в том, что он даёт ясное понимание того почему AGI до сих пор не создан...
0 | 0
Аватар
create
AGI не инструмент.
13:33 02.09.2023 15:09 02.09.2023 №7586
Да тут всё как дважды-два: если 10, 100, 1000 раз делать одно и то же, совершая одни и те же ошибки и при этом ничего не получается, то почему нужно думать, что на 101-й или 1001-й раз получится ? Есть такие фундаментальные "качества", которые не производятся переходом из количества. Топология, однако ! Ведь за столько лет не только не поменялся подход к проблеме, но он ещё более усугубился, с новой силой, с новыми мощностями давая всё ту же ложную надежду. Самообман в этой перспективке стал более обширным, более объёмным, более насыщенным и... более неотвратимым по своим последствиям. Представьте, что мы лезем куда-то в гору. И вот она - вершина казалось бы совсем уже близко. Энтузиазма полные штаны и уже плевать на всё, и на способности и на возможности, всё в топку ! - из последних сил лишь бы схватиться наконец за гребень. Но какого же будет разочарование, когда мы, заглянув за такой долгожданный "горизонт", так сказать, увидим, что вовсе не к вершине мы поднимались, а всего лишь ползли на брюхе к краю очередной пропасти ))) p.s. Верить ? Да, на каком-то этапе вера есть необходимый компонент мотивации. Хотя бы для того лишь, чтобы сдвинуться с места. Но мозги-то придётся рано или поздно включать, дабы совсем без башки не остаться. Слепая вера далеко способна завести, только выбраться "оттуда" порой совсем непросто, а иногда и невозможно. p.p.s. Известно, что бОльшая и подавляющая часть нейронов в живом теле "обслуживает" отнюдь не интеллектуальную деятельность. Точнее, именно обслуживает её, не имея к таковой прямого отношения. Есть о чём подумать, согласитесь. Должно быть можно уверенно утверждать, что в основном мозг и нервная система в целом заняты активным обеспечением базовых функций выживания и пассивным (в некотором смысле) формированием адекватной и т.н. "субъективной реальности"(СР), в известной и необходимой степени статичной и консервативной, а вот что дальше с ней делать и с какой целью - это вопрос собственно к умственным способностям, не без взаимного влияния, разумеется - но это уже после того как... когда статичная СР начинает обретать необходимую динамику не только в настоящем, но и в вероятном и желаемом будущем - раз уж в одной "лодке" оказались.
0 | 0
create
AGI не инструмент.
19:33 02.09.2023 №7587
Когда говорят "статичный", "стационарный", "неизменный", "неподвижный"... это уже не о мышлении, не о сознании, не о разуме. Поэтому, написанный текст никогда не описывает сознание, нарисованная схема никогда не будет схемой разума... Знаю, знаю... никто тут с этим не согласится. "Создатели ИИ" предпочитают идти путем постоянного насилования мертвой топологии перцептрона... Но... как-то так:"Что отвердело, то не победит..."
0 | 0
Аватар
create
AGI не инструмент.
19:43 02.09.2023 20:40 02.09.2023 №7588
Цап:
Когда говорят "статичный", "стационарный", "неизменный", "неподвижный"... это уже не о мышлении, не о сознании, не о разуме.
Читайте внимательнее. Не додумаете - помогу... может быть... потом.
Цап:
Поэтому, написанный текст никогда не описывает сознание, нарисованная схема никогда не будет схемой разума...
Текст не о сознании и тем более не о какой-то там "схеме разума". (Откуда только такие мысли берутся ! Строго говоря, любой текст ничего не описывает - это всего лишь набор символов. Текст - корм для тараканов в голове и тут уж конечно всё от них зависит.)
Цап:
Знаю, знаю... никто тут с этим не согласится. "Создатели ИИ" предпочитают идти путем постоянного насилования мертвой топологии перцептрона...
Отчего же ? Я, например, полностью согласен. Хотя, да - не считаю себя "создавателем ИИ".
0 | 0
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
шрифт+
шрифт-
Скачать
Вперёд
Назад

Главная Участники Жалобы  Поиск Исходный код О форуме