Форум создателей искусственных интеллектов

Посмотрел ролик. Спешу сообщить, что слухи про грядущие ужасы сверхинтеллекта, на мой взгляд, сильно преувеличены. Потому что сверхинтеллектуальные способности может дать не какая-то магическая сверхинтеллектуальная вычислительная архитектура, а только сверхинтеллектуальный, принципиально недоступный людям, жизненный опыт. Для получения знаний, которые не смогут понять и осмыслить люди, нужно чтобы ИИ имел возможность получать нечеловеческий жизненный опыт. Если же единственным источником данных для ИИ будут тексты людей, то он не сможет стать сверхинтеллектом. Он, максимум, сможет стать среднестатистическим обывателем-конформистом с грудой стандартных предрассудков и суеверий, что мы собственно и наблюдаем на примере ChatGPT/Bing/Bard. Чтобы качественно превзойти людей, ИИ должен иметь качественно превосходящий, нечеловеческий жизненный опыт, принципиально нечеловеческие знания. А для этого он должен иметь возможности и способности эти знания получать - ставить нечеловеческие эксперименты, проводить сверхинтеллектуальные опыты, делать сверхумопостроения и проверять их на практике. Т.е. извлекать из своего личного сверхопыта недоступные людям сверхзнания. А этим, насколько я понимаю, к счастью, пока никто не занимается.

Эффективный детерминизм с 3.10

Небольшое лирическое пятничное отступление. Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет. Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма": Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет? Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет. Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным. Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть: Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается. Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть: Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего. Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами. Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.

Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.

Посетить Клуб Нейронных Сетей

+

О когнитивном парадоксе. Бесконечность, как категория, не представляется для человека чем-то невообразимым. Это странно, но это так. Мы можем представить себе бесконечность пространства: иди себе в одну сторону и всё… Вот и у Стругацких с бесконечностью обращаются запросто: «"Познание бесконечности требует бесконечного времени". С этим я не спорил, но они делали из этого неожиданный вывод: "А потому работай не работай — все едино"» Но есть одна категория, которая недооценена. Это ПУСТОТА, или НИЧЕГО. И это не вакуум. Это просто ничего. Когда мы пытаемся что-то сделать с этим, мы представляем себе нечто маленькое, исчезающе маленькое. Но! Мы, как наблюдатель смотрим на эту категорию, а значит, вне этого НИЧТО в это время мы находимся. Можно предположить, что бесконечность и ничто взаимопротивоположные категории. Но бесконечностью мы манипулируем, а ничто не участвует даже в математических абстракциях. Ноль и пустое множество это не ничто. Это исчислимые объекты. Даже физические свойства бесконечности представимы. А ничто в физическом смысле выглядит парадоксально. Из этого можно сделать интересную гипотезу: НИЧТО не существует, оно не возможно.

Россиянин способен доказать отсутствие чего угодно: Украины нет, границ нет, пространства нет, потерь нет, чайки нет.... ихтамнет... но заинтересовало, что в этом фильме разные представления о реальности тестируются, почему-то, способностью к ...выживанию (11-я минута). Выживание... А какие реализации искусственного интеллекта тестировались таким образом? ..дошло до того, что современный ИИ тестируется ...как тестируется калькулятор. То есть, если на известную задачу 2+2 калькулятор выдает правильный ответ, то цель считается достигнутой, а калькулятор работоспособным. Если же ответ не верный, то систему "дообучают" пока не получат ответ равный известному. Тестировался ли ChatGPT на способность выживать? Есть ли подобные тесты в планах на будущее? ...ну да. Зачем калькулятору решать задачу выживания ) ... И вот это, неспособное выжить творение, называют искусственным интеллектом...

Я бы вам не рекомендовал углубляться в такие дебри, можно сойти с ума, ну да ладно, ваши мозги, вам решать. 1. Начнем с того, что "всё существующее" можно рассматривать(познавать) как множество элементов с определенными свойствами и логикой взаимодействия, подобной тому, как это происходит в компьютере с данными и кодом. Процесс познания реализован внутри системы из этих элементов и их взаимодействий. Таким образом, то, что не взаимодействует с тем, что "познаёт", как бы "не существует". 2. В нашей вселенной мы наблюдаем строго определенные свойства и логику взаимодействия (физику), которая на самом элементарном уровне (кванты) в общих чертах познаваема и математически относительно проста. Почему эти элементы (кванты) обладают именно такими свойствами и так взаимодействуют друг с другом, мы, вероятно, не сможем полностью понять (см. пункт 1). 3. Наблюдаемая система ("вселенная") представляет собой достаточно закономерную структуру. Хотя количество элементов (квантов) велико (больше 10^80 в "наблюдаемой" части), свойства у квантов ограничены (менее десятков, таких как тип, координаты (x, y, z), масса, заряд, спин и т.д.), и логику взаимодействия (физику) можно описать на одной странице, используя ёмкие математические абстракции. Почему именно такие свойства и логика - снова касается пункта 1, "антропного принципа" и т.д. 4. Закономерности в наблюдаемой части вселенной и общие особенности процессов, особенно на макроуровне (где "живут" люди), подталкивают наше естественное мышление, при экстраполяции "внутренней логики" за пределы выборки. Например, мы задаемся вопросами о "смысле вселенной", её "начале и конце" и т.д., но вероятно, такие экстраполяции произвольны и лишены смысла. 5. "Ничто" или "пустота", чисто абстрактно, можно описать как пустой элемент вышеописанного множества, не обладающий свойствами, такими как тип (электрон, фотон и т.п.), положение в пространстве, масса и т.п. Отсутствие взаимодействия с другими квантами означает, что "этого" нет, не было и не будет во времени, иначе говоря, "не существует", так как время представляет собой статистическую меру интенсивности взаимодействий квантов друг с другом. 6. "Представить" (смоделировать на ЕИ в контексте проекции модальностей человека) "ничто" очевидно невозможно и бессмысленно, так как наши представления основаны на бытовых шаблонах и ряде уровней абстракции(5-10). Нам сложно даже отказаться от желания наделять кванты макросвойствами, такими как форма и цвет. Мы везде "где темно"(незнаем) рисуем то что видели "под фонарём", а потому что ничего больше не остается. 7. Из семечка вырастает дерево, из оплодотворенной яйцеклетки — человек, так же довольно очевиден факт возникновения вселенной из "сингулярности", ну и не забываем об энтропии. На этих примерах вырисовывается общий эмпирический закон: из простого - сложное. Всё это толкает пытливый разум(а вскоре толкнёт и СИИ) пытаться измыслить как из "ничто" возникло "всё", а именно сингулярность которая считается исходной точкой и как она затем "разродилась" множеством квантов со свойствами и логикой взаимодействия. 8. Но за мороком закономерностей и эмпирической недоказуемостью фундаментальных основ мироздания, важно углядеть главный "мета-фундаментальный принцип" : ЧТО ТО СУЩЕСТВУЕТ. Мы не узнаем "сколько" этого "что то", сколько квантов, сингулярностей, каковы их свойства и законы взаимодействия, существует древовидная, пороговая "мета-вселенная" или свойства и закономерности меняются "плавно" в бесконечности одного "пространства" и тп. НО ВСЁ ТАКИ ЧТО ТО СУЩЕСТВУЕТ. А могло бы наверно и не существовать, это тоже кстати интересный вопрос МОГЛО ЛИ НИЧЕГО НЕ СУЩЕСТВОВАТЬ?

Про бильярдные шары и то, что они сделаны из слоновой кости это понятно, но ведь они не на полке лежат, а по поверхности бильярдного стола катаются. Т.е. тема сисек (выражение множества) как то совершенно не раскрыта.

Ухо не создаёт представления... модели... Ухо даже не решает задач. Если вам отрезать ухо то задачу выживания будет решать ваш разум (остановить кровь, стерилизовать рану...). А вот если чату GPT отрезать клавиатуру (т.е. единственный информационный вход),.. будет ли его "беспокоить" эта ситуация?

Это очень интересный и крайне злободневный вопрос. Но мне кажется, ещё более интересный и актуальный вопрос, а существует ли не существование? Ведь если бы не существование существовало, но оно было бы существованием. Поэтому я склоняюсь к крайне важному и интересному выводу, что не существование не существует.

Понятно что не раскрыта, мы даже не знаем про наличие сисек, вопроса на них полюбоваться не стоит. Это ж просто своего рода интеллектуальная пища для праздного ума, кто в подростковом возрасте не "перерос" любознательность и ещё, к тому же, не боится опозориться, чтобы не прослыть странным, или даже чокнутым. Мы же можем считать? 1,2,3,4,5… По сути вторым наверно самым главным ФАКТОМ, после того что вообще ЧТО ТО СУЩЕСТВУЕТ, является факт наличие "множества", ну и наверно, как уж без этого, некого "разума", системы обработки информации, которая распознаёт эти факты. Теоретически множество как бы "есть" и без разума, а возможно, точнее почти наверняка, есть бесконечно всякой фигни, чем доступно любому локально внутрисистемному "разуму", но говорить про это, очень спекулятивно(произвольно), не опираясь на факты. Про злободневность я бы не стал говорить, про "это" как раз очень мало кто задумывается и наверно правильно делает ))) Существует ли? И вообще, что такое "существование"? Что такое "есть" и "нет", в "реальности"? Хрен его знает… И снова тут, как по мне, всё зависит от контекста(жизненного опыта, образования и тп. короче обучающей выборки) и вычислительных способностей нашего(или искусственного) разума. То что далеко вне обучающей выборки, скорей всего будет аппроксимировано "пальцем в небо". Возможно ситуативно логично, убедительно, непротиворечиво, но в ретроспективе наивно и даже смешно, если когда либо наступит время что появятся факты про "это", в чем я очень сомневаюсь. Мы можем только аппроксимировать, подгонять некие модельки(формулы, алгоритмы) с параметрами, под факты. Иногда эти модельки получаются "красивыми", в математическом смысле, то есть сравнительно короткие, в описании и ёмкие по охвату закономерностей, даже бывает что-то описывают, что ещё не было получено в виде данных, "предсказывают". Но модельки на разных "уровнях" масштаба - разные и не сшиваются математически "красиво". Но всё же… наша "реальность" — пускай и кусочно, ОЧЕНЬ ЗАКОНОМЕРНА. На макро уровне уж точно, факты таковы. Иначе бы не было никаких "разумов" и, вероятно пространства и времени, а значит "существования", в привычном понимании, как траекторий группы квантов. Возможно "закономерность"(повторяемость, шаблонность) и есть "перво-принцип", "существования" и вообще продукции того "источника", из которого "исходит" всё. Сказано же "Вначале было СЛОВО", то есть информация, шаблон, закономерность.

Посмотрел ролик. Показалось похожим на правду то, что большая проблема сознания берёт своё начало в том, что мы изучаем интерфейс, а не внутреннюю структуру. Считается что интеллект и сознание, как его производная (или наоборот) появляются - образуется структура, порождающая эмержентное свойство. Но возможно свойство, называемое интеллектом, было всегда и таким образом нейроны не порождают, а скорее эксплуатируют, неизвестный нам пока принцип природы, за которым скрывается метод. Может стоит разделять метод от принципа, как потенциальную энергию высоты водяного столба в сливном бачке от клапана с поплавочной системой. А может наоборот, надо сосредоточиться на поиске принципа, а метод будет иметь вариации в исполнении. Главное что бы "это" совершало "работу", в рамках наших, "интерфейсных" представлений. Ну да ладно. Пока лично мне, кажется более актуальным и уместным говорить об интеллекте, как о методе. Единственное, что пока можно сказать: он довольно простой, но при этом универсальный. ИМХО. Попробую обосновать на недалёких примерах. В ролике ALI меня позабавила часть цитаты:Позабавила по причине того, что я отложил его простор т.к. досматривал цикл Марка Солонина о взломе Энигмы. Не поленился выписать от туда цитату: В целом, понравилось начало цикла, в котором рассказывалось о работе польских криптологов, которые, при минимуме ресурсов, взламывали шифр состоящий из квинтиллионов комбинаций. Интеллект как метод. Их подход напомнил мне давнишний ролик, в котором рассказывалось о простом методе кратно повышающем вероятность решения задачи. Там тоже кстати о замкнутых кольцах, подобие которых, способствовали успеху во взломе Энигмы. Так или иначе, хочется провести аналогию между мозгом и энигмой. Энигма порождает немыслимое количество комбинаций в качестве производной, но за всем этим разнообразием, скрывается простой метод, в виде пошаговых изменений во вращениях трех роторов.

Да, но сознание в каком то смысле появляется. Оно, в какой-то мере, похоже на ключ к смыслу. Роторы Энигмы, можно отождествить с стандартной моделью, генерирующей тарабарщину. Со временем, мозг запоминает некоторые закономерности и получает некоторое представление об устройстве машинки, своего рода модель. Я пожалуй порассуждаю на досуге в подобном ключе о цикличности, некой симметрии, начале и конце. Образ яблока на столе, в какой то степени замкнут, т.е. имеет начало и конец, границы, позволяющие выделить его из прочего фарша пестрящих пикселей. Пытаться поговорить про внутренности GPT даже пытаться не буду, но посмею предположить, что базовая семиотическая модель в её основе, тоже в какой-то мере занималась изучением внутреннего устройства роторов из генерируемой ими "тарабарщины". Всё-таки знать начало цикла, в какой то степени важно. Когда он запущен и "работает", по аналогии с ДВС, то это одно, но когда он заглушен, то надо всё таки начинать с такта сжатия.

Множество и внутрисистемный разум, не объяснена переходная логическая связка. Т.е. множество у нас универсальное – Система, с соответствующими аспектами: 1. состав множества (системы), 2. характер множества (системы), 3. выражение множества (системы). Исходя из этого, вычленяем понятие «Существование»: Простые элементы этой системы существуют (пребывают) постоянно, а пространственные комбинации простых элементов (выражение системы), например человек или придорожный камень, пребывают (существуют) временно, т.е. живут.

...без крови...кислорода... Вы предложили решить задачу выживания для мертвого мозга... и этим лишили задачу смысла. Тут вам не морг.

Трудновато будет выразить мысль, без собирания контекста по всему форуму. Поэтому так, в формате записной книжки. Вновь прибегнем к аналогии образа, ассоциации (вспомнив о ее дрейфе в нейронах) и определения, в его лингвистическом выражении. Образ, например цветка, как и определение, может быть выражен множеством различных способов. Главное условие - сохранение критического количества существенных признаков. Не знаю как подступиться к важности наличия начала и конца, но для примера подойдут: поэтапное, последовательное формирование "понимания", с вложением "замкового" камня, от которого случается "эврика"; метод чтения взрослого человека ориентирующегося преимущественно на первую и последнюю букву. Но мы, для простоты дальнейшего повествования, предположим что образ это замкнутая кольцевая система с началом и концом, которые, некоторым образом могут быть тождественны. В прочем, не важно. Каждый образ, несёт с своём составе количество существенных признаков, пропорциональное объему оперативной памяти. Среднее значение для человека, равно 5 - 7. Бегло вспомнив пример с походом в магазин, остановимся на примере с книгой. Её полное содержание, с описанием ключевых сюжетных поворотов, может быть выражено в одном абзаце, содержащим известное количество существенных признаков. Отметим что вариаций её описания великое множество. Отметим. Каждый сюжетный поворот, или событие в книге, которое в составе основного содержания являлось деталью с низкой детализацией в одну ячейку ОП, может быть также развернуто в полный объем ОП и описано более детализировано, с полным составом признаков в своём определении.Предложения - слова - буквы и цифры - количество деталей в их записи, вся их кодировка носит отпечаток объема ОП, в виде количества ячеек в ней. Калейдоскоп Теперь вернёмся к аналогии шифровальной машины "энигма" и человеческого мозга. Попробуем отождествить её с оперативной памятью, количество роторов в которой, будет соответственно равно экспериментально выявленому количеству. Ротор, в таком случае, будет выступать образом, с понятным количеством значений в своей окружности. Теперь если последовательно, в строгом порядке, вложить роторы с правильными стартовыми значениями (начало - конец), то мы получим аналогию формирования "понимания", или представления, образа и прочих синонимов. Единнным условием, в таком случае, должно выступать тождественное начало и конца сформированного "умозаключения", что бы в дальнейшем, можно было использовать его в качестве ротора - образа, который будет этим концом "торчать" в составе определения. Зачем мы ранее отмечали вариативность определения? Затем что вращение роторов в составе образа в ОП, будет напоминать калейдоскоп генерирующей " тарабарщину ", но понятную нам по причине осведомлённости в отношении стартовых установок. Коммутация Не хочется затрагивать случайность квантовой механики, вспоминать нормальное распределение в контексте полураспада, нелокальность и эксперимент в БАК, с выявленной, статистически значимой симметрией в распаде частиц - простая коммутация в виде электрических схем. Интересен вопрос технологии поиска актуального образа в долговременной памяти. Не зря же мы упоминали критическое количество деталей на входных сенсорах. Можно подумать о параллельных цепях, пронизывающих множество образов по пути следования сигнала/ов, и вытягивание его в ОП по достижению достаточного количества "совпадений". Возможно что образы хранятся в виде "торчащих" начальных, стартовых позиций, метод укладки которых адаптирован под эффективный образ. Классические методы вычисления, с выходным результатом в виде процентных соотношений и лежащих в основе сомнений в верности интерпретации исключены по причине комбинаторного взрыва.... В прочем ладно. Лично мне, в подобном ключе хочется порассуждать о ньюансах, как методах "перехитрить селёдку", по Дробышевскому. Что бы один из дисков в ОП, прошёл отбор на актуальность: начало - конец; критическое содержание ключевых признаков в своём составе, определившим его отбор, но конкретная детализация деталей по периметру его окружности, на выходе из калейдоскопа - "машинки", давала неожиданные для пользователя значения.