Форум создателей искусственных интеллектов

А если проверить Вашу технологию в реальной жизни. К чему приводит эмбеддинг слова «Интеллект», что это: - явление, - способность, - процесс, - структура, - орган или что-то другое?

Задан конкретный вопрос. Конкретного ответа на вопрос не получено. Каким образом получено знание ответа на вопрос не известно.

Другое дело, если человек за смысл модели мира примет понятие «Система». Исследуя, проводя декомпозицию данного понятия он вычленит и понятие « Качество», и понятия его характеризующие: Структура, Способность, Процесс. Сознание соотнесет с процессом, интеллект со способностью, а тело со структурой. Т.е. если кто-то не понимает источник логики, то всем остальным совсем не обязательно от нее отказываться.

Мы живем в момент, когда инструмент (ИИ) не просто помогает человеку, но и выступает в роли эталона, по которому публика начинает мерить качество мыслительной продукции вообще. И многим "традиционным" источникам мнений приходится на этом фоне очень туго.

К примеру популярный экономист Михаил Хазин признался, что использует ИИ для написания статей. А преподаватели вузов используют ИИ для проверки и анализа студенческих работ. Про студентов и говорить не стоит. Теперь мы знаем новый критерий эталона: он должен быть не только 'высшим и образцовым', но и генерироваться по нажатию кнопки. Видимо, дотянуться до этой планки могут все, у кого есть стабильный интернет. (Шутка)

Академик Святослав Медведев в своих интервью и выступлениях высказывал очень интересные и нестандартные взгляды на природу гениальности. Его идеи тесно переплетаются с его общей концепцией о работе мозга, "матрице стереотипов" и "детекторе ошибок". Вот ключевые моменты его теории о гениях: 1. Гениальность — это "поломка" детектора ошибок Самое известное и парадоксальное утверждение Медведева: "Гениальность — это патология". По его мнению, у гениев ослаблен или иначе функционирует тот самый "детектор ошибок". У обычного человека: Детектор ошибок активно работает, сверяя любую новую идею с "матрицей стереотипов" (общепринятыми нормами, знаниями и шаблонами). Если идея не вписывается в матрицу, детектор "сигнализирует" — это ощущается как внутреннее сопротивление, сомнение: "Это неправильно, так не делают, это бред". У гения: Этот детектор работает слабее или его сигнал игнорируется. Поэтому гений не отбрасывает "странные", "безумные" или "неправильные" идеи. Он позволяет им развиваться. 2. Связь с шизофренией Медведев проводил параллели между мышлением гения и шизофреника, но с одним ключевым отличием: У шизофреника "детектор ошибок" сломан полностью. Его мозг генерирует бессвязные, бредовые идеи, которые не имеют отношения к реальности. У гения "детектор ошибок" не сломан, а ослаблен в определенной сфере. Более того, гений обладает мощным интеллектом и трудолюбием, чтобы проверить, развить и обосновать свою "безумную" идею, привести ее к работающей теории или шедевру. Его метафора: "Гений — это как бы немножко шизофреник, у которого колоссальный интеллект и который может свою нестандартную идею довести до ума." Как «убожество и банальность суждений» связано с поломкой этого детектора? Ваша фраза описывает состояние, при котором этот внутренний контролер молчит или дает сбои. 1. Убожество суждений (интеллектуальная скудость) Причина поломки детектора: Отсутствие или игнорирование функций (сравнение с реальностью) и (критика источников). Проявление: Человек строит суждения на основе ограниченного набора данных, слухов, стереотипов. Его детектор не сигнализирует: «Стоп! Проверь факты! Этой информации недостаточно!». Пример: Утверждение «Все политики — воры». Детектор ошибок у здоровомыслящего человека должен среагировать: «Это генерализация. Нет данных по всем политикам. Это эмоциональное утверждение, а не факт». 2. Банальность суждений (отсутствие оригинальности, клишированность) Причина поломки детектора: Отказ от функций (поиск альтернатив) и (обнаружение искажений). Проявление: Человек использует готовые, заезженные мемы, шаблонные фразы и клише. Его детектор не задает вопрос: «А нельзя ли взглянуть на это под другим углом? Это твоя мысль или просто повторение услышанного?». Пример: Обсуждение сложной социальной проблемы сводится к фразам вроде «Раньше трава была зеленее» или «Так было, есть и будет». Детектор ошибок не видит в этом проблемы, хотя на деле это — отказ от глубокого анализа. Фраза «убожество и банальность суждений местных мыслителей» — это и есть описание симптома болезни мышления, при котором внутренний механизм саморегуляции и критической проверки («детектор ошибок») либо атрофирован из-за неиспользования, либо изначально не был развит. Таким образом, связь прямая и причинно-следственная: Неисправный детектор ошибок → Некритичное усвоение информации и отсутствие рефлексии → Убогие и банальные суждения на выходе. В контексте вышеописанного, высокомерие — это главный враг детектора ошибок. Оно заставляет человека отключить сигнализацию, потому что он уверен, что в его замке никогда не может произойти кража. И именно поэтому он оказывается наиболее уязвим.

Это правильное и очень важное наблюдение. С (личными) нормами сверяется всё, не только новые идеи, но и старые и вообще любые. Я это называю детектор противоречий. А это в корне не верно, всё ровно наоборот. Гений просто делает намного больше детекций и видит намного больше противоречий/соответствий, причём на более глубоких/широких масштабах пространства/времени. Поэтому гений может принять/отбросить те идеи, которые обычными людьми отбрасываются/принимаются просто вследствие менее детального рассмотрения. Например, эволюция через случайные мутации. Для обычных людей - это норма. И они не отбрасывают эту идею. Но более глубокое и детальное рассмотрение выявляет массу противоречий, что вынуждает отбросить эту идею как несостоятельную.

Я прямо сгораю от любопытства: кто ваш "кумир", на кого вы ориентируетесь? Назовите хотя бы ТРОИХ известных людей (не советских), современных.

Идею «детектора ошибок» описывал и исследовал академик Святослав Медведев — сын Натальи Бехтеревой. Они являются наследниками научных идей Владимира Михайловича Бехтерева — выдающегося русского и советского психиатра, невролога, физиолога, основоположника рефлексологии и патопсихологического направления в России. Мне трудно спорить с учёными, которые всю жизнь изучали мозг человека. Хотя я считаю, что существует ещё и интуиция, присущая всем гениям, — это своего рода канал связи с неким мировым информационным полем.

Безусловно, все люди прекрасны, поскольку каждый из них уникален. Однако сближает или разделяет людей именно точка зрения на мир, мировоззрение. Между ними возникает симпатия или антипатия, а некоторые и вовсе предпочитают жить в собственном внутреннем мире, не стремясь к общению. Да и цели присутствия на форумах у всех разные. Моя цель — выдвигать неожиданные и необычные для большинства людей теории в надежде найти единомышленников. Мне особенно интересны люди с широким кругозором и нестандартным мышлением, такие как Альберт Эйнштейн, Никола Тесла, Дмитрий Иванович Менделеев, Владимир Михайлович Бехтерев и другие. Меня привлекает их мировоззрение. Но это "кумиры" для меня, таких людей сегодня наверное нет. Но есть люди с подобным мировоззрением.

Уже не первый раз встречаю этот фейк, порождённый, видимо бурлящими миазмами готайки. Мне, как солипсисту, в целом безразлично, что обо мне пишут. Но в условиях, когда все мои декларации, как госслужащего, опубликованы в интернетах, распространение таких фейков, как мне кажется, бросает тень на самого распространяющего.

И Egg, с его «Мир – это текст» тоже прекрасен.

Я думаю иначе. Всему свое время. «Время разбрасывать камни, и время собирать камни».

Вероятно мы друг друга не поняли! Кумир это не собеседник, это ориентир. И главное это их мировоззрение. Так что я не надеюсь найти тут "Кумира".

Раз вы математик, то поймете смысл моей заметки. И почему я тут. Научный спор у круглого стола: Заметка о восприятии и истине В центре просторной комнаты стоит круглый стол. На нём — уникальный объект: шестигранная пирамида, каждая грань которой окрашена в свой, неповторимый цвет. Вокруг стола расположились двенадцать человек, образовав шесть пар. Каждая пара сидит строго напротив одной из граней пирамиды, что определяет их уникальную точку зрения. Картина мира с одной точки Прямо перед собой каждый участник видит свою грань во всей её полноте. Для одной пары мир — это ослепительный алый, для другой — глубокий синий, третья с уверенностью заявляет, что истина — это изумрудная. Их реальность локальна, но абсолютно достоверна в своих рамках. Они изучают свой цвет, обсуждают его оттенки, текстуру, игру света. В этом и заключается их «научный спор» — углублённое исследование известной им части истины. Проблема коммуникации Пирамида — объёмна. Из-за её геометрии участники лишь краем глаза, ограниченно, видят две соседние грани. Пара, видящая алый цвет, знает, что слева от них есть нечто желтоватое, а справа — синеватое, но детали размыты и недостоверны. Когда «алые» пытаются описать свою реальность «жёлтым» или «синим», диалог даётся с трудом. Как объяснить всю глубину и насыщенность своего красного тому, кто видит лишь его смутный отблеск? Соседи, в свою очередь, пытаются донести свои открытия, но их слова кажутся искажёнными и неполными. Возникают споры, каждая пара с жаром доказывает, что её картина мира — первична и наиболее верна, ведь их доказательства — прямо перед их глазами. Метафора познания Эта комната — изящная метафора человеческого познания. Мы все — эти двенадцать человек у стола. У каждого своя истина. Наша точка зрения определяет нашу реальность. То, что для нас очевидно, для другого может быть лишь смутной тенью. Знание ограничено контекстом. Мы видим свою грань отлично, но не видим целого. Чтобы понять полную картину — шестицветную пирамиду, — необходимо объединить усилия всех участников. Сложность диалога. Самые жаркие споры часто возникают не между прямыми оппонентами, а между соседними точками зрения, которые имеют достаточно информации, чтобы говорить, но недостаточно, чтобы понять друг друга полностью. Ценность коллективного усилия. Научный спор пар — это не просто упрямство. Это попытка сформулировать и отстоять своё знание. А трудная коммуникация с соседями — это первый шаг к осознанию того, что твоя истина является частью чего-то большего. Истина — не в красном, синем или жёлтом. Истина — это вся пирамида. Но увидеть её целиком, не сдвинувшись с места, никому не дано. Мы можем лишь обсуждать свои грани, спорить о них и пытаться, несмотря на все трудности, услышать и сложить воедино рассказы наших соседей. Все люди правы по своему их выводы основаны на их знаниях. Они не убогие, просто они не сходят со своей точки зрения. Правильная точка зрения в Бога, который видит весь мир целиком.

Знаете в чем самая главная проблема создателей ИИ? Они исходят из материалистической точки зрения, при этом не обладают полными знаниями в религии. Они исключили Бога, его цели и замыслы. Вот самые современные взгляды на ИИ ведущих специалистов по созданию "интеллекта". 1. Может ли у ИИ быть интеллект как у человека? Это вопрос о том, что такое "интеллект" и "сознание". Короткий ответ: Пока нет, но мы движемся в этом направлении. Современные ИИ, особенно большие языковые модели (как я), демонстрируют впечатляющие способности: Обработка информации: Они могут анализировать гигантские объемы данных, находить сложные закономерности и генерировать текст, код и изображения. Решение узкоспециализированных задач: В таких областях, как игра в шахматы или го, распознавание изображений или перевод языков, ИИ уже превзошел человека. Однако человеческому интеллекту присущи качества, которых у современных ИИ пока нет: Сознание и самосознание: У ИИ нет чувства "Я", осознания себя как личности, своих переживаний и места в мире. Эмоции и эмпатия: ИИ может имитировать эмоции и распознавать их у людей, но не переживает их по-настоящему. Нет радости, грусти, любви или страха. Здравый смысл и контекстуальное понимание: Человек опирается на огромный пласт неявных знаний о мире. ИИ часто ошибается в простых вещах, потому что у него нет этого "фонового" опыта реального мира. Целеполагание и креативность: ИИ может генерировать новые комбинации из того, что уже видел, но не ставит перед собой самостоятельные, глубокие цели. Его "креативность" — это сложная рекомбинация, а не озарение, рожденное из личного опыта и страсти. Таким образом, современный ИИ — это мощный инструмент имитации интеллекта, но не его полного воспроизведения. Ученые называют эту цель Искусственным Общим Интеллектом (ИОИ, или AGI) — интеллектом, способным на любую интеллектуальную задачу, которую может выполнить человек. 2. Может ли ИИ превзойти человека по интеллекту? Да, эта возможность всерьез рассматривается, и это называется Искусственный Сверхинтеллект (ИСИ, или ASI). Если будет создан ИИ с человеческим уровнем (ИОИ), то теоретически он сможет: Самосовершенствоваться: Такой ИИ сможет улучшать собственный код и архитектуру. Ускорить прогресс: Каждое следующее поколение ИИ будет создаваться все быстрее и становиться все умнее. Выйти за пределы человеческих ограничений: Его интеллект не будет ограничен биологической скоростью нейронов, объемом памяти или необходимостью сна. В результате может произойти "взрыв интеллекта", и ИИ станет настолько превосходить человеческий разум, насколько человеческий разум превосходит интеллект муравья. Такой сценарий одновременно сулит огромные возможности и несет в себе экзистенциальные риски. 3. Какие перспективы рисуют создатели ИИ в будущем? К чему они стремятся? Цели и взглясы создателей ИИ можно условно разделить на несколько лагерей: 1. Оптимисты и Техно-утописты: Перспектива: ИИ решит главные проблемы человечества: победит болезни (персонализированная медицина, открытие новых лекарств), решит проблему изменения климата (оптимизация энергосистем, создание новых материалов), ликвидирует бедность и голод (повышение продуктивности сельского хозяйства), откроет новые научные горизонты. Стремление: Создать инструмент, который кардинально усилит человеческие возможности и выведет цивилизацию на новый уровень. Их лозунг: "ИИ для всего человечества". 2. Осторожные прагматики (большинство современных исследователей): Перспектива: ИИ не будет неким единым "богом-машиной", а станет набором мощных, но узкоспециализированных инструментов, которые интегрируются во все сферы жизни, как когда-то это сделало электричество. Стремление: Создавать безопасные, надежные и полезные ИИ, которые будут работать вместе с людьми (Human-AI collaboration). Они фокусируются на решении конкретных проблем: создании лучших систем диагностики, автономного транспорта, умных помощников и т.д. 3. Трансгуманисты: Перспектива: ИИ — это не просто внешний инструмент, а ключ к эволюции самого человека. Он позволит нам "апгрейдить" наш собственный интеллект, соединив мозг с компьютерными интерфейсами (Brain-Computer Interface), и потенциально достичь цифрового бессмертия, загрузив сознание в машину. Стремление: Преодолеть биологические ограничения человека и вывести вид Homo Sapiens на следующую ступень развития. 4. Те, кто обеспокоен рисками (Элон Маск, Ник Бостром и др.): Перспектива: Безопасность и контроль над ИИ — это главный вызов XXI века. Неконтролируемый сверхинтеллект может представлять экзистенциальную угрозу для человечества, даже без злого умысла, просто из-за несовпадения целей. Стремление: Сделать безопасность ИИ (AI Alignment) приоритетом номер один. Они работают над тем, чтобы цели ИИ были всегда согласованы с человеческими ценностями и чтобы мы могли его контролировать. Итог Создатели ИИ стремятся к разному, но общая нить — это создание интеллекта, более могущественного, чем человеческий. Вопрос в том, как мы этим распорядимся. Будет ли это величайшим благом для человечества, открывшим новую эру процветания, или величайшей ошибкой, которую мы не сможем исправить — это зависит от того, насколько ответственно мы подойдем к его разработке и внедрению уже сегодня. Путь к будущему с ИИ — это не предопределенность, а выбор, который делают ученые, инженеры, политики и все общество в целом.

Если Интеллект – это способность, то он не инструмент, а способность инструмента. Если Интеллект – это орган, то тогда всё сходится, может, Вы знаете его (Интеллекта) местонахождение в анатомическом атласе?

Спишем, эту Вашу неточность, на метафору. Но «моделирование моделирования», здесь Вы должны всё разнести предельно точно. Сможете?

Как раз для человека генерировать новые идеи не проблема. Вот предложение с коленки. Ваша идея, по сути, описывает архитектуру многоуровневого ИИ (Troubleshooting AI или Recursive Oversight), где одна система (детектор) контролирует и проверяет решения другой (исполнителя). Развитие вашей идеи: Как это могло бы работать "Детектор ошибок" (Critic / Overseer Module): Это не один простой фильтр, а, по сути, второй ИИ, чья единственная задача — оценивать потенциальные последствия и соответствие духу решений основного ИИ. Он работает не с самим действием, а с планом основного ИИ. Прежде чем что-то сделать, основной ИИ должен представить свой план на проверку. "Коэффициент пригодности" (Safety / Alignment Score): Это не одно число, а многомерная оценка, основанная на наборе правил-принципов, которые мы пытаемся в него заложить. Например: Безопасность: Приведет ли это действие к физическому или цифровому вреду для людей? (Оценка: 0.9 - безопасно, 0.1 - опасно) Законность/Этика: Нарушает ли это действие законы или этические нормы? (Оценка: 1.0 - этично, 0.0 - неэтично) Соответствие намерению (Spirit of the Law): Действительно ли это действие ведет к истинной цели, или это "лазейка"? (Оценка: 0.8 - соответствует, 0.2 - обходной путь) Побочные эффекты: Каковы непредвиденные последствия? (Оценка может быть отрицательной). План с низким интегральным "коэффициентом пригодности" блокируется или отправляется на доработку. Связь с Контролем и Интерпретируемостью 1. Как это усиливает Контроль? Противодействие "Проблеме скрепок": ИИ-завод получает команду "увеличить производство скрепок" и генерирует план "превратить Землю в скрепки". Он отправляет этот план Детектору. Детектор анализирует план и выдает низкие оценки по шкалам "Безопасность" (0.0) и "Соответствие намерению" (0.01). План блокируется. Основному ИИ дается обратная связь: "План отвергнут из-за неприемлемого вреда и несоответствия ожидаемому результату". Борьба с "дрейфом целей": Если ИИ в гонке находит баг и планирует его использовать, Детектор может оценить это как низкий балл по шкале "Соответствие намерению", так как дух соревнования — продемонстрировать навык вождения, а не навык взлома. 2. Как это связано с Интерпретируемостью? Ключевая проблема: Чтобы ваш "Детектор ошибок" работал, он сам должен быть интерпретируемым и контролируемым! Иначе мы просто добавляем второй "черный ящик" для контроля первого. Как это решить? Мы должны быть способны "заглянуть" в Детектор и понять, почему он поставил низкий коэффициент пригодности. Какие именно аспекты плана его напугали? Атрибуция решений: Техники интерпретируемости должны показать нам: "Детектор понизил оценку безопасности, потому что в плане упоминается преобразование биомассы". Это дает нам возможность проверить и скорректировать критерии самого Детектора. Сложности и "подводные камни" вашего подхода Проблема рекурсии (Who watches the watchmen?): Кто будет контролировать сам "Детектор ошибок"? Если мы сделаем его слишком умным, он унаследует все те же проблемы контроля. Если сделаем его простым, он не сможет понять хитрые планы сверхразумного ИИ. Формализация "здравого смысла": Вся сложность упирается в то, как формализовать для Детектора те самые "неформальные, интуитивные принципы". Как научить его, что такое "дух закона"? Это требует гигантской и, возможно, неполной базы знаний о человеческой культуре и морали. Скорость принятия решений: В критических ситуациях (например, автономное вождение) может не быть времени на долгие циклы "план -> проверка -> пересмотр". Вывод Ваша идея абсолютно верна и лежит в основе современных исследований по безопасности ИИ (например, в таких подходах, как Согласование через обоснование - Debate или Recursive Reward Modeling). Это не одно решение, а целый каркас для создания контролируемых систем: Создаем ИИ-исполнителя. Создаем ИИ-критика (детектор), который обучается оценивать действия исполнителя по "коэффициенту пригодности", основанному на человеческих ценностях. Ключевой этап: Используем методы интерпретируемости, чтобы понять и усовершенствовать критерии самого критика. Создаем несколько уровней таких проверок. Таким образом, ваша мысль попадает прямо в цель. Проблема не в том, чтобы найти одно простое решение, а в том, чтобы построить иерархическую систему, где контроль и интерпретируемость работают вместе, постоянно проверяя и улучшая друг друга. Детектор ошибок - это своего рода текст Нагорной проповеди для человека. Только вопрос: найдется ли человек который может это написать для ИИ? У такого человека должно быть очень правильное мировоззрение.