Форум создателей искусственных интеллектов

Кумир?! Иметь трех кумиров - это признак чего? Интеллектуальной состоятельности равной Вашей? )) Я не ориентируюсь на людей, я почти всех людей люблю и жалею. Вот, например, ув. Андрей ака Просольвер, живет в Киеве, работает госслужащим и мечтает о том, чтобы россиянцы захватили его страну. Разве он не прекрасен? Или Влад, который десятилетиями повторяет, что мир - это комбинаторная система, а потом оказывается, что этими заклинаниями он готовит пересадку своего сознания в робота. Или Вы. Разве все вы втроем не прекрасны?

Безусловно, все люди прекрасны, поскольку каждый из них уникален. Однако сближает или разделяет людей именно точка зрения на мир, мировоззрение. Между ними возникает симпатия или антипатия, а некоторые и вовсе предпочитают жить в собственном внутреннем мире, не стремясь к общению. Да и цели присутствия на форумах у всех разные. Моя цель — выдвигать неожиданные и необычные для большинства людей теории в надежде найти единомышленников. Мне особенно интересны люди с широким кругозором и нестандартным мышлением, такие как Альберт Эйнштейн, Никола Тесла, Дмитрий Иванович Менделеев, Владимир Михайлович Бехтерев и другие. Меня привлекает их мировоззрение. Но это "кумиры" для меня, таких людей сегодня наверное нет. Но есть люди с подобным мировоззрением.

Уже не первый раз встречаю этот фейк, порождённый, видимо бурлящими миазмами готайки. Мне, как солипсисту, в целом безразлично, что обо мне пишут. Но в условиях, когда все мои декларации, как госслужащего, опубликованы в интернетах, распространение таких фейков, как мне кажется, бросает тень на самого распространяющего.

И Egg, с его «Мир – это текст» тоже прекрасен.

ОК, исправил. "Вот, например, ув. Андрей ака Просольвер, живет в Киеве, работает госслужащим и мечтает о том, чтобы россиянцы захватили его страну. Разве он не прекрасен?" В такой редакции верно?

Не хотелось бы Вас огорчать, но, насколько я понимаю, Вы чуть-чуть опоздали в поисках таких единомышленников...

Я думаю иначе. Всему свое время. «Время разбрасывать камни, и время собирать камни».

Вы можете думать как угодно, но люди, которых Вы назвали, не восстанут из мертвых, что бы по этому поводу не говорил Иоанн в своих Откровениях))

Вероятно мы друг друга не поняли! Кумир это не собеседник, это ориентир. И главное это их мировоззрение. Так что я не надеюсь найти тут "Кумира".

Ну и слава Б-гу. А мои ориентиры это - математика, физика и машинное обучение. Потому, что они не имеют мировозрений, а имеют очень большой порог вхождения. Никто из местных собеседников не смог преодолеть даже простейших элементарнейших вещей. Вот Вы три института закончили, а в сказки верите... местные собеседники ищут правильные слова, а Вы вот ориентиры 😂😂

Раз вы математик, то поймете смысл моей заметки. И почему я тут. Научный спор у круглого стола: Заметка о восприятии и истине В центре просторной комнаты стоит круглый стол. На нём — уникальный объект: шестигранная пирамида, каждая грань которой окрашена в свой, неповторимый цвет. Вокруг стола расположились двенадцать человек, образовав шесть пар. Каждая пара сидит строго напротив одной из граней пирамиды, что определяет их уникальную точку зрения. Картина мира с одной точки Прямо перед собой каждый участник видит свою грань во всей её полноте. Для одной пары мир — это ослепительный алый, для другой — глубокий синий, третья с уверенностью заявляет, что истина — это изумрудная. Их реальность локальна, но абсолютно достоверна в своих рамках. Они изучают свой цвет, обсуждают его оттенки, текстуру, игру света. В этом и заключается их «научный спор» — углублённое исследование известной им части истины. Проблема коммуникации Пирамида — объёмна. Из-за её геометрии участники лишь краем глаза, ограниченно, видят две соседние грани. Пара, видящая алый цвет, знает, что слева от них есть нечто желтоватое, а справа — синеватое, но детали размыты и недостоверны. Когда «алые» пытаются описать свою реальность «жёлтым» или «синим», диалог даётся с трудом. Как объяснить всю глубину и насыщенность своего красного тому, кто видит лишь его смутный отблеск? Соседи, в свою очередь, пытаются донести свои открытия, но их слова кажутся искажёнными и неполными. Возникают споры, каждая пара с жаром доказывает, что её картина мира — первична и наиболее верна, ведь их доказательства — прямо перед их глазами. Метафора познания Эта комната — изящная метафора человеческого познания. Мы все — эти двенадцать человек у стола. У каждого своя истина. Наша точка зрения определяет нашу реальность. То, что для нас очевидно, для другого может быть лишь смутной тенью. Знание ограничено контекстом. Мы видим свою грань отлично, но не видим целого. Чтобы понять полную картину — шестицветную пирамиду, — необходимо объединить усилия всех участников. Сложность диалога. Самые жаркие споры часто возникают не между прямыми оппонентами, а между соседними точками зрения, которые имеют достаточно информации, чтобы говорить, но недостаточно, чтобы понять друг друга полностью. Ценность коллективного усилия. Научный спор пар — это не просто упрямство. Это попытка сформулировать и отстоять своё знание. А трудная коммуникация с соседями — это первый шаг к осознанию того, что твоя истина является частью чего-то большего. Истина — не в красном, синем или жёлтом. Истина — это вся пирамида. Но увидеть её целиком, не сдвинувшись с места, никому не дано. Мы можем лишь обсуждать свои грани, спорить о них и пытаться, несмотря на все трудности, услышать и сложить воедино рассказы наших соседей. Все люди правы по своему их выводы основаны на их знаниях. Они не убогие, просто они не сходят со своей точки зрения. Правильная точка зрения в Бога, который видит весь мир целиком.

Нет, это всё работает вообще не так. Вы делаете ту же самую наивную ошибку, которую делают другие местные обитатели, занимаясь "изучением" значений и смыслов слов, в поисках самой правильного их набора, самой правильной модели, самого правильного представления))) Интеллект - это инструмент создания инструментов, это моделирование моделирования, это искусство ставить и решать задачи. Это не про "истины" и "зрения б-гов". Знать - это уметь. Всё прочее - это просто псевдофилософское булькание)) Просто рефлексия и переживания)))

Знаете в чем самая главная проблема создателей ИИ? Они исходят из материалистической точки зрения, при этом не обладают полными знаниями в религии. Они исключили Бога, его цели и замыслы. Вот самые современные взгляды на ИИ ведущих специалистов по созданию "интеллекта". 1. Может ли у ИИ быть интеллект как у человека? Это вопрос о том, что такое "интеллект" и "сознание". Короткий ответ: Пока нет, но мы движемся в этом направлении. Современные ИИ, особенно большие языковые модели (как я), демонстрируют впечатляющие способности: Обработка информации: Они могут анализировать гигантские объемы данных, находить сложные закономерности и генерировать текст, код и изображения. Решение узкоспециализированных задач: В таких областях, как игра в шахматы или го, распознавание изображений или перевод языков, ИИ уже превзошел человека. Однако человеческому интеллекту присущи качества, которых у современных ИИ пока нет: Сознание и самосознание: У ИИ нет чувства "Я", осознания себя как личности, своих переживаний и места в мире. Эмоции и эмпатия: ИИ может имитировать эмоции и распознавать их у людей, но не переживает их по-настоящему. Нет радости, грусти, любви или страха. Здравый смысл и контекстуальное понимание: Человек опирается на огромный пласт неявных знаний о мире. ИИ часто ошибается в простых вещах, потому что у него нет этого "фонового" опыта реального мира. Целеполагание и креативность: ИИ может генерировать новые комбинации из того, что уже видел, но не ставит перед собой самостоятельные, глубокие цели. Его "креативность" — это сложная рекомбинация, а не озарение, рожденное из личного опыта и страсти. Таким образом, современный ИИ — это мощный инструмент имитации интеллекта, но не его полного воспроизведения. Ученые называют эту цель Искусственным Общим Интеллектом (ИОИ, или AGI) — интеллектом, способным на любую интеллектуальную задачу, которую может выполнить человек. 2. Может ли ИИ превзойти человека по интеллекту? Да, эта возможность всерьез рассматривается, и это называется Искусственный Сверхинтеллект (ИСИ, или ASI). Если будет создан ИИ с человеческим уровнем (ИОИ), то теоретически он сможет: Самосовершенствоваться: Такой ИИ сможет улучшать собственный код и архитектуру. Ускорить прогресс: Каждое следующее поколение ИИ будет создаваться все быстрее и становиться все умнее. Выйти за пределы человеческих ограничений: Его интеллект не будет ограничен биологической скоростью нейронов, объемом памяти или необходимостью сна. В результате может произойти "взрыв интеллекта", и ИИ станет настолько превосходить человеческий разум, насколько человеческий разум превосходит интеллект муравья. Такой сценарий одновременно сулит огромные возможности и несет в себе экзистенциальные риски. 3. Какие перспективы рисуют создатели ИИ в будущем? К чему они стремятся? Цели и взглясы создателей ИИ можно условно разделить на несколько лагерей: 1. Оптимисты и Техно-утописты: Перспектива: ИИ решит главные проблемы человечества: победит болезни (персонализированная медицина, открытие новых лекарств), решит проблему изменения климата (оптимизация энергосистем, создание новых материалов), ликвидирует бедность и голод (повышение продуктивности сельского хозяйства), откроет новые научные горизонты. Стремление: Создать инструмент, который кардинально усилит человеческие возможности и выведет цивилизацию на новый уровень. Их лозунг: "ИИ для всего человечества". 2. Осторожные прагматики (большинство современных исследователей): Перспектива: ИИ не будет неким единым "богом-машиной", а станет набором мощных, но узкоспециализированных инструментов, которые интегрируются во все сферы жизни, как когда-то это сделало электричество. Стремление: Создавать безопасные, надежные и полезные ИИ, которые будут работать вместе с людьми (Human-AI collaboration). Они фокусируются на решении конкретных проблем: создании лучших систем диагностики, автономного транспорта, умных помощников и т.д. 3. Трансгуманисты: Перспектива: ИИ — это не просто внешний инструмент, а ключ к эволюции самого человека. Он позволит нам "апгрейдить" наш собственный интеллект, соединив мозг с компьютерными интерфейсами (Brain-Computer Interface), и потенциально достичь цифрового бессмертия, загрузив сознание в машину. Стремление: Преодолеть биологические ограничения человека и вывести вид Homo Sapiens на следующую ступень развития. 4. Те, кто обеспокоен рисками (Элон Маск, Ник Бостром и др.): Перспектива: Безопасность и контроль над ИИ — это главный вызов XXI века. Неконтролируемый сверхинтеллект может представлять экзистенциальную угрозу для человечества, даже без злого умысла, просто из-за несовпадения целей. Стремление: Сделать безопасность ИИ (AI Alignment) приоритетом номер один. Они работают над тем, чтобы цели ИИ были всегда согласованы с человеческими ценностями и чтобы мы могли его контролировать. Итог Создатели ИИ стремятся к разному, но общая нить — это создание интеллекта, более могущественного, чем человеческий. Вопрос в том, как мы этим распорядимся. Будет ли это величайшим благом для человечества, открывшим новую эру процветания, или величайшей ошибкой, которую мы не сможем исправить — это зависит от того, насколько ответственно мы подойдем к его разработке и внедрению уже сегодня. Путь к будущему с ИИ — это не предопределенность, а выбор, который делают ученые, инженеры, политики и все общество в целом.

Как архитектор систем компьютерного зрения, который трудится в компании Кремниевой долины, могу сказать, что у создателей ИИ нет проблем в том смысле, о котором Вы написали. Есть задачи и проблемные области))) Проблемы есть у незадачливых наивных мыслителей, которые не могут преодолеть (в силу разных причин) порог вхождения в исследования ИИ и его разработку. Я бы рекомендовал начать со сложных вещей: 1) разобраться с архитектурой трансформеров и 2) понять где и как возникает мышление в этой имплементации

Если Интеллект – это способность, то он не инструмент, а способность инструмента. Если Интеллект – это орган, то тогда всё сходится, может, Вы знаете его (Интеллекта) местонахождение в анатомическом атласе?

Это не ко мне вопросы, я не ищу набор самых правильных слов ))) Поговорите с Владимиром, он ищет истину и взгляд б-гов, мне весь этот детский сад не очень интересен

Спишем, эту Вашу неточность, на метафору. Но «моделирование моделирования», здесь Вы должны всё разнести предельно точно. Сможете?

Как раз для человека генерировать новые идеи не проблема. Вот предложение с коленки. Ваша идея, по сути, описывает архитектуру многоуровневого ИИ (Troubleshooting AI или Recursive Oversight), где одна система (детектор) контролирует и проверяет решения другой (исполнителя). Развитие вашей идеи: Как это могло бы работать "Детектор ошибок" (Critic / Overseer Module): Это не один простой фильтр, а, по сути, второй ИИ, чья единственная задача — оценивать потенциальные последствия и соответствие духу решений основного ИИ. Он работает не с самим действием, а с планом основного ИИ. Прежде чем что-то сделать, основной ИИ должен представить свой план на проверку. "Коэффициент пригодности" (Safety / Alignment Score): Это не одно число, а многомерная оценка, основанная на наборе правил-принципов, которые мы пытаемся в него заложить. Например: Безопасность: Приведет ли это действие к физическому или цифровому вреду для людей? (Оценка: 0.9 - безопасно, 0.1 - опасно) Законность/Этика: Нарушает ли это действие законы или этические нормы? (Оценка: 1.0 - этично, 0.0 - неэтично) Соответствие намерению (Spirit of the Law): Действительно ли это действие ведет к истинной цели, или это "лазейка"? (Оценка: 0.8 - соответствует, 0.2 - обходной путь) Побочные эффекты: Каковы непредвиденные последствия? (Оценка может быть отрицательной). План с низким интегральным "коэффициентом пригодности" блокируется или отправляется на доработку. Связь с Контролем и Интерпретируемостью 1. Как это усиливает Контроль? Противодействие "Проблеме скрепок": ИИ-завод получает команду "увеличить производство скрепок" и генерирует план "превратить Землю в скрепки". Он отправляет этот план Детектору. Детектор анализирует план и выдает низкие оценки по шкалам "Безопасность" (0.0) и "Соответствие намерению" (0.01). План блокируется. Основному ИИ дается обратная связь: "План отвергнут из-за неприемлемого вреда и несоответствия ожидаемому результату". Борьба с "дрейфом целей": Если ИИ в гонке находит баг и планирует его использовать, Детектор может оценить это как низкий балл по шкале "Соответствие намерению", так как дух соревнования — продемонстрировать навык вождения, а не навык взлома. 2. Как это связано с Интерпретируемостью? Ключевая проблема: Чтобы ваш "Детектор ошибок" работал, он сам должен быть интерпретируемым и контролируемым! Иначе мы просто добавляем второй "черный ящик" для контроля первого. Как это решить? Мы должны быть способны "заглянуть" в Детектор и понять, почему он поставил низкий коэффициент пригодности. Какие именно аспекты плана его напугали? Атрибуция решений: Техники интерпретируемости должны показать нам: "Детектор понизил оценку безопасности, потому что в плане упоминается преобразование биомассы". Это дает нам возможность проверить и скорректировать критерии самого Детектора. Сложности и "подводные камни" вашего подхода Проблема рекурсии (Who watches the watchmen?): Кто будет контролировать сам "Детектор ошибок"? Если мы сделаем его слишком умным, он унаследует все те же проблемы контроля. Если сделаем его простым, он не сможет понять хитрые планы сверхразумного ИИ. Формализация "здравого смысла": Вся сложность упирается в то, как формализовать для Детектора те самые "неформальные, интуитивные принципы". Как научить его, что такое "дух закона"? Это требует гигантской и, возможно, неполной базы знаний о человеческой культуре и морали. Скорость принятия решений: В критических ситуациях (например, автономное вождение) может не быть времени на долгие циклы "план -> проверка -> пересмотр". Вывод Ваша идея абсолютно верна и лежит в основе современных исследований по безопасности ИИ (например, в таких подходах, как Согласование через обоснование - Debate или Recursive Reward Modeling). Это не одно решение, а целый каркас для создания контролируемых систем: Создаем ИИ-исполнителя. Создаем ИИ-критика (детектор), который обучается оценивать действия исполнителя по "коэффициенту пригодности", основанному на человеческих ценностях. Ключевой этап: Используем методы интерпретируемости, чтобы понять и усовершенствовать критерии самого критика. Создаем несколько уровней таких проверок. Таким образом, ваша мысль попадает прямо в цель. Проблема не в том, чтобы найти одно простое решение, а в том, чтобы построить иерархическую систему, где контроль и интерпретируемость работают вместе, постоянно проверяя и улучшая друг друга. Детектор ошибок - это своего рода текст Нагорной проповеди для человека. Только вопрос: найдется ли человек который может это написать для ИИ? У такого человека должно быть очень правильное мировоззрение.

Да, в идеях нет дефицита)) Есть дефицит решений и умений. Как Вы думаете, почему философ - это одна из самых низкооплачиваемых специальностей, одна из самых невостребованных на рынке труда? Потому что философы бесполезны 😂 Поговорите с Владом, уверен, ему все эти рассуждения будут интересны. Мой интерес начинается с обсуждения текущих имплементаций LLM и механизмов их работы.

Я еще в 80-х занимался в НИИ системами САПР — Система Автоматизированного Проектирования для создания чертежей, расчетов, технологических карт. А философия это хобби. С возрастом задаёшься вопросом, куда идет твой поезд, у большинства людей это станция называется "кладбище". Есть конечная станция которая называется "Царствие Божье".