Форум создателей искусственных интеллектов

Пока читаю Минского, решил с Gemini нарисовать простую иллюстрацию к сказанному здесь выше, по мотивам другой известной картинки:

У тебя пропущен самый главный элемент, реконструкция опыта как нейросетевой модели мира:

Это удивительно, конечно, что поклонники последовательностей и логико-символьно-смысловой трактовки интеллекта пропускают факт того, что в мозге человека не содержится слов. Пару недель назад придурковатый Лаврик в качестве какого-то аргумента выдал очередную нетленку, что в мозгах не обнаружены законы природы. Хер с ним, но наборов самых правильных слов там заведомо нет))) Господа воздыхатели экспертных систем, разберитесь сначала где и как возникают слова (и почему трансформеры знают все языки мира, хотя их этому не учили), а уже потом ищите философский камень в нормологиях и автономностях)))

DeepSeek: Им надо забыть о понимании. Истинная сила — в статистическом предсказании последовательности!

Это правда, сила -- в горизонте планирования, я вот, например, вышел из рублёвых активов по 35 за месяц до сочинской олимпиады и аннексии Крыма... дальше начиналось по 72)))

Если дать языковой модели модель мира, то она (языковая модель) получит понимание.

Нет. Языковой модели нужно дать форматы сенсоров, а модель мира она сформулирует сама

В виде шкал, многомерная система восприятия мира и соответственно параметрическая модель мира во всех его (мира) проявлениях (выражениях). Тут нужна не классическая логика, как у Вас, а логика системы, её Смысл.

Не бывает "неклассической" логики, Влад. Бывают исчисления, логика - это просто одно из исчислений. Мне очень жаль))

А пока Андрей читает Массачусетского, то есть, Минского))) есть вот такая Цепочка Главных Вопросов об логическо-символьно-смысловом Интеллекте: Где и как в мозге содержатся слова → → где и как в словах содержатся смыслы → → где и как в смыслах содержатся законы и правила 😂

Какая мощная синхронизация существует в нашем маленьком мире, день назад Фридман выложил интервью с Майклом Левиным, довольно любопытным автором, который вслед за некоторыми другими утверждает, что (в изложении Серёжи Карелова, сам я еще не успел посмотреть): • Наш мозг не создает сознание, он его скачивает. Мы — биороботы, подключенные к облачному хранилищу вселенского разума, а нейробиология изучает только "приемник", но не сам сигнал • Реальностью управляют призрачные математические истины, которые существовали до Большого Взрыва. Мы живем в мире, где числа диктуют атомам, как себя вести, а не наоборот • Физическая реальность — всего лишь удачный интерфейс, всё, что мы называем “физическим миром”, — лишь эффективная внутренняя модель, прогнозирующая наши будущие переживания • То, что мозг рисует нам как “твёрдую реальность”, — это интерфейс к некоторому более глубокому пространству распределений. В науке у нас вообще нет прямого доступа к “реальному реальному Это, конечно, нужно проверять по первоисточнику (могли просто криво перевести as usual), но про кипящий океан математических истин - это безспорно, я бы еще Большой Взрыв взял бы в кавычки))) P.S. Напомимаю для невладеющих нормальным языком, что яндекс-браузер осуществляет синхронный перевод ютюба, если, конечно, в вашем Задришенске ютюб еще не отменили P.P.S. А вот и транскрипт уже есть на сайте Фридмана, кто любит читать, а не слушать

Со слов Ani Aslanyan: "лауреат премии Тьюринга Саттон вчера на NeurIPS разнес зал и показал карту, как дойти до AGI и объяснил, почему мы сейчас в жутком локальном минимуме. Коротко по пунктам он сказал, что: 1. Современный ИИ — это замороженные артефакты человеческой культуры. Мы копируем людей, а не строим интеллект. Это тупик. 2. Горький урок всё ещё никто не понял. Урок не про больше параметров, а про то, что любые человеческие алгоритмы и архитектуры в долгосрочной перспективе проигрывают чистому обучению через опыт. 3. Путь к суперинтеллекту — это агент, который: - учится непрерывно всю жизнь - сам изобретает всё более мощные абстракции и признаки - сам ставит себе подзадачи - сам строит модель мира и планирует - и всё это без единой строчки человеческого кода для архитектуры и фичей 4. Это он назвал OAK (Options + Knowledge). Один большой красный вопрос — как автоматически генерировать новые state features. Именно здесь сейчас стопор. 5. Цитата дословно: «Super intelligence will come from the agent’s own experience, not from human datasets». 6. Он сказал, что индустрия ИИ во многом потеряла ориентиры из-за коммерции. Нужно возвращаться к continual learning, average-reward RL, meta-learning step-sizes, self-discovered knowledge." Обращаю внимание господ, которые исповедуют логическо-символьно-смысловые подходы, здесь речь идет не об этом, а о нейронных сетях и акценте на Reinforcement Learning. То есть как раз тех подходах, о которых говорю я)). Саттон вообще предлагает исключить человека из цикла создания AGI, оставить только компьютерную сенсорно-эффекторную платформу

А вот, собственно, статья David Silver, Richard S. Sutton "Welcome to the Era of Experience" https://storage.googleapis.com/deepmind-media/Era-of-Experience%20/The%20Era%20of%20Experience%20Paper.pdf

Глеб Кузнецов пишет: "Докажи, что умеешь думать. Gartner - главный оракул корпоративного IT-мира - прогнозирует: в 2026 году 50% организаций будут требовать от кандидатов прохождения тестов «без использования ИИ». По понятной причине «атрофии критического мышления из-за GenAI». Это рождает в потенциале прикольную классовую стратификация. Наверху - элита, которая умеет и без ИИ, и с ИИ. Частные школы, личные репетиторы из плоти и крови. Эти люди пройдут «чистые» тесты, докажут базовые навыки, получат доступ к инструментам как к усилителю способностей. Посередине - средний класс, который продуктивен только с ИИ. Без инструментов они не проходят тесты, с инструментами - вполне справляются. Вопрос: наймут ли их? И если да, какой у них потолок если в базовом досье они описаны сразу как "не имеющее навыков автономного мышления"? Внизу - бедные, который не умеют ни так, ни так толком. Не освоил инструменты, так как в это тоже нужно вкладывать время и деньги и не развил базовые навыки - «Золотой ключик» буквально не прочитал. Двойной провал. Требование «AI-free skills» удваивает барьер входа. Теперь нужно доказать, что умеешь без костылей, и что можешь с ними. Выиграй Олимпиаду и нормальную, и пара-. Инструменты проверки существуют. Turnitin и GPTZero детектируют ИИ-текст. Proctorio и ExamSoft обеспечивают слежку во время тестов - камера, микрофон, экран, анализ нажатий клавиш. HireVue проводит ИИ-анализ видеоинтервью, оценивая мимику и интонации. Конечная точка этой логики - тотальное наблюдение как условие доступа к работе, а значит и зарплате."

ХЗ, а по моему это очередная глупость кадровиков с их тестами и софтскилами. Для бизнеса главная цель сотрудника — сделать свою работу, и желательно так, чтобы не пришлось переделывать. Всё остальное — хоть какие тесты, хоть сколько этапов собеседований — лишь инструменты, и не всегда удачные. Самый надёжный способ понять, подходит ли человек когда он уже делал то, что тебе сейчас нужно. Или хотя бы то, что очень похоже. Опыт в похожих проектах, участие в близких по духу задачах — это реальный сигнал, куда точнее любой резюмной "звезды". Я в IT уже больше 25 лет, и раньше, когда не было ни кадровиков с их шаблонами, ни бесконечных тестов на логику, ни "культурного фитнеса" — люди находились по сарафанному радио, по знакомым, по тому, что ты реально участвовал в чём-то стоящем. И работали честнее, глубже, с изюменкой. Сейчас, конечно, всё быстрее, автоматизированнее, "масштабнее". Где-то это помогает — не спорю. Но что-то важное потеряли, многие это чувствуют. Программы стали как и фильмы последних лет: громко, красиво, но вызывают рвотный рефлекс. Технологии вроде есть, а руки — не те, голова — не та, даже те кто принимают не могут понять что их подчиненные делают гавно. Хочется верить, что это временный поворот. Но пока — качество уступило место скорости, а мастерство — процессу. Мне кажется, всё это происходит из-за своеобразной "феминизации" индустрии — не в смысле присутствия женщин, а в смысле доминирования культуры, где главными становятся эмоциональность, социальная гармония и внешнее впечатление, а не техническая глубина и результат. Всё чаще ценится не то, что человек сделал, а как он это подал, насколько "безопасно" и "комфортно" с ним взаимодействовать. Это смещение акцента с дела на форму, с компетенции — на подачу. Это напоминает половой отбор в природе: выбирают не по способности решать задачи, а по косвенным признакам — гладкой речи, правильному месседжу, умению вписаться в коллективную эстетику. Настоящие профессионалы — те, кто молча годами точит логику, архитектуру и код, — всё чаще оказываются невидимыми и даже имеют проблем с наймом. Потому что система перестала замечать суть, сосредоточившись на обёртке. Это так… мысли в слух)) PS : Кенеди как то сказал про амфетамин "да будь это конской мочой, если оно мне помогает", так же и про кодеров, не нужно соваться нам под исподнее, какая нахрен разница? Сделал — премия, не сделал — штраф, систематически крут — повышение, лажаеш — увольнение. Проще нужно быть где возможно, сложность сама себя найдет.

Да, это именно так. Проблем здесь очень много на самом деле. Первая из них - квалификация HR и "экспертов", которые "проверяют" знания по колледжевским учебникам, которые всегда устарели минимум на десяток лет. Вторая проблема - глобальный рынок, где кандидат конкурирует с толпой прочих и на одно интересное место приходится сотня соискателей со всех стран мира. В конечном итоге может победить случайность и софт-скилл вместо компетенции. Но я привел эту цитату как тренд. Ровно как хендмейд стал синонимом качества, так и появление "новой классовой стратификации" это реальность, на очередном витке развития мы получаем "новый феодализм")))

Да нет, мы просто фиксируем тренды, а не жалуемся. Это вам показалось, по Фрейду))) А слава и бабки -- это не самое главное в жизни, репутация и доходы много важнее))) Особенно, когда про некоторые проекты даже рассказывать нельзя))

В Украине противостояние двух мосек, двух коррупционных феодальных государств, с отсутствующей наукой, экономикой и отсутствующими технологиями. Разница между ними в том, что одно агрессор, а другое - жертва (потерпевший). Сегодня наши показали в Венесуэле как должны выглядеть операции в 21 веке. 40 минут на решение задачи, ни один военный не погиб. С сегодняшнего дня ни один диктатор не может чувствовать себя в безопасности)) По моему текущему полиси с компанией, я не могу ни публиковать свой код, ни решать посторонних задач. Размышлять, комментировать, обсуждать на уровне концепций - это пожалуйста.

Мне думается, что такое представление устарело с момента выхода GPT-3, когда его создатели из ученых и инженеров превратились в звезды шоубизнеса. Сейчас скромный аспирант Джефа Хинтона Илья Суцкевер только под своё имя может привлечь несколько миллиардов долларов на исследования. На исследования, Карл! Вот что такое репутация. А ведь эти люди даже не писали Все Что Вам Нужно Это Только Внимание. ИИ сейчас это -- шоубиз. Хотим мы того или нет. Остальное пока делает электричество и кластеры параллельных вычислений. После коррекции и сдутия пузыря, может быть, ситуация вернется в норму и инженеры/изобретатели опять будут решать стратегию. А пока властвуют шоумены.

Я потерял желание общаться, обдолбанные пропагандой ватники, с детским уровнем анализа, как собеседники мне не интересны))) Извините