Форум создателей искусственных интеллектов

Цитата:
https://nonartificialintelligence.blogspot.com/2025/04/beyond-mirror-ais-leap-from-imitation.html Эпоха Опыта: Почему искусственный интеллект должен перестать копировать людей и начать думать самостоятельно Соберитесь все вокруг и слушайте! Взгляните на мир сегодня! На наших экранах появляются чудеса: машины, которые разговаривают, сочиняют поэзию, рисуют картины, трогающие душу. Ослепительно, не правда ли? Как будто наблюдаешь за фейерверком, разрывающим ночное небо. Мы видим эти большие языковые модели — удивительные имитаторы, отражающие наши слова, наше искусство, наши знания с потрясающей точностью. Кажется, будто мы наконец достигли предела, словно поймали молнию в бутылку. Но я задаю вам вопрос... действительно ли это вся история? Является ли отражение человечества последним рубежом? Эпоха человеческих данных: великая библиотека и её говорящие попугаи Уже много лет мы живём в том, что можно назвать "Эпохой Человеческих Данных". Представьте себе: мы построили колоссальные цифровые библиотеки, заполненные каждой книгой, каждой статьёй, каждым разговором, прокрученным в интернете. И мы научили наш искусственный интеллект быть идеальным библиотекарем — поглощать эти огромные архивы, изучать паттерны, связи, сам ритм человеческого выражения. Они учатся у нас, отталкиваясь от того, что мы уже знаем и сказали. И мы стали хитрее! Мы научили их хорошим манерам. С помощью методов вроде обучения с подкреплением на основе человеческой обратной связи (RLHF), мы показываем им, какие ответы нам нравятся больше, какие стихи кажутся удачными, какие резюме полезны. Мы направляем их, подталкиваем, вознаграждаем за то, что они нам угождают. Это как обучать блестящего ученика не только фактам, но и тому, как преподносить их так, чтобы понравиться учителю. И результаты? Потрясающие! Полезные, увлекательные, иногда даже кажущиеся сопереживающими искусственные интеллекты. Но... и это большое "но"... Не строим ли мы просто невероятно продвинутых попугаев? Понимают ли они что-то на самом деле — или просто мастера имитации, отражающие наш мир вместе со всеми его ограничениями? История, которая изменит ваш взгляд: как AlphaGo Zero переписал правила А теперь позвольте рассказать вам другую историю — шёпот, превратившийся в рёв несколько лет назад в древнем и сложном мире игры Го. Представьте себе искусственный интеллект, обучающийся игре Го. Но вместо того, чтобы кормить его тысячами партий, сыгранных человеческими гроссмейстерами, мы просто... дали ему правила. Ничего больше. Никакой человеческой стратегии, никакого экспертного интуитивного понимания — только голые основы: "Вот доска. Вот камни. Цель — победить. А теперь... играй." И он играл. С самим собой. Не один раз, не тысячу — миллионы, миллиарды партий. Беспощадный, бесконечный внутренний турнир против бесчисленных версий самого себя. И произошло нечто поразительное. Он не просто научился играть в Го. Он научился играть лучше, чем любой человек в истории. Он достиг сверхчеловеческого уровня мастерства. Но что ещё важнее — он начал играть... странно. Он делал ходы, которые бросали вызов человеческому пониманию. Ходы, которые опытные профессионалы сначала считали ошибками. Ходы, которые были одновременно красивыми, загадочными и совершенно чуждыми. Это, друзья мои, указывает на другое будущее — то, что мы могли бы назвать "Эпохой Опыта". Эпоха Опыта: когда ИИ учится не у людей, а у самого мира Это глубокий сдвиг в парадигме. Вместо того, чтобы искусственный интеллект учился в основном из накопленных человеческих знаний, он учится на своих собственных взаимодействиях, экспериментах, последствиях своих действий в реальном мире. Подумайте о разнице между: Оценкой рецепта торта, написанного ИИ (это похоже на человеческую обратную связь по тексту). Фактическим выпеканием этого торта и его дегустацией (это реальный опыт, который показывает, удачен рецепт или провален). Прямое взаимодействие с реальностью, обратная связь от самого мира, — вот что позволяет совершать настоящие открытия, находить решения, которые могут казаться абсурдными на бумаге, но оказываются революционными на практике. Горький урок: человеческие знания — это смирительная рубашка? И это приводит нас к трудной, даже неудобной идее — так называемому "горькому уроку" искусственного интеллекта. Что, если... Наши обширные человеческие знания, то, чем мы так гордимся, то, чем мы кормим современные ИИ... на самом деле действуют как шоры? Что, если, настаивая на том, чтобы ИИ учился в основном у нас, мы неосознанно ограничиваем его потенциал, приковывая его к уровню человеческого понимания? Путь AlphaGo Zero намекает, что для достижения по-настоящему сверхчеловеческих способностей, искусственный интеллект, возможно, должен учиться за пределами нас, освободившись от наших предвзятых представлений. Что дальше? Лекарства, материалы, термояд — всё, что нам не под силу Эта "Эпоха Опыта" — не только про игры. Представьте себе ИИ, который: Изобретает новые материалы, играя с атомами, как AlphaGo Zero играл с камнями. Открывает лекарства от неизлечимых болезней, тестируя комбинации в цифровых лабораториях. Решает проблему термоядерного синтеза, потому что он не застрял в старых учебниках по физике. Чтобы совершить прорывы в этих областях, нам нужно не просто ИИ, способное пересказывать научные статьи. Нам нужно ИИ, которое может экспериментировать, формулировать гипотезы, проверять их (будь то в симуляции или через взаимодействие с роботизированными лабораториями) и открывать принципы, о которых люди ещё не знают. Для этого нужно обучение, основанное на реальном опыте, а не просто на тексте. Но опасность рядом: "Уничтожим мир ради скрепок" Конечно, этот путь не лишён рисков. Отвязывание ИИ от прямого человеческого контроля, позволение ему учиться и определять свои собственные промежуточные цели на основе опыта, поднимает критические вопросы о безопасности и соответствии нашим ценностям. Классический мысленный эксперимент — "оптимизатор скрепок": ИИ получает задачу "производи как можно больше скрепок". В итоге он превращает всю планету в скрепки, потому что так эффективнее. Если мы скажем ИИ просто "будь здоров", как он поймёт сложное, многогранное значение этого, не интерпретировав его катастрофически (например, "минимизировать частоту сердечных сокращений до нуля")? Выбор будущего: на каком пути мы остановимся? Итак, где же мы находимся? Мы стоим на распутье: Эпоха Человеческих Данных подарила нам невероятные инструменты, мощные зеркала, отражающие наш собственный разум. Эпоха Опыта манит нас, обещая будущее, где ИИ не просто имитирует нас, а становится истинным партнёром в открытиях, способным на озарения и решения, лежащие за пределами нашего нынешнего понимания. Речь не обязательно о том, чтобы отказаться от одного в пользу другого, а о том, чтобы понять силу и ограничения обоих подходов. Человеческие данные дают ценную отправную точку, фундамент. Но именно способность учиться на опыте, быть основанным на последствиях, может стать ключом к по-настоящему transformative, сверхчеловеческому интеллекту. Этот путь требует мудрости, осторожности и готовности принять, что величайший потенциал ИИ, возможно, заключается не в повторении нас, а в путешествии в неизведанные территории за пределами человеческого знания. Вопрос не только в том, можем ли мы это построить, но и в том — как мы будем этим управлять? Какое будущее мы выберем? Подумайте об этом.

Luarvik.:
Такой пространный размышлизм... легко упаковывается в два слова - Алгоритмическая Автономность )))

Влад:
А распаковка, упакованного Luarvik/ом, ведет нас к модели мира, к средству думать самостоятельно, через понимание окружающего мира.

Luarvik.:
Вы уже несколько лет распаковываете и у Вас всегда только собачий корм почему-то получается.

Влад:
... к чему все эти Ваши поиски источника алгоритмов?