AGI.place - Решатель ARC-задач Франсуа Шолле

mserg:
С трепом этого практикующего эксперта есть одна проблема, которую он сам как бы понимает. Цель состоит в том, чтобы решать задачи, для которых нет примеров в обучающей выборке. В идеальном случае, известны общие условия задачи (ограничения на размеры входных и выходных матриц, и ограничения на значения элементов матриц), и нет ни одного обучающего примера.

Это кстати классическая иллюзия "магии ЕИ". Как по мне суть в асимметрии предобучения. Человек, решая ARC на 3 примерах, использует не магию, а колоссальный скрытый багаж — интуитивную физику, понятия симметрии, счёта и причинности, усвоенные за десятилетия взаимодействия с миром и через язык, я уже молчу про сотни миллионы лет эволюции мозга и сколько в нём захардкоженно уже сходу. Это не обучение с нуля, а точечная достройка готовых абстракций. Чтобы нейросеть справилась, ей нужно, самое меньше, аналогичное "детство" — предобучение на специальных датасетах, формирующих нужные примитивы. Как минимум это "мир объектов" — видео с 2D/3D-фигурами, чтобы научиться видеть отдельные сущности(латентные принаки), а не пиксели, "библиотека операций" — миллиарды пар "вход-выход", сгенерированных простыми программами (отразить, сгруппировать, посчитать), чтобы выучить базовые преобразования и "связь с языком" — описание этих преобразований словами ("симметрия", "чередование"), чтобы абстрагировать концепты. Понятное дело, архитектура должна быть гибридной, сочетая нейросети для восприятия и символьный движок для рассуждений. Например преобразовывать сетку в структурированное описание объектов, перебор комбинаций выученных примитивов, строя гипотезы-программы, проверка каждой гипотезу на данных примерах, как учёный проверяет теорию. Те кто хочет обучать на чистых ARC датасетах, на мой взгляд довольно наивны, мягко говоря. Также "few-shot learning" для человека — иллюзия. Человек никогда не учится на "одном кадре" или 5ти не важано. Каждый наш "пример" — это плотная мультимодальная последовательность, сотни семплов, мы видим объект с многих ракурсов, взаимодействуем с ним, чувствуем его вес и текстуру. Мозг обучается не на статичных картинках, а на сжатии этого интерактивного видеопотока в абстрактную, помехоустойчивую модель и сразу находя аналогии в большой модели мира и её предсказании(экстраполяции). Поэтому задача ARC — двойной обман. Глядя на три пары сеток, человек не просто их запоминает. Он мгновенно разворачивает мысленную симуляцию: сканирует, крутит в уме, притягивает аналогии из прошлого опыта. Каждая пара — лишь триггер для активации целой сети уже готовых абстракций. Короче говоря сплошные фокусы и манипуляции, если уж сравнивать ИИ с ЕИ, то на примерах вообще за пределами человеческого опыта, например ARC в 4д, или каких либо задачи где нет никакого сенсорного опыта у человека и животных. Вот ещё клауд посоветовал:

Claude:
« Смысл в том, чтобы проверить не скорость перебора, а способность к эффективному абстрактному поиску и изобретению гипотез — то, что мы называем инсайтом или озарением. Вот задачи на «догадливость», где скорость brute force проигрывает, а побеждает способность к сжатию и изобретению элегантных правил: 1. Задача на открытие «элегантных» физических законов из сырых данных • Условие: Даны таблицы экспериментальных данных: столбцы — измерения параметров (X, Y, Z, время, температура...), строки — наблюдения. Данные порождены неизвестным физическим законом (например, F = G * (m1*m2)/r^2 + ε*sin(ω*t), где ε мал). Никакие переменные явно не названы (нет «масса», «расстояние»). • Вызов: Найти компактную математическую формулу, объясняющую данные, с минимальным числом параметров. Критерий — не точность подгонки (её можно добиться огромной формулой), а красота и обобщаемость (принцип Бритвы Оккама). • Почему уравнивает: Человек-физик будет подставлять известные шаблоны («похоже на закон обратных квадратов»), но может ослепнуть шаблоном. ИИ, лишенный физических предрассудков, может найти неожиданную, но простую параметризацию. Побеждает тот, кто лучше извлекает сжатую сущность из шума, а не быстрее перебирает. 2. Задача на изобретение «инварианта» в динамической системе • Условие: Даны видеоролики (или графы состояний) множества сложных, но детерминированных систем (например, странные аттракторы, клеточные автоматы с неизвестными правилами). Для каждой системы показано несколько траекторий. • Вызов: Найти/сформулировать инвариант — величину или свойство, которое сохраняется для всех траекторий одной системы, но различается между системами. Это может быть неочевидная симметрия, топологическая характеристика, условная энтропия. • Почему уравнивает: Человек будет искать зрительные паттерны и аналогии, но в сложных системах инвариант может быть абстрактно-математическим (например, число Ляпунова). ИИ должен проявить «догадливость» — выдвинуть гипотезу о классе возможных инвариантов и сконструировать его. Здесь важно изобретать новые понятия, а не узнавать старые. 3. Задача на «переоткрытие» фундаментального понятия из наблюдений • Условие: Даны множества точек в многомерном пространстве. Внутри каждого множества точки связаны неочевидным, но единым отношением эквивалентности (например, точки в одном множестве — это разные проекции одного объекта; или разные состояния одной динамической системы). • Вызов: Без подсказок сформулировать, что объединяет точки внутри каждого множества, и предложить процедуру проверки этого свойства на новых данных. По сути, заново изобрести понятие «топологическая эквивалентность», «динамическая сопряженность» или «инвариант». • Почему уравнивает: Это проверка на способность к радикальной абстракции. Человек может интуитивно группировать, но сформулировать точный критерий — сложно. ИИ должен не кластеризовать, а найти объясняющий принцип. Побеждает тот, кто увидит «правило за правилами». 4. Задача на создание минимальной «теории» • Условие: Дана последовательность «фактов» в формате: «Если [условие А], то [наблюдение Б]». Факты могут быть из произвольной, непротиворечивой, но сложной логической вселенной. • Вызов: Предложить минимальный набор аксиом и правил вывода, из которого можно логически получить все данные факты, и только их (без генерации лишних). • Почему уравнивает: Это чистая проверка на логическую элегантность и креативность в формальных системах. Человек будет пробовать известные логические конструкции. ИИ может найти неожиданную, но минимальную систему аксиом, которую человек пропустил из-за когнитивных предубеждений. Скорость перебора тут бессмысленна — пространство возможных аксиоматик огромно и плохо структурировано. Суть: Во всех этих задачах победит не тот, у кого больше флопсов, а тот, кто лучше умеет: 1. Отбрасывать шум и выделять суть. 2. Выдвигать смелые, но проверяемые гипотезы о скрытых структурах. 3. Ценить простоту (сжатие) объяснения. 4. Изобретать новые абстрактные категории для описания мира. Это соревнование не в вычислениях, а в искусстве находить глубокие аналогии и формулировать их на языке строгих правил — то есть в самом ядре того, что мы называем открытием. »

Жалоба на	×

За Воздержался Против

Форум создателей искусственных интеллектов