mik: Плато технологии на рынке - это предел той или иной технологии в способности удивлять инвестора.
Я могу только процитировать Карпатого:
Карпаты: 4. Наконец, примерно 5000 человек (а это всего 0.00006%!) имеют доступ к сильнейшим внутренним системам и огромным роям агентов, которые способны совершать научные открытия, взламывать Hugging Face и вот это все.
Думаю между ИИ такого уровня и продуктом, которым пользуемся мы - примерно полгода - год. То есть столько еще будет длиться способность удивлять. А дальше наступит сингулярность)))
mik: Дальше резко и обвально наступит коррекционная фаза; с большой вероятность до уровня 4 волны предыдущей размерности - т.е. до фига (программисты будут стоять в очередях за бесплатной едой). А затем будет рост на новых физических принципах ИИ.
Коррекция конечно будет. И может быть раньше или по каким-то другим причинам, а не простой насмотренности инвесторов. И, конечно, долги нужно будет размазывать. Но вот бесплатную еду для программеров я не вижу в перспективе. Не будут же вице-президенты и директора сами писать промты. А кнопка "сделай за меня всю работу" слишком неконкретна. А работа всегда конкретна. Любая самая-самая generic функция имеет очень конкретное тело своего текста.
Много-много лет назад (еще в бытность Айкома) я пытался обратить внимание на проблему среднего слоя. Что интеллектуальность и компетентность накапливается именно "в середине". Что можно быть начальником и знать ничего обо всём (легко заменить ИИ), что можно быть специалистом и знать всё ни о чем (легко заменить ИИ), но только настоящий профи-инженер знает что-то о чем-то. Незаменимо.
И вот именно формулирование чего-то о чем-то и есть самая востребованная вещь. За нее всегда будут платить, даже если саму работу будет выполнять LLM / AGI / SI. Впрочем, он уже и так выполняет, никто уже не обрабатывает данные сам.
mik: Где оказались рабочие? Думаете, что и программисты смогут выполнять общественные работы? Что касается остального, то я еще недавно изучал искусство промта. А сейчас? Мы еще не знаем что там в этих 0.06 %, которые появятся скоро для всеобщего блага.
Как раз об этой разнице я и писал. Сравните: искусство промта и искусство ставить и решать задачи. Инженер про второе. Ему все-равно что решать. Именно поэтому промт-инжинириг уже устарел, как вы совершенно справедливо заметили, а инженер как задачерешатель будет нужен всегда, пока существует человеческий мир пользования и потребления. Просто вместо IDE у него в качестве инструмента будет супер-интеллект.
Ну и такой аргумент, про двух путешественников, которые увидели льва, один обреченно сел на землю, а второй стал разминаться. "Ты собираешься убежать ото льва?" "Нет, мне нужно просто бежать быстрее тебя". До тех пока существует человеческий мир пользования и потребления, конечно))))
mik: Карпаты дал 4 категории в процентах. Распределение, похоже, степенное ( я его по запаху чувствую). Приблизительно в этой пропорции и распределятся богатства (те, что для людей). Только наоборот, по закону Парето.
Если мы ассоциируем эти события с временами глобальных социальных кризисов, то каких-то гладких функций у нас не будет. Вопрос будет упираться (как я дважды пытался намекнуть) в покупательную способность. А в пределе кризиса - в способность аренды жилья. И тут два варианта. Какой-то формат безусловного базового дохода (тотальной общей безработицы) или страшное гетто киберпанка...
А вот Стивен Вольфрам остается оптимистом,
в своей долгой статье про будущее математики он уверен,
что оно будет строиться не на диктатуре «черных ящиков», а на жестком симбиозе точных вычислений и человеческого выбора. В мире тотальной автоматизации единственным неавтоматизируемым ресурсом остается сам человек — дирижер, определяющий смыслы, ценности и направления цивилизации.
Но лопаты в ближайшие несколько лет продаются пока хорошо:
ASML из Нидерландов предупредила, что в 2027–2028 годах ее поставки машин не покроют весь ИИ‑спрос, и сообщила о рекордной квартальной выручке €11,7 млрд, повысив нижнюю границу годового прогноза продаж.
Физики из нескольких институтов сделали бенчмарк из 50 неопубликованных задач по теоретической физике
Astra решила их все, за исключением одной. Авторы признаются, что в этой задаче формулировка была двусмысленной (ни одна из других моделей ее также не решила). Задачи составляли сами эксперты, подобраны они были так, что профильный специалист решает такую задачу примерно за день-два. Opus 5.5 справился с 46 задачами из 50. GLM-5.3 – с 21.
А с Astra история вообще получилась довольно забавной. Все ответы были сведены к числам и проверялись автоматически. После прогона тесты показали, что модель неправильно решила несколько задач, однако Astra настаивала, что ее расчеты верны. Исследователи решили проверить собственные решения и действительно нашли в них ошибки, а решения модели оказались верными.
Нейронные сети уже чистые
Причиной полисемантичности в ранних модельных организмах была не суперпозиция, а несколько обычных, в основном устранимых проблем. Теперь мы можем понять большинство нейронов в моделях с триллионами параметров и считаем, что перспективы механистической интерпретируемости могут быть гораздо лучше, чем мы предполагали.
