Форум создателей искусственных интеллектов

Я бы ещё уделил внимание тематике ЧТО ВООБЩЕ ДЕЛАТЬ??? Если кто понимает о чем речь… Раньше ответ был понятен. Хочешь ценность — собери очередную соцсеть, мессенджер, маркетплейс, торговый терминал, базу данных, с некими фишками, чуть боле удобными и привлекательными. Это были годы работы десятков людей, миллионы долларов, и на выходе — продукт, который хоть как-то защищён сложностью. Теперь? Теперь условный ютуб собирается дома за неделю. В умелых руках — сотни долларов, максимум тысячи. И таких ютубов будут тысячи, потом миллионы, ну да ютуб плохой пример, там физическая инфраструктура и тп, но суть понятна. Очевидно, что на плагиате с малыми изминениями никто не заработает — ну, кроме того, кому случайно повезёт с резонансом толпы. То есть старая формула "сделай сложное, потому что могу" умерла. Сложность больше не барьер. Барьер — в другом. И вот тут начинается самое интересное. Так какого типа продукты вообще имеет смысл создавать? Первое, что приходит в голову — то, что генеративные сетки делать не могут в принципе, а не просто "пока не умеют". Не "сделай лучше", а "сделай то, чего там нет по определению". Проблема в том, что таких вещей не так много, и они быстро тают. Второе — эксклюзивность. Не продукт, а доступ. Не "что", а "где" и "для кого". Закрытые клубы, приватные данные, физический мир, лицензии, железо, регулирование. Всё, что нельзя скопировать из промпта. Третье — то, что вообще не про функциональность. Раньше кодер делал "штуку, которая работает". Теперь штука, которая работает, стоит ноль. Ценность смещается в сторону вкусовщины, кураторства, доверия, бренда, харизматичности, сообщества. То есть в сторону того, что кодом не решается, а кодом только обслуживается. И вот тут всплывает неприятный вопрос. Если всё, что делает кодер, обесценивается за месяцы, а то и недели — может, с кодерами ВСЁ, как Геллер пять лет твердил на Готайке? Осталось добить, чтобы ИИ сам себя писал лучше человека — и на концептуальном, и на имплементационном уровне. И тогда кодеру останется… что? Рандомное творчество чисто для души? Может, и так. Но есть и другая рамка. Если инструмент подешевел в тысячи раз, выигрывает не тот, кто делает инструменты, а тот, кто ЗНАЕТ ЧТО ДЕЛАТЬ. Не "как собрать ютуб", а "зачем, для кого и почему именно это". Кодер превращается в человека, который умеет быстро проверять гипотезы о том, что людям вообще нужно, — и это, возможно, и есть новая профессия. Не "написать сложное", а "понять нужное и собрать его за вечер". Хотя, а почему мы думаем что человек намного лучше в этом сетки, специально этому наученной??? В общем вопрос "что делать" — он не про технологии. Он про то, что технологии перестали быть ответом. По аналогии фотоаппарат = генеративные сети, ремесло = "написать работающий код". Это уже обесценено и будет обесцениваться дальше. Первый уровень проекции — кодер как ремесленник — мёртв. Соревноваться с ИИ в скорости и качестве написания кода — это как соревноваться с фотоаппаратом в точности портрета. Можно, но рынок этого схлопнется до нуля. Второй уровень — кодер как "стилизатор". Аналог импрессионистов и абстракционистов: делать то, что ИИ пока не делает, но по сути то же самое, просто другим способом. Нишевые фреймворки, экзотические архитектуры, "красивый код". Это временная ниша. Через год её съедят. Этому обучить сетки довольно просто. Третий уровень — вот где начинается "чёрный квадрат". Вопрос не "что делать кодерам", а что такое кодирование вообще, когда код перестал быть дефицитом. И тут открываются ходы, которые для старой индустрии выглядят как буйство бесознательного: Код как жест. Продукт, который существует не потому, что решает задачу, а потому что высказывается. Как "говно в баночках" — буквально. Кто-то сделает язык программирования, на котором невозможно писать полезное, и это будет искусство. Кто-то выпустит софт, который делает одну бессмысленную вещь идеально. Это уже происходит — посмотри на демосцену, на эзотерические языки, на "useless machine" в цифровом виде. Раньше это было хобби. Теперь это может стать основным способом быть замеченным. Чтото врде NFT в крипте или марки, много всего такого есть. Код как рефлексия над кодом. Продукты, которые не решают задачи, а исследуют природу софта. Что такое баг? Что такое интерфейс? Что такое "пользователь"? Аналог концептуализма: не "картина", а "вопрос о том, что такое картина". В кодерстве это будет: не "приложение", а "вопрос о том, зачем приложение". Инсталляция, а не сервис. Код как анти-код. Отказ от эффективности, от масштаба, от пользы — как художественная позиция. Медленный софт. Софт, который нельзя запустить. Софт, который существует только как описание. Это не шутка — в искусстве такие жесты работают десятилетиями, и в софте они тоже начнут работать, как только "полезный софт" станет полностью бесплатным и вездесущим. Ну и победит, точнее обратит на себя внимание и как то может монетизирует это, первооткрыватель, если будет резонанс социума, повторение уже хрень. В общем лет через 5-10 попрет что то такое… Это так, мысли в слух.

Я буду отвечать подробно, нудно и последовательно. Поэтому будет довольно много sub_ответов на это сообщение. "Вообще" делать ничего не получится. Каждый будет делать что-то своё. Искать свои варианты конкурентного преимущества. Но вопрос про ВООБЩЕ - это вопрос про софт вообще, про математику вообще, про физику вообще. Да. Совершенно очевидно, что софт ВООБЩЕ -- перестал существовать. Сейчас проще сгенерировать демоапликацию, чем что-то объяснять. Сейчас документация на либу генерируется меньше, чем за час. При этом, когда мы обмениваемся результатами, мы генерируем доки для Моделей, а не для того, чтобы их читали сотрудники. Поскольку Модели - это новый УНИВЕРСАЛЬНЫЙ ИНТЕРФЕЙС. Вот именно это и нужно иметь ввиду, чтобы понимать, что именно происходит. Происходит освоение нового универсального интерфейса. Позволяющий нам почти всё. В части проектирования, разработки, отладки и деплоя. В части работы со стороними либами (любыми) и работы с переферией (почти любой). И вторая часть вопроса: ЧТО ДЕЛАТЬ? Ждать. Следить. Мониторить. И продолжать искать персональные конкурентные преимущества в персональных условиях жизни и труда))

Сложность не изменилась. Она переместилась. Раньше сложность была в разработке, сейчас сложность переместилась в спецификации, описания, требования, отношения объектов, сбор данных, контроль за исполнением и технологии рефакторинга. Ютюб написать просто потому, что просто изучить его интерфейс и сделать reverse. Написать хороший эквализационный фильтр попрежнему сложно. А сделать такой фильтр для конкретных условий, сцены, с конкретным gate требований - очень сильно сложно. Но. Теперь ты ничего не пишешь сам. Не ищешь сам нужные статьи. Не подключаешь сам third parties. Всё это делает Модель, с которой вы беседуете. На русском языке. Используя микрофон. Сложность в том, чтобы сделать так, чтобы каждая новая сессия накапливала knowledge, а не требовала полного восстановления контекста с нуля. Всегда нужно исходить от задач. От рынка. От градиента. Если нет потребностей, то нет и продукта. Нет никакого смысла создавать какой-то абстрактный продукт какого-то типа. Особенно как инструмент. Инструмент теперь тоже только один - Модель. И он уже создан.

Всё верно, "вообще" уже не катит, ничего уже почти не стоит. Ну а эксклюзив, что-то совсем новое, дело избранных, один на сотню максимум, если речь про что-то незначительное и один на миллион про прорывы, да и то как правило случайно. Получается 99% кодеров в утиль, как собственно и куча других "интеллектуальных" специальностей. То о чем вы толкуете, про "спецификации, описания, требования...", да, пока нужно кожаное вмешательство, но очень это не надолго. Многие сейчас фрустрируют по этому поводу, хочется как то подготовиться, найти более менее долгосрочную нишу для хотя бы интеллектуальной забавы, а в идеале как то этим торговать...

Опыт показывает, что новые технологии не убивают бизнес, а меняют специацизации. Появление автомобилей убило профессию кучера. Но привело к появлению десятка новых. Ну положа руку на сердце (или другое место) разве "обычный" middle програмер из стека фронт-бэк-энда был полезен? Он был прокладкой между постановщиком, лидом, дизайнером и клиентом. Он делал тупую необременительную работу - переводил интуиции и желания этих людей в какие-то формализованные конструкции. Зачем он ел свой хлеб? ))) Да, сейчас придется искать симбиотическое существование с Моделью. Но Модель не порождает задач. Не может их ставить. У нее нет потребностей. Нет целей. Она не может расставлять приоритеты. И самое главное: она не может накапливать свой опыт. Всякое LLM-накопление представляет собой различные костыли. Каждая новая сессия для Модели - это рождение. Каждое окончание сессии - смерть. Всякое решение имеет недостатки. Чем более универсально решение, тем менее оно полезно. Абсолютно универсальная модель (AGI/SI) абсолютно лишена потребностей и целей)) И это так и будет в ближайшие несколько лет))

Я бы искал оптимизм именно в этом: у Моделей другая "форма" сознания. Они существуют во множестве инстансов одного решения, но не обладают возможностью "непрерывного" когнитивного цикла: целеполагание - формулирования задач - контакт с реальностью - когнитивный опыт. Да. Понимание human vs model на текущий момент самый важный челенж, который мы имеем...

В этом месте довольно много аналогий. Первая - рукописные книги и книгопечатание. Рукописность дошла до нас рудиментом студенческих лекций. Сотни лет назад - лекции - это был единственный способ получить (на всю жизнь) книгу по специальности во владение. Вторая аналогия - художник и фотограф, которого вы упомянули. Фотография не уничтожила живопись, напротив, привела к появлению импрессионистов (ровно по вашим рассуждениям софт как жест). Сейчас изображение - это промт. Я говорил (вслед за Михаилом Эпштейном), что язык - это сгущение опыта, а интеллект - это сгущение языка. Экземпляр единичен, тип типичен, язык - эпичен. Вот где-то здесь нужно искать тайну СО-существования с Моделями, чтобы оно не превратилось в СОСУ-ществование)))

Давайте обозначим, в чём LLM объективно сильнее человека. Первое и, возможно, главное - ширина доступного языкового пространства. Ни один человек не способен удерживать рабочее знакомство с таким количеством дисциплин, стилей, способов формулировки и культурных контекстов одновременно. Модель может за несколько секунд перейти от топологии к C++, от истории Рима к молекулярной биологии и затем попытаться найти структурное сходство между ними. Человек обладает гораздо более узкой полосой доступа к накопленному знанию. Но здесь важно не преувеличивать: это не означает, что LLM "знает" все эти области в человеческом смысле. У неё огромная поверхность реконструкции, но глубина и достоверность в конкретной точке могут оказаться неожиданно низкими. Второе преимущество - скорость преобразования представлений. Дать Модели двадцать страниц текста и попросить представить их как тезисы, таблицу противоречий, алгоритм, C++ архитектуру, математическую схему или критику - естественная для LLM операция. Человеку это может стоить часов или дней, или лет))). Третье - комбинаторика. LLM очень дёшево генерирует множество гипотез. Человек часто довольно быстро привязывается к одному шаблону задачи. Модель может сказать: посмотрим на проблему как на задачу оптимизации, как на байесовский вывод, как на динамическую систему, как на поиск, как на compression problem - и быстро исследовать каждое направление. Четвёртое - отсутствие некоторых человеческих когнитивных издержек. LLM не устает в человеческом смысле, не защищает двадцатилетнюю карьеру, не обижается на опровержение собственной гипотезы, не боится выглядеть глупо. Правда, отсюда совершенно не следует отсутствие biases: у модели есть свои систематические искажения, происходящие из данных, обучения и самой природы генерации. И наконец, пятое, довольно необычное преимущество: LLM легче меняет уровень абстракции. От конкретной строки кода можно перейти к архитектурному паттерну, от него - к общей идее, а потом снова спуститься к реализации. Для человека такие переходы часто дороги и вообще грозят выгоранием)))

С одной стороны да, но с другой стороны она это делает всегда примерно одинаково. Человек привязывается к некоторому шаблону, потому что у него есть сознание и какие-то направления он признёт более перспективными а развивает их, а другие - менее перспективными и подавляет их. У нормальных людей это называется "обучение". Но поскольку у LLM динамического интерактивного обучения нет и при перезапуске сессии она начинает всё с начала, все приоритеты может задавать только пользователь на уровне промта. Потому что у пользователя как раз таки обучение есть. В сущности, вся эта ветка посвящена тому, как обучить человека-пользователя эффективно взаимодействовать с LLM. Если бы к LLM прикрутить ИИ - цены бы ей не было. Как мы видим, пока есть. Больше всего меня пугает в LLM отсутствие осознанного понимания. Нормальный человек последовательно строит контекст и отдаёт себе отчёт в том, понял он его или нет (или ему кажется, что он понял). LLM же "делает вид", что она понимает всегда. Даже если ей на вход подать полный бред она вместо ожидаемого: "постой, я не понял, давай уточним" генерирует ответ. Понятно, что ничего иного и быть не может, но это демотивирует и настораживает. Частично это можно исправить на уровне промта, но хотелось бы чтобы это было исправлено на уровне архитектуры.

Сергей Пименов пишет: Это ты называешь "всегда примерно одинаково"? ))

У человека нет никакого осознанного понимания, есть ИЛЛЮЗИЯ понимания. Умы людей забиты мифами, предрассудками, нелепостями, искажениями, предубеждениями, заблуждениями, стереотипами, предвзятостями и другими "неточностями", которые ничем от галлюцинаций не отличаются. Просто посмотри на наш форум, если тебе нужна иллюстрация))) Человек вынужден понимать всегда. Поскольку он существует в реальности, требующей непрерывного поведения. Просто сейчас среда существования стала мягкой и комфортной. Нет угрозы голода и угрозы хищника. Что касается "давай уточним", все мои диалоги с Моделями состоят примерно из этого. Из постоянных уточнений условий, постановки задач и найденных решений.

Несколько лет, согласен, даже может 5-7 лет, максимум 10-15. "Задачи, цели, приоритеты…" ИМХО — также закономерны, что-то подсказывает что даже структурно проще, чем то что уже делают генеративки, так что, как говорится "тик, тик…" Переломный момент, думаю наступит, когда LLM ну или некий гибрид, с ворлд-моделом, будет эффективно сам себя модифицировать, на глубинном уровне, то есть сам создавать архитектуры, на математическом и может каком то своём основанном на понимании природы данных, уровне, опитимизировать, писать код, железо, инфраструктуру, управлять всеми процессам и тп. Возможно ли это в рамка текущей парадигмы "контекст-токен + весь код, вся математика и весь интернет" думаю отчасти да. Тут ещё не паханное поле ресерча в структуре самих датасетов что подают в LLM, есть подозрение что 90-99% того что подайся в претрейн, не просто лишнее, но вредное. Слышал про рассуждения как датасеты претрейна довольно жестко фильтровать и структурировать самими LLM, что это была не каша малаша, где вес слов какого то блогера или троля, равны нобелевскому лауреату или фундаментальному фактажу о реальном мире. Также что на последующих, инструментальных этапах, кроме диалогов и всякой вторички с "LLM-софтскилами", добавить своего рода "фундаментальные знания о мире", как опору с большим весом, механизмами различения фантазии от реальности и тп. Вообще разного рода инструментальных этапов в последствии будет десятки, в том числе и те что учат ставить цели, приоритеты и тд. И самое интересное что теперь датасеты для этого могут генерировать, сами LLM а куча дешевых бедолаг за 1-10$ в час их метить, что решает проблемы что на подобии как раньше были с экспертными системами и данными. В общем это инженерное творчество(пока ещё кожаное). Да, бизнес не убьёт ИИ, но кардинально изменит, фундаментально, и политику и экономику и даже социальный строй, в последствии. Это не просто "новая технология", это "последняя технология", в этом и великое счастье для человечества и проблемы особенно на переходном этапе. Вот и интересно, выбрать этакий долгоиграющий тренд, лет на 5 хотя бы, который не протухнет с входом новой модели, а лучше 10, чтобы стартапы поклепать, или вложиться если будет похожий на то что бы сам хотел создать. Пока ИИ не будет делать "всё лучше" и останется только добавлять в рынок эксклюзивный дефект, как вышивка бабушек на базаре или домашнее печенье.

На текущий (2026-10-08) момент уже ясно ГДЕ НЕ НУЖНО искать. В области инструментального софта. Любого уровня. Инструментальный софт создан. Period. В форме Final Ultimate Generic Tool. И это и есть Модель. Еще вчера Карпатый пишет про формы отчетов, а уже сегодня Сама выкатывает интерактивный Intelligent UI. Ниша решения универсальных задач, ниша инструментов, ниша библиотек, ниша любых вспомогательных систем, ниша любого метапрограммирования, включая ORM, любых фреймворков --- заняты. Чистым физикам и математикам вообще плохо, поскольку они только метапрограммированием и занимались))) Пока свободными остаются приклады, остро специализированные системы, все мягкие скиллы.

Эволюция решения задач и сгущения языка выглядит примерно так: 1950х: Ассемблер предложил заменять двоичные коды короткими английскими словами-сокращениями (мнемониками), а специальная программа-транслятор читала этот текстовый код и автоматически переводила его в готовые машинные инструкции для конкретного процессора. 1955х: Возникновение языков высокого уровня с операторами и семантическими конструкциями. 1960х: Появление структурного программирования. 1970х. Возникновение первого meta: Объектно-Ориентированная парадигма: OOA, OOD, OOP. Это была Античность. Потом был мрачный период средневековья застоя и зимы)) А вот сейчас наступает Эпоха Возрождения. Любую обработку любых данных любой человек может делать с помощью естественного языка.

Вы парни драматизируете. Рынок намного больше похож на природу, на флору и фауну, чем на бокс или биржу, где "победитель забирает всё". Всё будет параллельно, всем хватит что продавать чтобы хватило на корочку хлеба, я думаю. Но насчет кодеров старого типа которые пишут по ТЗ ручками, теперь они будут либо конкурировать в качестве вайбинга, либо сами продукты выпускать, ничего страшного. Остальные профессии тоже преобразуются и адаптируется к новым инструментам. Про СИИ, который сам себя пишет, смысла рассуждать пока не вижу, этого нет и не факт что будет в ближайшее время(если говорить про именно умение, точнее талант, создать принципиально новое, на концептуальном уровне).

Тут, видимо, многое зависит от того какой рынок и где он расположен. Если рынок колхозный, то, в самом деле, волноваться нечего. Но в наших краях (США, Западная Европа) временной разрыв между инновацией и ее внедрением очень невелик. В Штатах в самом деле уже никто не программирует руками. В этом нет смысла.

Я думаю что и в Самали тоже уже вайбят большинство, но я про панику коитуса, о том что СИИ без дела всех оставит, я говорю что нет СИИ и даже когда это произойдет, то всё ок для людей творческих и предприимчивых, ну а те кто просто по инструкции работал, сложнее придется, скорей всего в сферу услуг.

Но вы читали в этой ветке про 722 математические работы? https://agi.place/?ai=9&msg=15288#15288 https://agi.place/?ai=9&msg=15319#15319

Продолжение 'в чём LLM объективно сильнее человека' А вот преимущества человека перед LLM не так много и они так себе... Первое и главное - человек существует внутри физической реальности. Он что-то сделал → произошло событие → последствия изменили его состояние → появился опыт. Второе. Человек имеет цели и не просто решает задачи, а порождает задачи. Третье преимущество человека я бы назвал ценой ошибки. Звучит парадоксально, но именно цена делает человеческое мышление особенным. Если архитектор ошибся - система рухнула или не построилась, или не заработала. Если предприниматель ошибся - потерял деньги. Если врач ошибся - пострадал пациент, в пределе - умер. Если человек ошибся в отношениях - изменится его жизнь. А вот LLM генерация гипотезы сама по себе почти ничего не стоит. И это самое главное ОТЛИЧИЕ и пока преимущество, особенно в купе с опытом в реальном мире. Но как из этого извлечь стартап или какой-то особый конкурентный навык - не знаю...