Форум создателей искусственных интеллектов

но при чем тут ИИ???

Вероятней всего когда станет финансово независимым, самостоятельным, будет сам для себя зарабатывать деньги и сам себя обслуживать. Ну и, надеемся, что престарелым недалёким родителям(человечеству), будет помогать, а не поведёт себя как последний подонок.

https://habr.com/ru/articles/490842/ https://habr.com/ru/articles/599673/ Тоже вот сейчас читаю, страсть как занимательно, хотя не писал код уже лет 15, а с питоном вообще не имел дел, но думаю за пару неделек одолею на базовом уровне.

Ах! молодось вспомнилась, на дворе лихие 90е, а мы корпим над ядрами ЦП. Помнится один выскочка, очевидно не совсем адекватный студент, сваял схему однобитного ЦП именно с одним mov вообще без логики, помнится он был подвергнут мягкому, но очень обидному буллингу, за такую девиацию.

Средней зарплатой по стране или миру в целом. Если ИИ зарабатывает выше среднего и сам себя обслуживает, то всё - нормальный член общества.

Да, эта штуковина впечатляет, серьезный прорыв образовательных технологий.

Хорошая книжка, кого отпугивает питон(как сигнал профанации), это не про неё, автор шарит и умеет объяснить. Ну… разумеется не стоит рассчитывать сразу всё понять, если вы до этого сайты делали или базы данных заполняли, но старт хороший, таких книжек по МО одна на сотню. Вот русский вариант какого то предыдущего издания, но там на 95% тоже самое.

Вы парни драматизируете. Рынок намного больше похож на природу, на флору и фауну, чем на бокс или биржу, где "победитель забирает всё". Всё будет параллельно, всем хватит что продавать чтобы хватило на корочку хлеба, я думаю. Но насчет кодеров старого типа которые пишут по ТЗ ручками, теперь они будут либо конкурировать в качестве вайбинга, либо сами продукты выпускать, ничего страшного. Остальные профессии тоже преобразуются и адаптируется к новым инструментам. Про СИИ, который сам себя пишет, смысла рассуждать пока не вижу, этого нет и не факт что будет в ближайшее время(если говорить про именно умение, точнее талант, создать принципиально новое, на концептуальном уровне).

Я думаю что и в Самали тоже уже вайбят большинство, но я про панику коитуса, о том что СИИ без дела всех оставит, я говорю что нет СИИ и даже когда это произойдет, то всё ок для людей творческих и предприимчивых, ну а те кто просто по инструкции работал, сложнее придется, скорей всего в сферу услуг.

На первый взгляд восхитительно

Я бы не был так категоричен. А вообще всё упирается в то, что мы называем сознанием, а это довольно размытое понятие, ещё больше чем "интеллект". У ырачей это просто бодрствование и ориентировка: реагирует ли человек на обращение, понимает ли, где он. А в разговоре про ИИ обычно имеют в виду другое — есть ли у системы что-то вроде самосознания и субъективного опыта. И вот тут начинается путаница. Все пункты — рефлексия, восприятие диалога, мнение о себе, эмоции, отчёт о внутреннем опыте — это поведение и самоотчёты. Но модель обучена на горе человеческих текстов, где люди только и делают, что пишут о своих мыслях и чувствах. Она сгенерирует связный текст на эту тему независимо от того, есть ли за ним хоть что-то. Поэтому "модель описала свои эмоции" доказывает только то, что она умеет говорить так, как об этом говорят люди. Это аргумент, который срабатывает при любом исходе, то есть не срабатывает вообще. Чтобы говорить о каком-то "я"(а это по идее ядро сознательности), система должна хоть как-то отличать внешнее от собственного, на каждом, так сказать, "такте". У чатбота это устроено совсем иначе: свои прошлые реплики он получает на вход так же, как реплики собеседника — просто как текст в контексте. Где "я", а где "не я", определяет разметка ролей, а не внутренняя граница. Плюс непонятно, что считать "одним субъектом": веса, конкретный запуск, отдельный диалог? И ещё время: веса между запусками не меняются, память — это просто текст в контексте. Каждый ответ как отдельное вычисление. Трудно понять, в каком смысле она вообще что-то "переживает", точнее она точно ничего не "переживат", переживание это модификация системы, а LLM как бы завершена и только реагирует. Говорить "LLM сознательны, потому что умеют правдоподобно рефлексировать" — преждевременно. Но и "машины не могут быть сознательны, потому что это чисто функция" — тоже не достаточно убедительна. По-моему, интереснее не спорить о том, сознательны ли нынешние модели, можно просто сказать, что "сознательный но принципиально иначе", а спросить: какая организация системы сделала бы этот разговор более определенным? Настоящая интроспекция, устойчивая граница "я — мир", причинно связанная история состояний, интеграция информации. Это было бы содержательно, а не зависит от того, насколько складно модель говорит о себе. Может быть для этого всего лишь небольшой дополнительный файнтюнинг нужен, а может и нет. Да и… поговаривают о том что это "сознание", может быть не важнее чем структура пера, для полета, может это очередной эволюционный костыль, который в новой системе попросту не нужен, так же как эмоции и многое другое.

Вспомнился Cинъити Мотидзуки, япошки говорят что доказал, европейцы отрицают. ))

Возможно я также как и большинство, не могу избавиться от некоторых когнитивных искажений, а именно "духа китайской комнаты" в ЛЛМах. Хотя продакшн модели за миллионы и миллиарды, уже давно не чистые ЛЛМы, там и мультимодальные костыли и работа с инструментами, но "сознание", это немного про другое, прежде всего про "присутствие здесь и сейчас", то есть во времени, в "игровой петле". Система может быть сверх интеллектуальной, но не сознательной, как та же китайская комната, отвечать на любой вопрос, решать любую задачу, но быть "мертвой" между вопросами. В общем сознание предполагает активность в реальном времени, я так считаю. И сознание — в общем то структура\процесс, который обязателен агенту, для определенных целей, сред, но вовсе не нужен например чатботу, ну по крайней мере не необходим.

Поддерживаю, теперь особенно важно именно находить задачи, тем или иным способом перспективные, чем решать.

Ну не совсем, дело не в самой модели, но именно процесса получения данных. Сознание, если проводить аналогии, словно кино, 25 кадров, а ЛЛМ это как бы фотки на запрос. Возможно вскоре для чего то реализуют нечто интерактивное, когда в модель поступает потоковое видео, звук, и она ещё и создает внутренний диалог по поводу происходящего и просто так, о своём, технической проблемы в этом не вижу. В таком виде можно говорит о сознании, уже близком к человеческом, если модель достаточно мощна. Можно задать вопрос "Ты меня видишь\слышишь?", "О чем ты сейчас думаешь"? И тп. В таком интерактивном режиме, кстати, возможно нечто большее, чем просто функциональные ответы, а анпример произвольные действия, самосознание и тд. Если будет реализована подача потока данных и "мыслей" обратно в обучение, или каких то отдельных важных с точки зрения модели моментов. В может и наоборот, в таком режиме с неконтролируемым дообучением, модель испортиться, деградировать, "сойти с ума".