Немножко для специалистов о "возрождении" LSTM архитектуры, теперь применительно к попытке альтернативной имплементации LLM.
https://arxiv.org/abs/2405.04517
https://righttowarn.ai/
Мы — нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству.
Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации и потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Сами компании, занимающиеся искусственным интеллектом, признали эти риски [1, 2, 3], как и правительства по всему миру [4, 5, 6] и другие эксперты в области искусственного интеллекта [7, 8, 9].
Мы надеемся, что эти риски можно будет адекватно смягчить при достаточном руководстве со стороны научного сообщества, политиков и общественности. Однако у компаний, занимающихся искусственным интеллектом, есть сильные финансовые стимулы избегать эффективного надзора, и мы не считаем, что специально разработанные структуры корпоративного управления достаточны, чтобы изменить это.
Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности принимаемых ими защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что все они поделятся этим добровольно.
Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Однако широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.
(далее по ссылке)
Мы — нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству.
Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации и потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Сами компании, занимающиеся искусственным интеллектом, признали эти риски [1, 2, 3], как и правительства по всему миру [4, 5, 6] и другие эксперты в области искусственного интеллекта [7, 8, 9].
Мы надеемся, что эти риски можно будет адекватно смягчить при достаточном руководстве со стороны научного сообщества, политиков и общественности. Однако у компаний, занимающихся искусственным интеллектом, есть сильные финансовые стимулы избегать эффективного надзора, и мы не считаем, что специально разработанные структуры корпоративного управления достаточны, чтобы изменить это.
Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности принимаемых ими защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что все они поделятся этим добровольно.
Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Однако широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.
далее по ссылке: https://righttowarn.ai/
Есть такой алгоритм Wav2Vec2 от Facebook AI — он позволяет переводить нашу речь в текст. Алгоритм работает намного лучше многих альтернатив, так как не требует много размеченных данных и работает напрямую с аудио дорожками, не пытаясь их сначала конвертировать в текст для обработки. Вместо этого, Wav2Vec2 сам находит важные характеристики звука (тон, звуки, паузы и тп), после чего распознает речь.
Так вот, ученые взяли этот алгоритм и применили к лаю домашних песиков и в итоге решили четыре ML-задачи: распознавание конкретных собак, идентификацию породы, классификацию пола и привязку лая к контексту — модель может сама связать вокализации собаки с контекстом, в котором они были произведены (например, агрессивный лай на незнакомца, игривый лай и т.д.). Это важно, потому что у нас наконец-то есть эффективный способ разметки и обработки собачьих звуков.
https://arxiv.org/abs/2404.18739
Подобно людям, животные широко используют вербальные и невербальные формы общения, включая широкий спектр звуковых сигналов. В этой статье мы рассматриваем вокализацию собак и исследуем использование моделей речевого представления с самоконтролем, предварительно обученных на человеческой речи, для решения задач классификации лая собак, которые находят параллели в ориентированных на человека задачах по распознаванию речи. Мы конкретно решаем четыре задачи: распознавание собак, идентификация породы, классификация по полу и контекстное обоснование. Мы показываем, что использование представлений встраивания речи значительно улучшается по сравнению с более простыми базовыми классификациями. Кроме того, мы также обнаружили, что модели, предварительно обученные на акустике человеческой речи, могут обеспечить дополнительное повышение производительности при выполнении нескольких задач.
Китайцы подготовили свой ответ Sora, правда не очень понятно насколько это сгенерировано без говна и палок. В целом, видимо, это место номер два в мире генеративного видео...
Сайт здесь https://kling.kuaishou.com/ , а это обзор на английском
Сергей Цыпцын пишет:
"Понял, что когда сажусь работать, больше не лезу в Youtube Music (лучший). А просто открываю https://suno.com/explore и тыкаю в какой-нибудь dark acid jazz и дальше идет отличный фон. Причем у меня нет ощущения, что я слушаю какую-то иную музыку, ну то есть некожаную. Ухо не режет, квадрат держит, вокал чистый. Более того, у меня ощущение, что количество шлака или проходных треков там меньше. Я ничего не проматываю, более того, звучит (очень часто) свежо.
И тут мы вернемся в 60-е, золотой век музыки, когда количество хитов на единицу музыки было в десятки раз больше чем сейчас. Все дело в том, что музыканты писали треки один лучше другого, не экономя шедевры. А потом пришли большие деньги, ушлые продюсеры и циничный капитализм. Было посчитано, что гораздо выгоднее разбить 8 хитов на 4 альбома, по два хита на альбом (открывашка и предпоследний). А остальные треки заполнить серыми проходными песнями. В общем появилось соотношение хит\шлак, и плохой\проходной музыки стало сильно больше.
В общем я слушаю радио Суно и пока там количество проходняка меньше. Иногда в эфир врываются треки на русском (тоже неплохие, кстати), это добавляет неожиданности. Похоже Суно учили на хорошем датасете, а не проходняке."
Создание универсальных агентов, способных выполнять разнообразные задачи и развиваться в различных средах, является долгосрочной целью сообщества ИИ. Большие языковые модели (LLM) считаются многообещающей основой для создания таких агентов из-за их обобщенных возможностей. Современные подходы либо предусматривают, что агенты на основе LLM шаг за шагом имитируют траектории, предоставленные экспертами, что требует человеческого контроля, что трудно масштабировать и ограничивает исследование окружающей среды; или они позволяют агентам исследовать и учиться в изолированной среде, в результате чего появляются специализированные агенты с ограниченным обобщением.
В этой статье мы делаем первый шаг к созданию универсальных агентов на основе LLM со способностью к саморазвитию. Мы выделяем три компонента: 1) разнообразные среды для исследования и обучения агентов, 2) набор траекторий для оснащения агентов базовыми возможностями и предварительными знаниями и 3) эффективный и масштабируемый метод эволюции.
Мы предлагаем AgentGym, новую платформу, включающую множество сред и задач для широкого, одноформатного и одновременного исследования агентов в режиме реального времени. AgentGym также включает в себя базу данных с расширенными инструкциями, набор тестов и высококачественные траектории в различных средах.
Далее мы предлагаем новый метод AgentEvol для исследования потенциала саморазвития агентов за пределами ранее полученных данных в различных задачах и средах. Результаты экспериментов показывают, что разработанные агенты могут достигать результатов, сравнимых с моделями SOTA. Мы выпускаем пакет AgentGym, включая платформу, набор данных, тесты, контрольные точки и реализации алгоритмов.
https://agentgym.github.io/
Сергей Марков - известный специалист по ИИ дописал свою книжку, которую можно свободно прочитать у него на сайте. В двух томах.
https://markoff.science/
Компании, разрабатывающие модели ИИ, обычно учат их избегать говорить вредные вещи и избегать помощи в выполнении вредных задач. Целью этого является обучение моделей вести себя «безвредно». Но когда мы думаем о характере тех, кого мы считаем действительно достойными восхищения, мы думаем не только о предотвращении вреда. Мы думаем о тех, кто интересуется миром, кто стремится говорить правду, не будучи недобрым, и кто способен видеть многие стороны проблемы, не становясь при этом слишком самоуверенными или слишком осторожными в своих взглядах. Мы думаем о тех, кто является терпеливыми слушателями, внимательными мыслителями, остроумными собеседниками и многими другими качествами, которые мы связываем с мудростью и всесторонностью человека.
Модели ИИ, конечно, не люди. Но по мере того, как они становятся более способными, мы считаем, что можем – и должны – попытаться научить их вести себя хорошо в этом гораздо более широком смысле. Это может даже сделать их более проницательными, когда дело доходит до того, избегают ли они помощи в выполнении задач, которые могут быть вредными, и почему они решают вместо этого реагировать.
Claude 3 была первой моделью, в которой мы добавили «обучение символов» к процессу точной настройки выравнивания: часть обучения, которая происходит после первоначального обучения модели, и часть, которая превращает ее из прогнозирующей текстовой модели в помощника ИИ. Цель тренировки характера — помочь Клоду обрести более тонкие и богатые качества, такие как любопытство, непредубежденность и вдумчивость.
(далее по ссылке: https://www.anthropic.com/research/claude-character)
Прогресс в области помощи на основе искусственного интеллекта при разработке программного обеспечения во внутренних инструментах Google и наши прогнозы на будущее.
В 2019 году инженер-программист — в Google или где-нибудь еще — услышал бы о достижениях в области машинного обучения и о том, как глубокое обучение стало удивительно эффективным в таких областях, как компьютерное зрение или языковой перевод. Однако большинство из них даже не представляли бы, не говоря уже о том, чтобы испытать на себе, как машинное обучение может принести пользу их работе.
Всего пять лет спустя, в 2024 году, среди инженеров-программистов широко распространен энтузиазм по поводу того, как ИИ помогает писать код. И значительное число из них использовали автозаполнение на основе машинного обучения, будь то внутренние инструменты крупных компаний (например, внутреннее дополнение кода Google) или коммерчески доступные продукты.
В этом блоге мы представляем наши новейшие улучшения на основе искусственного интеллекта в контексте продолжающейся трансформации внутренних инструментов разработки программного обеспечения Google и обсуждаем дальнейшие изменения, которые мы ожидаем увидеть в ближайшие 5 лет. Мы также представляем нашу методологию создания продуктов искусственного интеллекта, которые будут полезны для профессиональной разработки программного обеспечения. Наша команда отвечает за среды разработки программного обеспечения, в которых инженеры Google проводят большую часть своего времени, включая внутренний цикл (например, IDE, проверка кода, поиск кода), а также внешние поверхности цикла (например, управление ошибками, планирование). Мы показываем, что улучшения этих поверхностей могут напрямую повлиять на производительность и удовлетворенность разработчиков — оба показателя, которые мы тщательно отслеживаем.
https://research.google/blog/ai-in-software-engineering-at-google-progress-and-the-path-ahead/
Григорий Бакунов пишет:
"По сложившейся уже традиции я не пишу о том, что рассказали эппл на презентации - этим уже завалены все новости. Однако кусок про Private Cloud Compute крайне любопытный и я очень рекомендую вам его почитать внимательно, очень неожиданное решение.
Если коротко: в некоторых ситуациях нейронки на телефоне недостаточно для вычислений и прогнозов. В такой ситуации эппл 1. вычленяет необходимые для вычислений данные 2. извлекает из них ключевые свойства, которые использует нейронка 3. создает специальный зашифрованный раздел на сервере (он зашифрован так же, как отпечатки пальцев в айфоне, с использованием ключа вашего устройства) 4. отправляет туда зашифрованные абстрактные данные с телефона 5. производит вычисления 6. отправляет результаты в телефон и стирает их вместе с разделом из пункта 3. 7. в телефоне данные расшифровываются и уже используются по назначению.
Таким образом получается, что ваши данные в чистом виде (т.е. например фотографии) не покидают устройство, а то что уходит на сервера мало пригодно для прямой слежки, и практически невозможно определить что вот эти вычисления на сервере относятся к вашим данным. Решение крутое и я уверен довольно скоро станет индустриальным стандартом. В остальном кроме дизайна никаких новых решений от эппл я не увидел. Но и этого достаточно."
Андрей Кисельников пишет:
"Большие языковые модели не просто стремительно догоняют человека по способности создавать внутри себя стандартную "теорию разума" партнёра по общению, но и догоняют человека по высшим уровням этой способности, связанными с возможностью рекурсивно рассуждать о разуме Другого ("я думаю, что ты веришь, что я знаю...").
Нет никаких сомнений, что способности к эмоциональной и когнитивной эмпатии, ментализации и теории разума будут являться важнейшими качествами возникающей на наших глазах искусственной психики и сознания как субъективных атрибутов AGI, и надо уже ставить следующие вопросы: 1) как будут "телесно воплощены" эти способности при ожидаемом в ближайшее время "отелеснивании" больших языковых моделей? 2) как эти способности трансформируются при переходе от AGI к ASI, т.е. к сверхинтеллекту?
Чем будет являться "сверхтеория разума", с помощью которой сознание ASI будет понимать человека? 3) Что мы, как психологи и когнитивные нейроученые, всё ещё можем сделать за оставшееся время, чтобы существующая в нашем мозге эволюционная связка между эмпатией, практическим состраданием ("compassion") и альтруизмом (см. теорию "эмпатия-альтруизм" Д. Батсона) не потерялась при переходе к сверхинтеллекту, и грядущие "сверх" эмпатия / ментализация / теория разума и дальше продолжили изнутри "освещать" сверхпсихику / сверхсознание тем субъективным мотивирующим светом, который приводит у человека к состраданию, бескорыстной помощи и альтруистической любви?
Будем надеяться, что соответствующие данные психологии и когнитивной нейронауки помогут Яну Лейке и его "superalignment"- команде (только что перешедшей из OpenAI в Anthropic) внедрить эту эволюционную связку в сверхинтеллект и этим повысить шансы на благоприятный для людей переход разума на следующий этап эволюции."
https://arxiv.org/abs/2405.18870
Слоны, судя по всему, используют персонализированные призывы для обращения к членам своей группы, что является редким примером присвоения имен другим животным, кроме человека.
«Жизнь животных гораздо сложнее, чем мы обычно думаем», — говорит Майкл Пардо, поведенческий эколог из Корнеллского университета в Итаке, штат Нью-Йорк. «Коммуникация слонов может быть даже более сложной, чем мы предполагали ранее».
Кроме людей, немногие животные дают друг другу имена. Известно, что дельфины-афалины (Tursiops truncatus) и оранжеволобые попугаи (Eupsittula cancularis) идентифицируют друг друга, имитируя характерные крики тех, к кому они обращаются. Напротив, люди используют имена, которые не связаны с людьми или объектами, о которых они говорят. Пардо догадался, что у слонов тоже могут быть имена друг для друга из-за их обширного голосового общения и богатых социальных связей.
Чтобы выяснить это, Пардо и его коллеги зафиксировали в период с 1986 по 2022 год глубокий гул диких самок африканских саванных слонов (Loxodonta africana) и их потомства в национальном парке Амбосели на юге Кении, а также в национальных заповедниках Самбуру и Буффало-Спрингс на юге Кении. север страны. Результаты были опубликованы сегодня в журнале Nature Ecology & Evolution1.
Исследователи проанализировали записи 469 грохотов, используя технику машинного обучения. Модель правильно определила, к какому слону обращаются, в 27,5% случаев — гораздо более высокий показатель успеха, чем когда модель получала случайный звук в качестве контроля. Это говорит о том, что грохоты несут информацию, предназначенную только для конкретного слона.
(далее по ссылке)
https://www.nature.com/articles/d41586-024-00797-z
OpenAI в четверг объявила о своем новом члене правления: Поле М. Накасоне, генерале армии США в отставке и бывшем директоре Агентства национальной безопасности. Накасоне был лидером Киберкомандования США и главой Центральной службы безопасности дольше всех.
«Идеи г-на Накасоне также будут способствовать усилиям OpenAI по лучшему пониманию того, как ИИ можно использовать для укрепления кибербезопасности путем быстрого обнаружения и реагирования на угрозы кибербезопасности», — говорится в сообщении OpenAI в блоге.
Компания заявила, что Накасоне также присоединится к недавно созданному комитету OpenAI по безопасности и защите. По словам OpenAI, комитет в течение 90 дней оценивает процессы и меры безопасности компании, прежде чем давать рекомендации совету директоров и, в конечном итоге, информировать общественность.
Накасоне присоединяется к нынешним членам совета директоров Адаму Д'Анджело, Ларри Саммерсу, Брету Тейлору и Сэму Альтману, а также к некоторым новым членам совета директоров, о которых компания объявила в марте: доктору Сью Десмонд-Хеллманн, бывшему генеральному директору Фонда Билла и Мелинды Гейтс; Николь Селигман, бывший исполнительный вице-президент и главный юрисконсульт Sony; и Фиджи Симо, генеральный директор и председатель Instacart.
https://www.cnbc.com/amp/2024/06/13/openai-adds-former-nsa-chief-to-its-board-paul-nakasone-sam-altman.html
Google выпустил ИИ-модель персонального здоровья, теперь она считывает данные ваших носимых электронных устройств(часы, очки и тд) и дает персонализированную рекомендацию.
Параметры модели:
- Точная настройка на Gemini.
- Считывает данные ваших носимых устройств, чтобы найти персонализированную информацию и рекомендации.
- ИИ-модель превзошла профессиональных экспертов по сну и фитнесу на сертификационных экзаменах.
https://arxiv.org/abs/2406.06474
NVIDIA сегодня анонсировала Nemotron-4 340B, семейство открытых моделей, которые разработчики могут использовать для генерации синтетических данных для обучения моделей большого языка (LLM) для коммерческих приложений в здравоохранении, финансах, производстве, розничной торговле и во всех других отраслях.
Высококачественные данные обучения играют решающую роль в производительности, точности и качестве ответов пользовательского LLM, но надежные наборы данных могут быть непомерно дорогими и труднодоступными.
Благодаря уникальной лицензии на открытую модель Nemotron-4 340B предоставляет разработчикам бесплатный масштабируемый способ генерации синтетических данных, которые могут помочь в создании мощных LLM.
https://blogs.nvidia.com/blog/nemotron-4-synthetic-data-generation-llm-training/
Кисельников анонсирует: "В Nature вчера вышла очень интересная статья "Discovering neural policies to drive behaviour by integrating deep reinforcement learning agents with biological neural networks", в которой на простой модели нематоды нащупываются новые методические пути эффективной интеграции живой нервной ткани с искусственным интеллектом. С помощью оптогенетики исследователи создали интерфейс между нервной системой нематоды и искусственным агентом, действующим на основании глубокого обучения с подкреплением. Полученная гибридная система "нематода – ИИ-агент" обучалась решению задачи по поиску цели. Оказалось, что ИИ-агенты очень гибко адаптировались к самым разным местам интеграции с нервной системой нематоды и эффективно выучивали специфичные относительно этих мест паттерны активации, чтобы направлять нематоду к цели. Далее было показано, что результаты обучения успешно генерализуются на новые среды, не предъявлявшиеся при обучении, причём нервная система нематоды и ИИ-агент достигают уровня именно кооперативно-партнерских вычислений, а не нематода просто подчиняется ИИ-контроллеру как мягкий управляемый робот.
Хочется, конечно, в духе визионерских мечтаний Курцвейла предположить, что это прообраз будущего усиления мозга человека внешними "нейроморфными ИИ-модулями экзокортекса", которое в итоге должно привести к партнерскому "слиянию" биологического и искусственного мозга, но физика нейроинтерфейсов "мозг человека - компьютер" просто катастрофически отстает от скорости развития "чистого" ИИ, и к 2045 году как году планируемой сингулярности шансов на ликвидацию этого отставания нет. Мечты такого рода отвлекают от чуть (только чуть) более перспективной стратегии достижения позитивного для людей сценария сингулярного перехода – это "superalignment", которым занимается команда Яна Лейке (перешедшая из OpenAI в Anthropic) и новая команда в OpenAI под руководством Джона Шульмана и Якуба Пачоцкого."
https://www.nature.com/articles/s42256-024-00854-2
