По поводу того, сколько серьезные люди вкладывают средств в искусственный интеллект есть анонс трехмесячной давности про компьютер для ИИ следующего поколения:
https://www.forbes.com/sites/cindygordon/2024/03/31/microsoft-and-openai-partnering-on-stargate-a-100b-us-data-center
Сообщается, что Microsoft и OpenAI обсуждают проект нового центра обработки данных со штаб-квартирой в США. По данным The Information, объект, на котором будет размещен суперкомпьютер искусственного интеллекта под названием Stargate, может стоить более 100 миллиардов долларов.
По оценкам, реализация проекта суперкомпьютера «Звездные врата» займет от пяти до шести лет. Согласно многочисленным отчетам, расходы могут более чем в три раза превысить прошлогодние расходы Microsoft на капитальные затраты на серверы, здания и другое оборудование, сообщает The Information. С такими капитальными затратами проект будет более чем в 100 раз дороже, чем некоторые из крупнейших центров обработки данных, действующих сегодня. Кроме того, требования к мощности Звездных врат, оцениваемые в несколько гигаватт, могут потребовать от Microsoft и OpenAI использование альтернативных источников энергии, таких как ядерная энергия.
Доклад Хуанга в трех пунктах:
• Новая эра компьютеров настала — GPU сменили CPU, и это первая технологическая революция за последние 60 лет.
• За 8 лет процессоры стали в 1000 раз мощнее, а их энергоэффективность выросла в 350 раз.
• Капитализация Nvidia достигла невероятного максимума — $2,7 трлн. Для понимания масштаба, это больше ВВП России, Канады или Бразилии.
Во время золотой лихорадки очень выгодно продавать лопаты)))
Я тоже пописываю на CUDA время от времени, концепция параллельных вычислений - это мощная вещь...
Много-много лет назад, когда мы (возможно еще на Айкоме) обсуждали почему уровень ИИ такой низкий, здравомыслящими людьми (мной в том числе) высказывалось мнение, что пока просто не хватает вычислительной мощности. Сейчас вычислительная мощность достаточная, чтобы первые модели в генеративном режиме уже показывали осмысленный результат. Две вещи можно оптимизировать уже сегодня: архитектуру и процесс обучения (и элаймента), но так или иначе предел экстенсивного развития даже текущей архитектуры еще не достигнут.
Sony Pictures Entertainment использует искусственный интеллект (ИИ) для оптимизации производства фильмов и телепередач и сокращения затрат. Генеральный директор Тони Винчикерра недавно подчеркнул, что компания нацелена на использование искусственного интеллекта для более эффективного производства фильмов и шоу, что потенциально повлияет на такие области, как анимация, визуальные эффекты и пост-продакшн.
https://www.perplexity.ai/page/Sony-Pictures-Uses-6_PDbvPzShW.L3pZw0v4sA
Джош Бэтсон, разработчик из Антропик признается, что видит в LLM черный ящик.
Ощущение такое, что только я понимаю как это всё на самом деле работает)))
Интервью здесь:
Egg: При этом, если дать LLM платформу с сенсорами/эффекторами и манипуляторами, заложить начальное ядро представления о реальности (на уровне описания этой платформы), то система сама
будет познавать мир в прямом значении термина "познание".
А творить она сможет?
Текущее состояние - песок на пляже,
Целевое состояние - объемная фигура лошади из песка.
Вот и Sama признаётся, что не понимает как работает его ИИ))
Во время глобального саммита Международного союза электросвязи «ИИ во благо», состоявшегося на прошлой неделе в Женеве, Швейцария, генеральный директор OpenAI Сэм Альтман был озадачен, когда его спросили, как на самом деле функционируют «под капотом» большие языковые модели его компании (LLM).
«Мы, конечно, не решили проблему интерпретируемости», — сказал он, цитируя Observer, по сути говоря, что компании еще предстоит выяснить, как проследить зачастую странные и неточные результаты своих моделей ИИ и решения, которые она приняла, чтобы прийти к этим ответам. .
https://futurism.com/sam-altman-admits-openai-understand-ai
Вот очень хороший гайд по промтинжинирингу:
https://www.promptingguide.ai/
Разработка подсказок — относительно новая дисциплина для разработки и оптимизации подсказок для эффективного использования языковых моделей (LM) для широкого спектра приложений и тем исследований. Быстрые инженерные навыки помогают лучше понять возможности и ограничения больших языковых моделей (LLM).
Исследователи используют быстрое проектирование, чтобы улучшить возможности LLM для решения широкого спектра общих и сложных задач, таких как ответы на вопросы и арифметические рассуждения. Разработчики используют быстрое проектирование для разработки надежных и эффективных методов подсказок, которые взаимодействуют с LLM и другими инструментами.
Оперативное проектирование – это не просто проектирование и разработка подсказок. Он включает в себя широкий спектр навыков и методов, которые полезны для взаимодействия и развития с LLM. Это важный навык для взаимодействия, создания и понимания возможностей LLM. Вы можете использовать оперативное проектирование, чтобы повысить безопасность LLM и создать новые возможности, например дополнить LLM знаниями предметной области и внешними инструментами.
Руководствуясь высоким интересом к разработке с использованием LLM, мы создали это новое руководство по быстрому проектированию, которое содержит все новейшие документы, передовые методы подсказок, руководства по обучению, руководства по подсказкам для конкретных моделей, лекции, справочные материалы, новые возможности LLM и инструменты, связанные с оперативный инжиниринг.
Всё про реализацию и методологию от OpenAI от Leopold Aschenbrenner
https://situational-awareness.ai/
За последний год разговоры о городе перешли от вычислительных кластеров стоимостью 10 миллиардов долларов к кластерам стоимостью 100 миллиардов долларов и кластерам стоимостью в триллион долларов. Каждые шесть месяцев к планам зала заседаний добавляется еще один ноль. За кулисами идет ожесточенная борьба за каждый доступный контракт на поставку электроэнергии до конца десятилетия, за каждый трансформатор напряжения, который только можно приобрести. Американский крупный бизнес готовится вложить триллионы долларов в давно невиданную мобилизацию американской промышленной мощи. К концу десятилетия производство электроэнергии в Америке вырастет на десятки процентов; от сланцевых месторождений Пенсильвании до солнечных ферм Невады будут гудеть сотни миллионов графических процессоров.
Гонка AGI началась. Мы строим машины, которые могут думать и рассуждать. К 2025/26 году эти машины обгонят многих выпускников колледжей. К концу десятилетия они будут умнее вас или меня; у нас будет сверхинтеллект в истинном смысле этого слова. Попутно будут задействованы силы национальной безопасности, которых не было уже полвека, и вскоре Проект будет запущен. Если нам повезет, мы окажемся в тотальной гонке с КПК; если нам не повезет, то тотальная война.
Сейчас все говорят об ИИ, но мало кто имеет хоть малейшее представление о том, что их вот-вот поразит. Аналитики Nvidia по-прежнему считают, что 2024 год может быть близок к пику. Ведущие эксперты застряли в умышленной слепоте, утверждая, что «это просто предсказание следующего слова». Они видят только шумиху и обычное дело; в лучшем случае они развлекают очередное технологическое изменение в масштабе Интернета.
Вскоре мир проснется. Но прямо сейчас, возможно, есть несколько сотен человек, большинство из которых в Сан-Франциско и лабораториях искусственного интеллекта, которые обладают ситуационной осведомленностью. Какими бы странными силами судьбы я ни оказался среди них. Несколько лет назад этих людей высмеивали как сумасшедших, но они доверяли тенденциям, которые позволяли им правильно предсказывать достижения ИИ за последние несколько лет. Правы ли эти люди насчет следующих нескольких лет, еще неизвестно. Но это очень умные люди — самые умные люди, которых я когда-либо встречал, — и именно они создают эту технологию. Возможно, они станут странной сноской в истории, а может быть, они войдут в историю, как Сцилард, Оппенгеймер и Теллер. Если они видят будущее хотя бы близко к правильному, нас ждет дикая поездка.
Позвольте мне рассказать вам, что мы видим.
Кому-то может быть полезно и интересно:
Алексей Васильевич Семьянов, доктор биологических наук, член-корреспондент РАН, один из ведущих специалистов по нейроглии, в своей лекции в лектории Нейрокампуса детально рассказал о влиянии важнейших клеток нейроглии, астроцитов, на способность к перемещению у мышей
https://neuronovosti.ru/aleksej-semyanov-nejrony-astrotsity-i-dvizhenie/
Доктор физмат наук и доктор биологических наук обсуждают использование ИИ в исследовании белков, из их слов получается, что кожанные люди в этой области без этих инструментов не смогут почти ничего... )))
https://www.trv-science.ru/2024/06/fazovyj-perehod-v-issledovaniyah-belka/
AlphaFold
Программа на базе искусственного интеллекта, которая выполняет предсказания конечной пространственной структуры белка при его сворачивании.
AlphaFold имеет две основные версии. Команда исследователей, использовавшая AlphaFold 1, заняла первое место в декабре 2018 года в общем рейтинге 13-й СASP (Critical Assessment of protein Structure Prediction — критическая оценка предсказания белковых структур, масштабный эксперимент по предсказанию белковых структур, который устраивают раз в два года с 1994-го). Программа оказалась особенно успешной в предсказании точных структур белков в категории, которую организаторы конкурса оценивали как самую сложную, — когда для белков с частично похожей последовательностью не было доступно существующих шаблонных структур.
Команда разработчиков AlphaFold 2 участвовала в следующем конкурсе CASP в ноябре 2020 года и достигла гораздо большей точности, чем любая другая группа. Модель набрала более 90 баллов примерно для двух третей белков в тесте GDT, который измеряет степень, с которой структура, предсказанная вычислительной программой, подобна структуре, определенной лабораторным экспериментом (число 100 соответствует полному совпадению). Результаты AlphaFold 2 в CASP были охарактеризованы как «поразительные». В то же время некоторые исследователи отметили, что точность недостаточно высока для оставшейся трети прогнозов и что не раскрывается механизм и правила сворачивания белка, чтобы проблема сворачивания белка считалась решенной. 15 июля 2021 года статья об AlphaFold2 была размещена в Nature в качестве публикации для предварительного доступа вместе с программным обеспечением с открытым исходным кодом и доступной для поиска базой данных с различными видами белков.
8 мая 2024 года в Nature была размещена статья о новой версии программы — AlphaFold 3.
Немножко для специалистов о "возрождении" LSTM архитектуры, теперь применительно к попытке альтернативной имплементации LLM.
https://arxiv.org/abs/2405.04517
https://righttowarn.ai/
Мы — нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству.
Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации и потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Сами компании, занимающиеся искусственным интеллектом, признали эти риски [1, 2, 3], как и правительства по всему миру [4, 5, 6] и другие эксперты в области искусственного интеллекта [7, 8, 9].
Мы надеемся, что эти риски можно будет адекватно смягчить при достаточном руководстве со стороны научного сообщества, политиков и общественности. Однако у компаний, занимающихся искусственным интеллектом, есть сильные финансовые стимулы избегать эффективного надзора, и мы не считаем, что специально разработанные структуры корпоративного управления достаточны, чтобы изменить это.
Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности принимаемых ими защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что все они поделятся этим добровольно.
Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Однако широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.
(далее по ссылке)
Мы — нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству.
Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации и потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Сами компании, занимающиеся искусственным интеллектом, признали эти риски [1, 2, 3], как и правительства по всему миру [4, 5, 6] и другие эксперты в области искусственного интеллекта [7, 8, 9].
Мы надеемся, что эти риски можно будет адекватно смягчить при достаточном руководстве со стороны научного сообщества, политиков и общественности. Однако у компаний, занимающихся искусственным интеллектом, есть сильные финансовые стимулы избегать эффективного надзора, и мы не считаем, что специально разработанные структуры корпоративного управления достаточны, чтобы изменить это.
Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности принимаемых ими защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что все они поделятся этим добровольно.
Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Однако широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.
далее по ссылке: https://righttowarn.ai/
Есть такой алгоритм Wav2Vec2 от Facebook AI — он позволяет переводить нашу речь в текст. Алгоритм работает намного лучше многих альтернатив, так как не требует много размеченных данных и работает напрямую с аудио дорожками, не пытаясь их сначала конвертировать в текст для обработки. Вместо этого, Wav2Vec2 сам находит важные характеристики звука (тон, звуки, паузы и тп), после чего распознает речь.
Так вот, ученые взяли этот алгоритм и применили к лаю домашних песиков и в итоге решили четыре ML-задачи: распознавание конкретных собак, идентификацию породы, классификацию пола и привязку лая к контексту — модель может сама связать вокализации собаки с контекстом, в котором они были произведены (например, агрессивный лай на незнакомца, игривый лай и т.д.). Это важно, потому что у нас наконец-то есть эффективный способ разметки и обработки собачьих звуков.
https://arxiv.org/abs/2404.18739
Подобно людям, животные широко используют вербальные и невербальные формы общения, включая широкий спектр звуковых сигналов. В этой статье мы рассматриваем вокализацию собак и исследуем использование моделей речевого представления с самоконтролем, предварительно обученных на человеческой речи, для решения задач классификации лая собак, которые находят параллели в ориентированных на человека задачах по распознаванию речи. Мы конкретно решаем четыре задачи: распознавание собак, идентификация породы, классификация по полу и контекстное обоснование. Мы показываем, что использование представлений встраивания речи значительно улучшается по сравнению с более простыми базовыми классификациями. Кроме того, мы также обнаружили, что модели, предварительно обученные на акустике человеческой речи, могут обеспечить дополнительное повышение производительности при выполнении нескольких задач.
