Встречайте AI-Hilbert, новый алгоритм для преобразования научных открытий
В новой статье Nature Communications исследователи и коллеги IBM описывают «ученого ИИ» под названием AI-Hilbert, который превращает существующие теории и данные в новые, последовательные, интерпретируемые математические модели. С помощью этого нового инструмента они надеются произвести революцию в самом процессе научных открытий.
https://research.ibm.com/blog/ai-hilbert-algorithm-automating-scientific-discovery
Дрифт без водителя под управлением ИИ: Инженерный институт Стэнфорда и Исследовательский институт Toyota достигли автономного этапа.
Если беспилотные автомобили смогут безопасно преодолеть эту сложную дорожную задачу, полученные знания могут помочь повысить безопасность автоматизированного вождения в городских условиях.
Дрифт в паре — это что-то среднее между автогонками Гран-при и парным фигурным катанием. Две машины скользят и петляют, как будто «дрейфуя», находясь под контролем каждого водителя. Ведущая машина отклоняется, выполняя сложную серию маневров, а преследующая машина следует за ней, пытаясь отразить каждое движение, оставаясь как можно ближе — не касаясь. Это высокорискованный сценарий, в котором баллы за элегантность, скорость и синхронность — высшая проверка водительского мастерства и контроля.
https://engineering.stanford.edu/magazine/ai-directed-driverless-drift-stanford-engineering-and-toyota-research-institute-achieve
Jensen Huang, Mark Zuckerberg to Discuss Future of Graphics and Virtual Worlds at SIGGRAPH 2024
Через два часа Цукерберг и Хуанг обсудят в прямом эфире роль LLM в создании виртуальных миров:
https://blogs.nvidia.com/blog/huang-zuckerberg-siggraph-2024/
update: дискашн будет завтра тута:
Так же, как мы не просто «контролируем» людей и сложные человеческие институты каким-либо простым, сверху вниз способом, а скорее направляем их посредством различных механизмов (законов, норм, стимулов, отношений), так и нам, возможно, нужно будет подходить к продвинутым системам ИИ с похожей многогранной стратегией.
Этот подход сочетает в себе жесткие ограничения, навыки управления, мягкое влияние и адаптивные петли обратной связи. В долгосрочной перспективе, чтобы сделать это эффективно, нам потребуется выйти за рамки упрощенных дихотомий «мы против них» или «хозяин против слуги» и вместо этого бороться со сложными реалиями сосуществования и совместной эволюции с искусственным разумом.
В то же время мы должны подходить к этой эволюции рассудительно, признавая, что наивное или некритическое сотрудничество так же опасно, как и прямой антагонизм; наши общие нормы и стимулы должны быть направлены на развитие симбиотических отношений, которые способствуют процветанию человека, при этом гарантируя, что ИИ остаются принципиально соответствующими человеческим интересам, даже если они растут в своей автономности и возможностях.
https://www.aipolicyperspectives.com/p/positive-sum-symbiosis
По мере того, как ученые расширяют границы машинного обучения, количество времени, энергии и денег, необходимых для обучения все более сложных моделей нейронных сетей, стремительно растет. Новая область искусственного интеллекта, называемая аналоговым глубоким обучением, обещает более быстрые вычисления с использованием лишь доли энергии.
Программируемые резисторы являются ключевыми строительными блоками в аналоговом глубоком обучении, так же как транзисторы являются основными элементами для цифровых процессоров. Повторяя массивы программируемых резисторов в сложных слоях, исследователи могут создать сеть аналоговых искусственных «нейронов» и «синапсов», которые выполняют вычисления так же, как цифровая нейронная сеть. Затем эту сеть можно обучить для выполнения сложных задач ИИ, таких как распознавание изображений и обработка естественного языка.
Многопрофильная группа исследователей Массачусетского технологического института решила расширить пределы скорости типа созданного человеком аналогового синапса, который они ранее разработали. Они использовали практичный неорганический материал в процессе изготовления, который позволяет их устройствам работать в 1 миллион раз быстрее предыдущих версий, что также примерно в 1 миллион раз быстрее синапсов в человеческом мозге.
Более того, этот неорганический материал также делает резистор чрезвычайно энергоэффективным. В отличие от материалов, используемых в более ранней версии их устройства, новый материал совместим с технологиями изготовления кремния. Это изменение позволило производить устройства в нанометровом масштабе и может проложить путь для интеграции в коммерческое вычислительное оборудование для приложений глубокого обучения.
https://news.mit.edu/2022/analog-deep-learning-ai-computing-0728
В связи с тем, что Флудилку засерает бесноватый долбоёб Лаврик, вынужден постить здесь...
Лица у девочек имеет одинаковый цвет (125, 125, 125), померяйте питеткой, если не верите)))
Achieving Human Level Competitive Robot Table Tennis
Достижение скорости и производительности на уровне человека при выполнении задач в реальном мире является путеводной звездой для сообщества исследователей робототехники. Эта работа делает шаг к этой цели и представляет первого обученного робота-агента, который достигает любительского уровня производительности человека в соревновательном настольном теннисе. Настольный теннис — это физически сложный вид спорта, требующий от игроков-людей многолетних тренировок для достижения продвинутого уровня мастерства.
В этой статье мы представляем (1) иерархическую и модульную архитектуру политики, состоящую из (i) контроллеров низкого уровня с их подробными описаниями навыков, которые моделируют возможности агента и помогают преодолеть разрыв между симуляцией и реальностью, и (ii) контроллер высокого уровня, который выбирает навыки низкого уровня, (2) методы для обеспечения нулевого выстрела симуляции и реальности, включая итеративный подход к определению распределения задач, который основан на реальном мире и определяет автоматическую учебную программу, и (3) адаптацию в реальном времени к невидимым противникам. Эффективность политики оценивалась с помощью 29 матчей роботов против людей, из которых робот выиграл 45% (13/29).
Все люди были невидимыми игроками, и их уровень мастерства варьировался от новичка до турнирного уровня. В то время как робот проиграл все матчи против самых продвинутых игроков, он выиграл 100% матчей против новичков и 55% матчей против игроков среднего уровня, продемонстрировав прочную любительскую игру на уровне человека. Видео матчей можно посмотреть по адресу
https://sites.google.com/view/competitive-robot-table-tennishttps://huggingface.co/papers/2408.03906
Блумберг пишет, что OpenAI разделяет «этапы искусственного интеллекта» следующим образом:
Уровень 1: Чат-боты - ИИ с разговорным языком
Уровень 2: Рассуждающие системы - решение проблем человеческого уровня
Уровень 3: Агенты - системы, способные к самостоятельным действиям
Уровень 4: Новаторы - ИИ, способный помогать в изобретениях
Уровень 5: Организационные системы - ИИ, способный выполнять работу организации
Согласно сообщению, ИИ 2-го уровня мог бы справляться с базовыми задачами наравне с человеком, имеющим ученую степень, но не имеющим доступа к внешним инструментам.
На встрече руководство OpenAI, как утверждается, продемонстрировало исследовательский проект, который, по мнению знакомых с обсуждением, демонстрирует признаки приближения к таким человекоподобным способностям рассуждения.
Russel Kaplan about the future of software engineering:
1. Models will be extraordinarily good at coding, very soon. Research labs are investing more in coding + reasoning improvements than any other domain for the next model generation. Their efforts will bear fruit.
2. Why? Besides general AI progress, coding specifically has a unique advantage: potential for superhuman data scaling via “self play”. Models can write code, and then run it. Or write code, write a test, and check for self-consistency.
3. This type of automatic supervision is not possible in most domains, which are facing data walls in post-training as we approach the limits of human expertise. Code is different—it can be tested empirically & automatically.
4. As a result, software engineering will look radically different in a few years. True coding agents, which do tasks end to end, will complement today’s AI copilots. The experience will look something like giving every engineer an army of interns.
5. In this new world, every engineer becomes an engineering manager. You will delegate basic tasks to coding agents, and spend more time on the higher level parts of coding: understanding the requirements, architecting systems, and deciding what to build.
6. This will lead to an era of unprecedented Software Abundance. Software has historically been difficult and expensive to create. It will soon be 10x more accessible. We will see a proliferation of “single use software”—one-off apps and websites that are only now viable.
7. There will be way more software engineers in the future than the present. The job will just be very different: more English, less boilerplate coding. Engineers will adjust, like they did for the transition from assembly to Python.
8. There will also be substantial second order effects for startups, besides the immediate productivity gains.
9. For one, companies that market to developers will soon start “marketing” to coding agents as well. After all, your agent might decide what cloud you use and which database you choose. Agent-friendly UI/UX (often: a good CLI) will be prioritized.
10. The bar for product quality will also rise. Half-baked or feature-incomplete MVPs are less acceptable in a world where developers can ship so much faster.
11. Testing infrastructure will be much more important & prevalent with the rise of coding agents. Both because the coding agents will write more tests, and also because they will depend on these tests to check their work.
12. Switching costs will decline as a moat for tech companies, as agents make migrations easier. Companies will even start bundling migration-assistant coding agents when you buy their products, to streamline your adoption.
13. Regardless of the specifics, the macro is clear: there’s never been a better or more productive time to be a builder.
Основная идея Replika довольно проста: что, если бы у вас был друг-ИИ? Компания предлагает аватары, которые вы можете настроить по своему вкусу, которые, по сути, притворяются людьми, так что они могут быть вашим другом, вашим терапевтом или даже вашим спутником. Вы можете взаимодействовать с этими аватарами через знакомый интерфейс чат-бота, а также совершать с ними видеозвонки и даже видеть их в виртуальной и дополненной реальности.
https://www.theverge.com/24216748/replika-ceo-eugenia-kuyda-ai-companion-chatbots-dating-friendship-decoder-podcast-interview
Мы рассматриваем сознание через призму теоретической информатики, раздела математики, изучающего вычисления в условиях ограниченных ресурсов. С этой точки зрения мы разрабатываем формальную машинную модель сознания. Модель вдохновлена простой, но мощной моделью вычислений Алана Тьюринга и театральной моделью сознания Бернарда Баарса. Несмотря на свою исключительную простоту, модель на высоком уровне согласуется со многими основными научными теориями человеческого и животного сознания, поддерживая наше утверждение о неизбежности машинного сознания.
https://arxiv.org/abs/2403.17101
Ученые из MIT выпустили базу рисков ИИ
The AI Risk Repository has three parts:
The AI Risk Database captures 700+ risks extracted from 43 existing frameworks, with quotes and page numbers.
The Causal Taxonomy of AI Risks classifies how, when, and why these risks occur.
The Domain Taxonomy of AI Risks classifies these risks into seven domains (e.g., “Misinformation”) and 23 subdomains (e.g., “False or misleading information”).
https://airisk.mit.edu/
В этой статье исследуется потенциал ChatGPT для помощи людям в решении проблем, требующих креативности. В пяти экспериментах мы просили участников использовать ChatGPT (GPT-3.5) для генерации креативных идей для различных повседневных и инновационных проблем, включая выбор креативного подарка для подростка, изготовление игрушки, повторное использование неиспользуемых предметов и проектирование инновационного обеденного стола.
Мы обнаружили, что использование ChatGPT повышало креативность генерируемых идей по сравнению с отсутствием использования какой-либо технологии или использованием обычного веб-поиска (Google). Этот эффект оставался устойчивым независимо от того, требовала ли проблема учета многих (или немногих) ограничений и рассматривалась ли она как требующая эмпатического отношения. Кроме того, ChatGPT был наиболее эффективен при генерации постепенно (а не радикально) новых идей.
Данные процесса свидетельствуют о том, что положительное влияние ChatGPT можно объяснить его способностью объединять отдаленно связанные концепции в связную форму, что приводит к более четкому представлению идей.
https://www.nature.com/articles/s41562-024-01953-1
WaitGPT: Monitoring and Steering Conversational LLM Agent in Data Analysis with On-the-Fly Code Visualization
Большие языковые модели (LLM) поддерживают анализ данных через разговорные пользовательские интерфейсы, как показано в OpenAI ChatGPT (официально известный как Advanced Data Analysis или Code Interpreter). По сути, LLM создают код для выполнения различных аналитических задач. Однако представление сырого кода может скрыть логику и затруднить проверку пользователем.
Чтобы предоставить пользователям улучшенное понимание и расширенный контроль над анализом, проводимым LLM, мы предлагаем новый подход к преобразованию сгенерированного LLM кода в интерактивное визуальное представление. В этом подходе пользователям предоставляется четкая пошаговая визуализация сгенерированного LLM кода в реальном времени, что позволяет им понимать, проверять и изменять отдельные операции с данными в ходе анализа. Наши проектные решения основаны на формативном исследовании (N=8), изучающем практику и проблемы пользователей.
Мы также разработали прототип под названием WaitGPT и провели исследование пользователей (N=12), чтобы оценить его удобство использования и эффективность. Результаты исследования пользователей показывают, что WaitGPT облегчает мониторинг и управление анализом данных, выполняемым магистрами права, позволяя участникам улучшить обнаружение ошибок и повысить общую уверенность в результатах.
https://arxiv.org/abs/2408.01703
Люди ориентируются в социальном мире, быстро воспринимая социальные особенности других людей и их взаимодействие. Недавно модели с большим языком (LLM) достигли высокого уровня визуальных возможностей для детального распознавания и описания содержания объектов и сцен. Это поднимает вопрос, могут ли LLM воспринимать тонкую и неявную социальную информацию из изображений и видео, и соответствует ли многомерная перцептивная структура структуре человека. Мы собрали оценки социального восприятия для 138 социальных особенностей из GPT-4V для изображений (N=468) и видео (N=234), которые получены из сцен социальных фильмов. Эти оценки сравнивались с человеческими оценками (N=2254).
Сравнения установили, что GPT-4V может достигать человеческих социальных перцептивных возможностей на уровне индивидуальных особенностей, а также на уровне многомерных перцептивных представлений. Мы также смоделировали гемодинамические реакции (N=97) на просмотр социоэмоциональных видеоклипов с аннотациями функций людьми-наблюдателями и GPT-4V.
Эти результаты продемонстрировали, что GPT-4V также может воспроизводить социальное перцептивное пространство на нейронном уровне, очень похожее на референтные человеческие оценки. Эти человеческие возможности социального восприятия LLM могли бы иметь широкий спектр реальных приложений, начиная от здравоохранения и заканчивая бизнесом, и открыли бы захватывающие новые пути для поведенческих и психологических исследований.
https://www.biorxiv.org/content/10.1101/2024.08.20.608741v1
Недавний взрыв больших языковых моделей (LLM) спровоцировал оживленные дебаты о «возникающих» свойствах моделей, включая интеллект, проницательность, креативность и значение. Эти дебаты сложны по двум основным причинам: искомые возникающие свойства не определены четко; и основания для их отклонения часто основываются на ошибочном обращении к внешним факторам, таким как режим обучения LLM, или ошибочных предположениях о процессах внутри модели.
Последняя проблема является особым препятствием для LLM, поскольку их внутренние процессы в значительной степени неизвестны — они представляют собой колоссальные черные ящики. В этой статье я пытаюсь преодолеть эти проблемы, во-первых, определив одну существенную черту, общую для систем, которые мы считаем разумными/сознательными/чувствующими и т. д., а именно их реакцию на условия окружающей среды, которые могут быть далеки в пространстве и времени.
Они взаимодействуют с субъективными мирами («s-мирами»), которые могут соответствовать или не соответствовать реальной среде. Наблюдатели могут выводить s-миры только из поведения, что позволяет выдвигать гипотезы о восприятии и познании, которые не требуют доказательств от внутренних операций рассматриваемых систем. Реконструкция s-миров предлагает структуру для сравнения познания между видами, предоставляя новые рычаги для возможной чувствительности LLM. Здесь мы рассматриваем одного выдающегося LLM, GPT-4 от OpenAI. Исследование возникновения сложного субъективного мира облегчается философской феноменологией и когнитивной этологией, изучающими закономерности ошибок, совершаемых GPT-4, и предлагающими их происхождение в отсутствии аналога человеческого субъективного осознания времени.
Этот дефицит предполагает, что GPT-4 в конечном итоге не обладает способностью строить стабильный перцептуальный мир; временной вакуум подрывает любую способность GPT-4 строить последовательную, постоянно обновляемую модель своей среды. Соответственно, ни одно из утверждений GPT-4 не является эпистемически надежным. Поскольку антропоморфная иллюзия настолько сильна, я в заключение предполагаю, что GPT-4 работает со своими пользователями, создавая импровизированные художественные произведения.
https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2024.1292675/full
