На этом сайте используются Cookies
Cookies нужны для обеспечения работы сайта и анализа того, как он используется. Условия читайте здесь.

На этом сайте используются Cookies
Cookies нужны для обеспечения работы сайта и анализа того, как он используется. Условия читайте здесь.

Навигатор по достижениям российской науки в сфере ИИ за последний год. Постерная сессия объединяет на одной площадке авторов исследований — от теории до решения прикладных задач
Существующие тесты недостаточно чувствительны к сложным когнитивным задачам, возникающим при внедрении LLM в реальные агентные и человеко-ориентированные сценарии. В работе представлена новая линейка тестовых заданий, покрывающая четыре проблемных домена:
Проведено систематическое сравнение широкого пула современных моделей. Приводится количественная оценка их способностей в указанных доменах. Результаты позволяют обоснованно выбирать LLM под задачи, требующие выхода за пределы стандартных лингвистических метрик.
Современные рассуждающие модели достигают впечатляющих результатов за счёт увеличения объёма вычислений в процессе генерации. Однако такой подход существенно повышает стоимость инференса и ограничивает масштабируемость систем.
В этой работе мы представляем результаты исследований в нескольких направлениях, направленных на повышение вычислительной эффективности рассуждений: от Chain-of-Thought (CoT) до латентного рекурсивного и мультимодального reasoning. Мы исследуем, как итеративные вычисления во внутренних представлениях модели позволяют улучшить качество рассуждений, снижая зависимость от явной генерации токенов.
Мы представляем экспериментальные результаты, сравниваем различные архитектурные подходы с классическими трансформерными baseline-моделями, а также обсуждаем ключевые архитектурные решения, компромиссы и открытые проблемы на пути к созданию эффективных рассуждающих моделей.
Квантование весов и активаций до 1–4 бит уменьшает нейронные сети и позволяет запускать их на простых низкобитных ускорителях, FPGA и ASIC. В предельном режиме W1A1, когда и веса, и активации занимают 1 бит, веса в 32 раза компактнее, чем в стандартном формате FP32. Однако напрямую обучать такие сети градиентными методами нельзя: производная округления почти всюду равна нулю. Метод сквозного градиента (straight-through estimator, STE) заменяет её суррогатной, но принято считать, что при 1–2 битах он неточен. Поэтому при 1 бите лучшие результаты сейчас дают специализированные методы бинаризации, которые меняют архитектуру сети.
В работе ошибка округления рассматривается как шум в канале связи. Если снижать разрядность плавно, постепенно повышая шум, задача обучения остаётся гладкой и решается обычным стохастическим градиентным спуском. На этой идее построен метод GDNSQ. В нём обучаются шаг квантования и границы отсечения, как в LSQ и PACT, поэтому разрядность становится дифференцируемым параметром. Производная ошибки округления по шагу заменяется случайной пробой ±1/2, как в DoReFa. Это аналог стохастической аппроксимации с одновременным возмущением (SPSA), и при стандартных условиях такие пробы дают асимптотически несмещённое направление спуска. Целевую разрядность задаёт штраф с растущим весом, а дистилляция от исходной FP32-сети сглаживает метрику качества. Теоретическую основу даёт гауссово сглаживание: среднее квантованной сети по гауссову шуму служит её бесконечно гладким суррогатом. Если близкие входы дают близкие выходы (ограниченная локальная осцилляция), для отклонения суррогата от сети получена явная оценка. Для функций sign и ReLU гауссовы средние найдены в замкнутом виде.
Эксперименты проведены на ResNet-20 (CIFAR-10) и ResNet-18 (ImageNet). На CIFAR-10 GDNSQ опережает аналоги во всех режимах от W1A32 до W4A4, а при 4 битах сохраняет точность исходной сети: 92,64% против 92,62% в FP32. В режиме W1A1 метод достигает 85,30% и близок к специализированным методам бинаризации (86,50% у RBNN), хотя архитектура сети не меняется. Абляция выделяет два ключевых компонента: без плавного снижения разрядности точность при W1A1 падает до 44,55%, а без дистилляции обучение не сходится. Таким образом, возможности STE не исчерпаны даже при 1 бите.
Квантование весов и активаций до 1–4 бит в несколько раз сокращает размер нейронных сетей и ускоряет их работу на мобильных и встраиваемых устройствах. Однако напрямую обучать такие сети градиентными методами нельзя: малое изменение веса не меняет его округлённого значения, а значит, и функции потерь, поэтому градиент по весам равен нулю. Эту трудность обходит метод сквозного градиента (straight-through estimator, STE), который на обратном проходе заменяет производную округления единицей. STE широко применяется — на нём построены DoReFa, LSQ и многие другие методы, — но общепринятого теоретического обоснования у него до сих пор нет. Не решён и практический вопрос о том, что подставлять в градиент по обучаемому масштабу квантования: точный остаток округления, как в LSQ, или случайный шум, как в DoReFa.
В работе показано, что для масштаба квантования STE со случайным шумом является одноизмерительной стохастической аппроксимацией с одновременным возмущением (SPSA). Остаток округления входит в градиент по масштабу усреднённым по мини-батчу, и по центральной предельной теореме значение имеют лишь его среднее и дисперсия. Поэтому остаток можно заменить случайным шумом с теми же средним и дисперсией, и такой шум служит пробным возмущением SPSA. Для смешанной схемы, где веса обучаются обратным распространением ошибки, а масштабы — методом SPSA, доказана локальная сходимость. Отсюда следует, что STE не вносит систематического смещения в оценки параметров и функции потерь, а влияет лишь на их дисперсию.
Эксперименты проведены на ResNet-20 (CIFAR-10/100) и RFDN (суперразрешение ×4) при плавном снижении разрядности весов и активаций от 10 бит до 1 и 4 бит соответственно. Со случайными пробами целевая разрядность достигается за меньшее число эпох, чем с точным остатком: на 9–15% в классификации и до 35% в суперразрешении. Итоговое качество при этом сохраняется, время эпохи не увеличивается, а конкретное распределение проб, как и предсказывает теория, почти не влияет на результат. В качестве выбора по умолчанию рекомендуются симметричные бернуллиевские пробы — простой и надёжный вариант.
Веб-агенты — один из самых быстрорастущих фронтиров GenAI, но почти вся оценка их способностей построена на англоязычных бенчмарках (WebArena и аналоги). Они не отражают ни русский язык интерфейсов, ни UX-паттерны отечественных сервисов, ни типовые пользовательские сценарии в России. Мы закрываем эту лакуну: представляем открытый бенчмарк для веб-агентов на анонимизированных моках крупнейших российских сервисов: маркетплейсов, продажи ж/д билетов, бронирования отелей и госуслуг.
Работа покрывает: реалистичные многошаговые сценарии (поиск, оформление, заполнение форм, навигация), их сложность и принципы разметки. Покажем результаты прогона ведущих моделей, где агенты справляются, а где систематически ломаются, и насколько велик разрыв с человеком. И как сделать бенчмарк реалистичным, при этом не нарушив авторских прав.
LiveCodeBench (LCB) распространённый бенчмарк для оценки больших языковых моделей (LLM) в задачах генерации кода. Благодаря сбору задач по соревновательному программированию, постоянному добавлению новых задач и фильтрации по датам их публикации, LCB позволяет учитывать риск попадания тестовых задач в обучающие данные моделей и обеспечивает комплексную оценку их способностей к программированию. Однако LCB ограничен языком Python, поэтому остаётся открытым вопрос о том, способны ли LLM обобщать полученные знания на другие языки программирования, используемые в реальной разработке ПО.
Мы представляем Multi-LCB — бенчмарк для оценки LLM на двенадцати языках программирования, включая Python. Multi-LCB автоматически преобразует Python задачи из набора данных LCB в эквивалентные задачи на других языках, сохраняя механизмы контроля контаминации и протокол оценки оригинального LCB. Благодаря полной совместимости с исходным форматом LCB, Multi-LCB сможет автоматически учитывать будущие обновления оригинального бенчмарка. Это позволяет систематически оценивать способность моделей генерировать код на разных языках программирования и проверять, насколько устойчиво они сохраняют высокую производительность за пределами Python.
Мы оценили 24 инструктивных и ризонинг LLM на бенчмарке Multi-LCB. Результаты выявили признаки переобучения на Python, контаминацию обучающих данных, а также существенные различия в качестве работы моделей между языками программирования. Наши результаты демонстрируют, что Multi-LCB представляет собой строгий бенчмарк для оценки генерации кода на нескольких языках программирования. Он напрямую устраняет ключевое ограничение LCB и выявляет существенные пробелы в возможностях современных LLM.
Агенты на основе больших языковых моделей (БЯМ) повышают качество решения задач за счёт их декомпозиции и распределения между специализированными ролями. Однако их практическое применение зачастую ограничивается высокими вычислительными затратами и нестабильностью, связанными с динамическим проектированием агентов для каждого пользовательского запроса.
Для решения этой проблемы мы представляем LLM Agents Factory — систему на основе поиска и извлечения информации, позволяющую по запросу создавать предметно-ориентированных агентов, опирающихся на знания из Википедии. В основе системы лежит репозиторий, содержащий более 20 тысяч заранее сформированных профилей агентов. Предлагаемая система поддерживает два режима работы: (1) поиск и извлечение профилей агентов на основе семантического сходства и (2) дистилляцию знаний в компактную языковую модель, дообученную для непосредственной генерации агентов.
Эксперименты на наборах задач MMLU, BIG-bench и BIG-bench Hard в одноагентном сценарии показывают, что предлагаемый подход к созданию агентов на основе поиска обеспечивает более высокую точность по сравнению с базовыми решениями без использования агентов. При этом он достигает сопоставимого с AutoGen качества генерации агентов при использовании базовой модели со 120 млрд параметров, но со значительно меньшими вычислительными затратами на инференс.
Результаты исследования демонстрируют, что извлечение профилей из структурированного репозитория агентов представляет собой экономически эффективную, точную и управляемую альтернативу динамической генерации агентов, отвечающую строгим требованиям промышленного применения.
В течение последних нескольких лет архитектуры, основанные на подходе трансформеров успешно применяются как в обработке естественного языка, так и в компьютерном зрении, однако до сих пор остаются неясными некоторые нюансы того, каким образом такие модели дают предсказания. В этой работе исследуется вопрос интерпретируемости обученной на химических данных sequence-to-sequence модели, которая восстанавливает молекулярные структуры по спектрам ядерного магнитного резонанса (ЯМР) водорода (¹H) и углерода (¹³C).
Коллективом были исследованы латентные пространства модели, чтобы выяснить, какие химические закономерности она смогла выучить и насколько её внутренние представления отражают реальное строение молекул, а не только синтаксис строкового представлния химических структур (SMILES).
В результате удалось показать, что модель действительно усваивает химически значимую информацию, причём она распределена неравномерно между энкодерами, слоями декодера и головами внимания. В частности, лучше всего представлены структурные признаки, которые имеют характерные сигналы в спектрах ЯМР, например ароматические кольца и карбонильные группы. При этом признаки со слабо выраженными спектральными сигналами распознаются менее надёжно.
Кроме того, было установлено, что внутренние представления модели содержат информацию о функциональных группах и отражают различия между молекулярными структурами. В то же время генерация синтаксически корректной строки SMILES не всегда означает, что восстановленная молекула соответствует исходной для данного спектра.
Таким образом, исследование показывает, что трансформер не просто изучает формальные правила записи молекул, но и формирует представления об их химическом строении. При этом качество таких представлений зависит от того, насколько явно соответствующие структурные особенности проявляются в ЯМР спектрах.
Обучение молекулярных представлений занимает центральное место в вычислительной химии и разработке лекарств. Хотя маскированное языковое моделирование на строках SMILES на основе BERT стало доминирующей парадигмой предобучения, дискретная диффузия с шумоподавлением — генеративный подход — остаётся в значительной степени неисследованной для этой задачи. В данной работе мы систематически сравниваем три семейства моделей, предобученных на большом корпусе строк SMILES: стандартный BERT с маскированным языковым моделированием, Diffusion BERT с различными расписаниями шума и Diffusion Transformer. После предобучения мы извлекаем латентные представления из каждой модели и используем их в качестве входных признаков для классификаторов и регрессоров на градиентном бустинге в задачах предсказания молекулярных свойств. Мы проводим оценку на бенчмарках как для классификации, так и для регрессии (MoleculeNet), обеспечивая всестороннюю оценку качества представлений.
Наши результаты показывают, что предобучение на основе дискретной диффузии стабильно даёт более богатые молекулярные представления, чем маскированное языковое моделирование, при этом Diffusion Transformer достигает наилучшей производительности по всем задачам. Все конфигурации на основе диффузии со значительным отрывом превосходят сильный базовый метод предобучения BERT на SMILES. Мы приходим к выводу, что дискретная текстовая диффузия представляет собой концептуально обоснованную и эффективную альтернативу маскированному языковому моделированию для обучения молекулярных представлений, открывая новое направление для генеративного предобучения в химии.
Цифровые водяные знаки для изображений приобретают всё большее значение в связи с новыми нормативными требованиями и отраслевыми практиками маркировки контента, созданного искусственным интеллектом, и обеспечения отслеживаемости его происхождения. Последние достижения в области невидимых цифровых водяных знаков обусловливают необходимость актуализации существующих методик оценки с учётом современных ограничений и критериев.
Для решения этой задачи представляется WARP — унифицированная платформа и бенчмарк для оценки устойчивости невидимых водяных знаков. WARP объединяет 32 современных метода маркировки, включая классические, глубокие и генеративные подходы, и 34 метода удаления водяных знаков — от стандартных искажений до состязательных атак, очистки изображений и повторного внедрения водяных знаков. Платформа обеспечивает стандартизированную, воспроизводимую и масштабируемую оценку перцептивного качества, читаемости водяных знаков и устойчивости к атакам.
С помощью WARP проведена масштабная оценка современных методов невидимой маркировки, легшая в основу крупнейшего в данной области исследования устойчивости цифровых водяных знаков. Полученные результаты позволили выявить наиболее устойчивые подходы как к классическим искажениям, так и к состязательным атакам, а также обнаружить взаимосвязи между методами маркировки и стратегиями атак, наиболее эффективными против них. Эксперименты также показали, что некоторые методы уязвимы к повторному внедрению водяных знаков, несмотря на устойчивость к стандартным искажениям.
Интеграция искусственного интеллекта (ИИ) в процессы медицинской диагностики требует надежных и последовательных методов оценки, обеспечивающих достоверность, клиническую значимость и учет присущей экспертным заключениям вариабельности. Традиционные метрики, такие как точность (precision) и полнота (recall), зачастую не учитывают естественную вариабельность экспертных оценок, что приводит к непоследовательной оценке эффективности ИИ. Статистические показатели межэкспертного согласия, такие как каппа Коэна, более надежны, однако их интерпретация затруднена.
Мы предлагаем Relative Precision and Recall of Algorithmic Diagnostics (RPAD и RRAD) — новые метрики оценки, которые сопоставляют результаты ИИ с мнениями нескольких экспертов, а не с единственным эталонным заключением. Благодаря нормализации показателей с учетом расхождений между экспертами эти метрики обеспечивают более стабильную и реалистичную оценку качества прогнозируемого диагноза.
Помимо всестороннего анализа показателей качества диагностики, наше исследование содержит весьма важный побочный результат. Предлагаемая методология оценки позволяет отказаться от выбора диагноза из ограниченного списка при оценке конкретного случая. Вместо этого как тестируемые модели, так и проверяющие их эксперты формулируют диагноз в свободной форме. В рамках данной автоматизированной методологии установления эквивалентности клинических диагнозов, сформулированных в свободной форме, удается достичь впечатляющей точности в 98%.
Мы оцениваем наш подход на основе 360 медицинских диалогов, сравнивая несколько больших языковых моделей (LLM) с группой врачей. Наиболее эффективные модели демонстрируют уровень согласованности, сопоставимый с экспертным консенсусом или даже превосходящий его. Более того, мы показываем, что экспертные заключения характеризуются значительной вариабельностью — зачастую большей, чем расхождения между ИИ и людьми. Этот результат подчеркивает ограничения любых абсолютных метрик и подтверждает необходимость использования относительных метрик при оценке медицинского ИИ.
Москва, Кутузовский проспект, д. 32
Не подойдут фото паспорта, ксерокопии и страница на Госуслугах
Подтверждение регистрации придёт на почту