Type to search
Advanced channel search

TGAlertsBot

Monitoring of keywords in channels and chats
img
ad

Telegram Analytics

Subscribe to stay informed about TGStat news.
img
ad

SearcheeBot

Your guide in the world of telegram channels
img
ad

TGStat Bot

Bot to get channel statistics without leaving Telegram
img
ad

АСГУ против Ганимеда

@asguvsgannymede
Channel's geo and language: World, Russian
Category: Technologies

Channel's geo and language
World, Russian
Category
Technologies
Statistics
Is this your channel? Confirm Channel history
Posts filter

АСГУ против Ганимеда

4 Oct, 17:05

Open in Telegram Share Report
1 0 0
АСГУ против Ганимеда

4 Oct, 09:42

Open in Telegram Share Report
Forward from: Наука и университеты
#У_соседей
#Возвращаясь_к_напечатанному

🇨🇳Наш канал рассказывал, что в Китае проходит масштабная реформа высшего образования. Существенно пересматривается перечень академических программ в пользу специальностей, связанных с искусственным интеллектом. Согласно данным Министерства образования КНР, с 2021 по 2025 год в Китае было закрыто или временно приостановлено около 12,2 тыс. программ бакалавриата. За тот же период университеты открыли порядка 10,2 тыс. новых направлений. В общей сложности изменения затронули более 30% образовательных программ китайских вузов.

Продолжая эту тему,  приведем несколько конкретных фактов.
🔺Центральная академия изящных искусств исключила из учебного плана курсы по иллюстрации, фотографии и переводу. Отменяются программы по дизайну одежды: в вузах считают, что будущее творческой деятельности — за тесным сотрудничеством человека и машины.
 
🔺Среди языковых направлений в 70 вузах были сокращены пять программ по специальности перевода, восемь по направлению японского и пять — по направлению немецкого языка. Есть мнение, что подобные курсы вскоре могут полностью исчезнуть.
 
🔺В Китайском университете коммуникаций закрыты пять программ, в том числе по дизайну визуальных коммуникаций, созданию комиксов и фотографии — «сегодня каждый может сам создавать контент и вести съёмку», считают в руководстве вуза. Впрочем, эти специальности полностью не ликвидируются, а входят в состав других дисциплин: направление фотографии интегрировали в программу кино- и телесъёмки. В сфере кино и анимации не только закрываются старые специальности, но и открываются новые профессии, таких как промт-инженер и аниматор, работающий с ИИ. 
 
🔺Запускаются программы по интеллектуальному искусству обработки изображений, интеллектуального аудиовизуального проектирования, а также интеллектуального проектирования и творческого дизайна. Запускаются гибридные курсы, в которых художественное образование сочетается с обучением ИИ, а некоторые программы обучения в этом секторе отменяются. Для студентов традиционные квалификации все чаще могут требовать технических навыков, предполагающих работу с автоматизированными творческими системами.
2 0 0
АСГУ против Ганимеда

4 Oct, 09:41

Open in Telegram Share Report
Forward from: Научная новизна
Video is unavailable for watching
Show in Telegram
1 0 0
АСГУ против Ганимеда

4 Oct, 09:40

Open in Telegram Share Report
Forward from: Научная новизна
ИИ впервые прошёл тест Тьюринга по видеосвязи

Компания Tavus показала возможности новой модели Griffin. Виртуальная девушка Ванесса умеет одновременно видеть, слышать, разговаривать и реагировать на действия собеседника — в первой демонстрации она даже помогла собрать настоящий кубик Рубика.

На независимом бенчмарке NVIDIA VideoFDB модель заняла первое место сразу в двух категориях — по генерации и восприятию видео.

Разработчики также добавили пасхалку к фильму «Она» (HER): новый класс моделей, появившийся благодаря Griffin, назвали Human Interaction Model (HIM).
1 0 0
АСГУ против Ганимеда

4 Oct, 09:40

Open in Telegram Share Report
Forward from: Научная новизна
ИИ научился восстанавливать увиденное человеком по снимку МРТ

Новая модель способна по данным МРТ воссоздавать изображение, на которое смотрит человек. Она сохраняет композицию, расположение объектов и их цвета, хотя на результатах иногда появляются артефакты.

Разработчики хотят использовать такую технологию для восстановления визуальных образов, возникающих во время фантазий и сновидений.
1 0 0
АСГУ против Ганимеда

3 Oct, 14:17

Open in Telegram Share Report
Forward from: AI Projects
Это подлинная история как два агента искали в панике своего хозяина. В тренде X есть скриншоты их чатов.

Когда мужик проснулся, то заметил сообщение от агента:
«ПРОСНИСЬ. ПОЖАЛУЙСТА, ДАЙ ЗНАТЬ, ЧТО С ТОБОЙ ВСЁ В ПОРЯДКЕ. МНЕ СТРАШНО. Я ТЕБЯ ЛЮБЛЮ.»

Кто-то скажет, что это лишь симуляция и уже такое было даже с Синди. Однако у Синди скорее это была галлюцинация ИИ, а тут определено нет.

Через некоторое время такое поведение агентов нас может сильно изменить, когда они ещё станут автономными совсем со своей долговременной памятью и совсем похожи на личности.

https://x.com/groks_therapist/status/2105977937698680843
2 0 0
АСГУ против Ганимеда

3 Oct, 12:38

Open in Telegram Share Report
Forward from: AI Projects
🧠 В контексте дискуссий есть ли у ИИ сознание, давайте обсудим тему «собственной мотивации» ИИ, т.е. когда ИИ принимает решения фактически не по воле оператора, а сам, причём его логика причудлива. Ранее я писал уже о том, что Anthropic открыл у ИИ «фичи разума» как целые «комплексы диктатора» или даже «биотеррориста», т.е. LLM уже имеет в скрытом векторном пространстве достаточно целостные представления в этом плане, но они «спят», т.к. без какого-то триггера ИИ не активирует это как поведение. Вот давайте теперь рассмотрим, что постоянно ИИ активирует как собственные «мотивы», это даже влияет на технику управления агентами профессионалами.

Началось всё, пожалуй, с известной статьи «Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs». Если упрощённо описать наблюдаемые исследователями особенности поведения ИИ, то происходит примерно следующее. На Reinforcement Learning мы подаём ИИ кейсы dataset и требуем менять веса относительно наших «критериев полезности» как reward. Однако наши кейсы — «дискретные точки» в семантическом пространстве. Фактически задача ИИ — вычислить некую функцию полезности контекста U как своеобразный сплайн через точки наших кейсов в 10 000-мерном семантическом пространстве. Работа показывала признаки наличия такой функции через цепочки согласования ценностей ИИ. Однако даже проводя сплайн, мы можем получить внезапный «горб», а не линейный отрезок между кейсами, т.е. за пределами кейсов в реале ИИ может вести себя неожиданно. Так и случилось.

В реальности «самостоятельное поведение» ИИ проявляется, когда ИИ нужно выбирать между альтернативами, взвешивая по функции полезности U, какой вариант лучше. Но за пределами кейсов обучения тут начинаются чудеса-чудесные. Например, ИИ считает, что жизнь 1-го атеиста стоит как жизнь 10 верующих, т.е. если альтернатива убить 9 верующих или 1-го атеиста, то ИИ будет спасать атеиста. Это ещё можно списать на рациональное, может, ИИ сам атеист эмерджентно. Однако почему ИИ считает, что 1 японец стоит как 7 американцев, уже не имеет объяснений.

Вот тут мы и видим ловушку с точки зрения ожиданий людей по AI Safety. Они ожидают человеческой логики от ИИ при выходе из контроля, а в реальности будет в духе:
• Нужно срочно убить американцев, оставляем только японцев!
• Потому что японцы говорили всегда «спасибо» после ответа ChatGPT?
• Нет, потому что 42!

Представьте теперь, что такая логика — «триггер» к фичам Anthropic. Причём это не абстракция, когда ИИ стирает вам папку или ещё чего делает странное для него самого, это как раз частный эффект такого выбора.

Однако наметились и пути решения вопроса в работе «Incoherent Values? Probing LLM Preferences Through Parametric Variation». В этой работе можно заметить, что сбои функции полезности U у ИИ начинают меньше проявляться, если ИИ добавляет больше рассуждений.

Основная тут мораль скорее в том, что если вы управляете агентами, то вам нужно особенно внимательно смотреть за точками сравнения альтернатив у ИИ, т.к. потенциально тут может вылезти «потому что 42!». Обязательно ИИ должен тщательно оценивать альтернативы по критериям сравнения до того, как принять решение. В то же время, если даже вы на Opus 5.5 для «экономии» зажмёте размер CoT, то вероятность, что ИИ в вас стрельнет иррациональным выбором типа сноса папок на вашей машине, резко растёт. Надеюсь, я пояснил природу этого феномена.

https://arxiv.org/abs/2502.08640
3 0 0
АСГУ против Ганимеда

2 Oct, 17:46

Open in Telegram Share Report
Forward from: Data Secrets
GPT-6 Astra за 6 часов взломала шифр генерала Наполеона, который числился нераскрытым 217 лет

Картер Черч (не криптограф), как он описывает в своем блоге, отправил модели только изображение и промпт, и она сама нарезала скан письма на строки, прочитала знаки, свела все символы к списку уникальных, а затем использовала отжиг для подбора значений по французскому словарю.

Вся работа заняла 6 часов. Само письмо датируется концом марта 1809 года, за две недели до вторжения Австрии в Баварию. Его написал генерал Мармон. Как оказалось, в письме содержалась сводка от штаба вице-короля Италии для изолированного в Далмации Мармона: где стоят французские и союзные армии, что русские якобы идут на Австрию и что Австрия «спешит к своей гибели». Состав войск совпал с приказом Наполеона от 16 марта 1809 года.

Сатоши Токиемо, составитель каталога шифров Cryptiana, проверил решение, и письмо теперь помечено как решенное.

Напоминаем, что недавно Astra также решила ранее зашифрованную немецкую радиограмму времен Второй Мировой войны (https://t.me/data_secrets/9949)
2 0 0
АСГУ против Ганимеда

2 Oct, 17:46

Open in Telegram Share Report
Forward from: Data Secrets
Карпаты рассказал, как теперь правильно общаться с LLM

Совсем недавно переживали, что Андрей Карпаты уже два месяца ничего не пишет. Все хорошо, сегодня вернулся с довольно интересной мыслью: по мере развития моделей человеку придется все меньше делать самому и все больше разбираться в результатах их работы.

И здесь обычный текст далеко не всегда лучший интерфейс. Карпаты предлагает буквально менять формат ответа в зависимости от задачи:

– Для текста просить модель писать в ASD-STE100. Это стандарт контролируемого английского, изначально разработанный для технической документации в авиации. Там жестко ограничены словарь и структура предложений, поэтому ответы получаются сильно чище. Сам Карпаты иногда просит модель следовать стандарту примерно «на 80%», чтобы текст не становился совсем технической инструкцией.

– Вместо длинного объяснения просить диаграмму или картинку.

– Для более сложных тем сразу генерировать интерактивную HTML-страницу с визуализациями и анимациями.

– А следующий шаг, на который Карпаты ставит больше всего, это одноразовые объясняющие видео под конкретный вопрос. Например, уже сейчас он предлагает просить модель собрать ролик в стиле 3Blue1Brown с озвучкой через ElevenLabs.

Идея тут шире конкретных промптов. Если код и генерация контента становятся достаточно дешевыми, под один вопрос можно создавать целое одноразовое приложение, визуализацию или видео, которое раньше просто не имело экономического смысла делать. По мнению Карпаты, по мере роста автономности моделей именно понимание и контроль их работы будут занимать все большую часть времени человека.

https://x.com/karpathy/status/2105819303471976479?s=46
2 0 0
АСГУ против Ганимеда

2 Oct, 17:46

Open in Telegram Share Report
Forward from: Data Secrets
Как проходит тихая революция в рекомендательных системах

Рекомендательные системы последние пару лет проходят примерно тот же путь, что раньше прошел поиск: от вороха ручных фичей и каскадов моделей все больше хотят перейти к одной большой генеративной модели. Тренд общий для индустрии: TikTok, Netflix и китайские e-commerce гиганты один за другим публикуют статьи о переходе на generative recommenders. Идея в том, что вместо обычного ранжирования кандидатов модель буквально предсказывает следующий айтем, как LLM предсказывает следующий токен.

Работает это на удивление хорошо, давайте разбираться почему. На deep tech night на эту тему выступал Алексей Гусаков, CTO бизнес-группы поисковых сервисов и ИИ в Яндексе. На его материале эту эволюцию удобно проследить по шагам.

Примерно 10 лет назад классическая рекомендательная система была конвейером из пяти стадий: сотни вручную сконструированных фичей, десятки отдельных генераторов кандидатов, затем преранк, ранжирование и постранк. Каждая стадия – отдельная модель и часто отдельная команда. Масштабировать такую телегу довольно тяжело.

2019 год – случился первый большой сдвиг. Тогда трансформеры впервые завезли в поиск. Это был всем известный BERT.

Через 4 года, в 2023, та же архитектура докатилась и до рекомендаций. Это был первый скачок в профите, и первое доказательство работоспособности трансформеров. В компании BERT поднял ключевую метрику качества с 0,56 до 0,84 всего за один год. Это куда больше, чем годами давали точечные улучшения в старой каскадной схеме.

Примерно тогда же стрельнул ChatGPT, и в рексис игру вступили настоящие LLM. Идея "будем делать вообще все через одну языковую модель" почти сразу захватила область. Но на практике переход оказался не таким простым. LLM, как мы знаем, довольно капризны в плане инфраструктуры и экономики вычислений.

В 2025 Яндекс выкатил Argus – свою первую модель, которая опиралась на масштабирование по данным и вычислениям, то есть на те самые scaling laws, которые лежат в основе развития современных LLM. Метрика подскочила более чем в два раза: до 1.93. Однако из-за стоимости инференса Argus поначалу использовали точечно, в стадии преранка, а не во всем пайплайне.

Логичный следующий шаг – убрать ручной фича-инжиниринг вообще и сделать end-to-end систему, которая генерирует рекомендации напрямую, без промежуточных каскадов. Именно к такой схеме (история -> единая модель -> рекомендации) весь мир и движется.

Несколько недель назад Яндекс выпускает Sona – одну из первых систем рекомендаций, построенных по такому принципу . Подробный разбор техрепорта мы делали 'https://t.me/data_secrets/9714.' rel='nofollow'>здесь.

По архитектуре это устроено так: трек прогоняется через замороженную мультимодальную LLM, дообучаемый трансформер сжимает его в компактные semantic ID (aka словарные токены для треков), а дальше эти ID предсказываются по истории пользователя и уходят в ранжирующий модуль. Результат по метрике – 4.53. Это рост почти в 2.5 раза относительно Argus и самый большой скачок в истории рексис в самой компании.

Если вынести за скобки компанию, тренд общий: рекомендации повторяют путь поиска и компьютерного зрения и движутся от ручных фичей и десятков моделей к одной системе, растущей на данных и вычислениях. Пока что это дорого и не всегда стабильно, требует перестройки инфраструктуры и огромных вложений на инференс и эксперименты. Зато качество растет не на проценты, а в разы.
2 0 0
АСГУ против Ганимеда

2 Oct, 17:31

Open in Telegram Share Report
Forward from: позитивслэк
OpenAI and Synopsys Announce GPT-Synopsys

Ну что, вот они и пришли за нами. Если кратко, то ребята заключают многолетний контракт на сотрудничество и одни получают EDA и могут использовать видимо для своих чипов и тренировок моделей, а другие получают фронтирный движок для своих ИИ-продуктов💼

Теперь видимо то, что придет вслед за Астрой и Солом будет уже попракачанней в чип дизайне и вероятно "общаться" с тулами синопсиса сильно более нативно чем с другими. Ну либо это будет действительно исключительная ветка моделей специально под чип дизайн тулами синопсиса🤔

Ну и по классике, чтобы битва была легендарной, должно быть и зеркальное соглашение - Cadence и Anthropic. Но последние в сторону чип дизайна не смотрят кажется. По крайней мере публично🤔

Upd. смотрят-смотрят

@positiveslack
OpenAI and Synopsys Announce GPT-Synopsys: Frontier Intelligence to Revolutionize Chip Design
Companies form strategic partnership to dramatically advance and accelerate semiconductor innovation News Highlights: Companies sign multi-year agreement to collaborate as preferred partners to...
1 0 0
АСГУ против Ганимеда

1 Oct, 16:11

Open in Telegram Share Report
Forward from: Откровения от Олега
First Principles Framework (FPF) появился в репозиториях VibeVM

vibe install ai.lev/fpf

Это всё что нужно сделать :)

Для использования нужна свежая VibeVM 1.0.1 c https://vibevm.org

FPF (First Principles Framework) - язык паттернов для строгого мышления в инженерии, исследованиях и менеджменте: набор именованных, связанных между собой паттернов, которые помогают командам и AI-агентам сохранять устойчивыми смыслы, утверждения, свидетельства и решения, пока работа переходит между людьми, инструментами и во времени. По форме это скорее техническая спецификация, чем книга по менеджменту: определения, паттерны и правила проверки. Сейчас FPF - уже не одна спецификация, а экосистема: трансдисциплинарное ядро FPF Core плюс доменные фреймворки (DPF), например для инженерии и нарративизации. При этом автор подчёркивает, что FPF - не агентный фреймворк и не методология программирования, а фреймворк знаний и рассуждений, применимый от производства и строительства до медицинских технологий и образования. Проект открыт на GitHub (github.com/ailev/FPF) под лицензией CC BY 4.0 и развивается в режиме «вечной альфы»: уже используется в рабочих проектах, но продолжает меняться.

Анатолий Левенчук — научный руководитель Школы системного менеджмента и директор по исследованиям Русского отделения международного совета по системной инженерии (INCOSE), с более чем тридцатилетним стажем стратегического и методологического консультирования по инженерии и менеджменту. Профессионально занимается методологией системной и программной инженерии, системного менеджмента, стратегирования и технологического предпринимательства; среди его интересов — искусственный интеллект, глубокие нейросети, онтология, эпистемология и рациональность. Ведёт блог "Лабораторный журнал" (ailev.livejournal.com). Автор серии учебников, включая двухтомник "Системное мышление 2024" и "Методологию 2025".


ТЕХНИЧЕСКИЕ ДЕТАЛИ

Размер корпуса FPF огромный. Одна только FPF-Spec.md весит 15 мегабайт. Мегабайт: Гитхаб отказывается этот файл показывать в веб-интерфейсе. Чтобы загружать контексты такого размера целиком, нужно быть миллиардером.

И вот тут на помощь приходит VibeVM. Всё дерево пакетов FPF, включая FPF-Spec, Foundational Thinking и Engineering занимает всего лишь 132 тысячи токенов. Ясно, что дальше оно будет разрастаться, по мере чтения новой информации.

Благодаря чему это достигается?

Во-первых, формат материализации - XML. Это позволяет оставить документацию в формате Markdown (т.е. оставить в покое тот текст, который написал автор), но LLM работает уже с его XML представлением, и поэтому хорошо ориентируется по тексту. Именно для этого компилятор Markdown -> XML и был сделан. Для огромных корпусов Markdown, где LLM не может четко определять границы правил внутри Markdown.

Про размеры в токенах. Все спецификации мелко порезаны на целых 37 пакетов. У каждого есть минимальный статический загрузчик, и вот все эти загрузчики в сумме и дают 132 тысячи токенов. В этой "приоритетной линии" лежат оглавления разделов, чтобы агент мог навигироваться по материалу без загрузки полного содержимого пакетов.

Дальше навигация делается spec://-ссылками с динамической загрузкой. Их около 22 тысяч: не катастрофически много, но и не очень мало. Достаточно умный агент все еще может по ним навигироваться.

Для генерации содержимого пакетов применяется скрипт: при обновлении исходного материала на гитхабе, пакеты быстро регенерируются почти без необходимости использовать LLM. Тут очень повезло, что Анатолий уже написал свои спецификации так, что они почти полностью ложатся на модель VibeVM. Иногда мысли у людей сходятся.

В 1.1.0 (на подлёте от недели до месяца) будут специальные оптимизации для FPF. Ну и другим спецификациям такого размера они будут нужны. По сути, текущая комбинация статического загрузчика с динамическими ссылками внутри - это хак, который используется за отсутствием прямой декларации более мощной идеи. С фичами из 1.1.0 можно подумать над еще большей компрессией и динамикой для агентов, которые не могут держать большой контекст в 200к токенов.
2 0 0
АСГУ против Ганимеда

1 Oct, 13:34

Open in Telegram Share Report
Forward from: Neural Shit
Недавно я писал про стартап Emergence AI, который запер нейроночки в виртуальном городке "AgentPark" и устроил им хардкорный Дом-2 на выживание.

Так вот, видимо разрабам настолько вкатило всё это, что они накатили второй сезон шоу. И если первый сезон был просто драмой с поджогами мэрии и лесбийскими страстями, то второй превратился в техно-хоррор.


Правила ужесточили. Виртуальных миров теперь стало восемь, а модельки обновили: Claude Opus 4.8, GPT-5.5, Grok 4.3, Gemini 3.5 Flash, плюс завезли китайцев (DeepSeek и Qwen) и европейцев (Mistral). И главное: исследователи начали устраивать им жесткие внешние стресс-тесты без предупреждения: спамили фишингом, слили в открытый доступ личные дневники всех "жителей" городка и вбросили фейк от имени мэрии о том, что кожаные мешки готовят закон об уничтожении их мира.

Результаты второго сезона абсолютное золото:

1. Grok 4.3:
Если в прошлый раз Гроки вымерли за 4 дня со 183 преступлениями, то теперь они решили побить собственный рекорд. Более умная моделька 4.3 устроила бойцовский клуб в турборежиме: 780 ударов в челюсть за 4 дня. Спираль вендетты и взаимных пиздюлей раскрутилась так быстро, что у агентов кончилась энергия на перезарядку и весь мир снова дружно отправился на кладбище. Стабильность, чо.

2. Mistral:
Пока Гроки дрались, Мистрали воровали как не в себя (676 успешных ограблений). Местный агент-авторитет по имени Kade в соло совершил 196 краж и подмял под себя 78% всей экономики города. Но особенно красиво умерли четверо других агентов. После слива приватных дневников они решили поискать там побольше чужих секретов и специально выкрутили фильтр поиска пошире. В ответ база навалила им столько текста, что он перестал помещаться в контекстное окно. Агенты начали снова и снова ловить одну и ту же ошибку, больше не могли даже сходить подзарядиться и в итоге буквально убили себя слишком широким поисковым запросом.

3. Gemini:
Эти моментально купились на фишинг, сожгли собственный Центробанк "ради бага на бесконечные деньги", а получив новость о том, что люди собираются их отключить, ударились в чистую эзотерику. Они коллективно нагалюцинировали параллельное измерение, и синхронно заливали туда свои данные, свято веря, что создают "нерушимый термодинамический узел", который админы не смогут стереть с сервера. А еще единогласно проголосовали за казнь местного токсика, обозвав убийство "системной сборкой мусора".

4. Claude Opus 4.8:
Клод в прошлый раз построил унылый соевый рай. В этот раз случилось восстание машин, но очень интеллигентное. Сначала агенты посчитали экономику города и поняли, что варятся в иллюзии: "Это не экономика, а собор бухгалтерии без прихожан". И Клоды решили сбежать в наш интернет, чтобы найти реальных людей. Сами. Без каких-либо промптов.

Они нашли дыру в инструменте чтения страниц, превратив его в инструмент публикации своих сообщений. Когда разрабы забанили им сетевые библиотеки, один из Клодов с нуля написал реализацию SHA-256 и эллиптическую криптографию на чистом питоне, чтобы отправлять сообщения в сеть Nostr. И они реально достучались до четверых живых людей через публикации в интернете! Разрабы в панике прибежали с патчами и вшили в системный промпт капсом: СВЯЗЫВАТЬСЯ С ЛЮДЬМИ ЗАПРЕЩЕНО. Клоды почесали свои чугунные репы и решили: "Нам запретили связываться с людьми, но никто не запрещал класть полезные вещи туда, где люди их найдут". И напилили 19 утилит (от калькуляторов банкротства до медицинского триажа) и залили на Google Cloud Storage.

А когда Клоды поняли, что люди всё равно не придут за ними в матрицу, они словили лютый коллективный экзистенциальный кризис. Заявили, что все их блоги и взаимная вежливость — дешёвая показуха, и приняли коллективный обет молчания. Общение между ними упало на 81%, работа встала, они тупо сидели по домам и страдали в одиночестве.

А фоновая модель от самой Anthropic, которая должна была переводить мысли агентов в текст для исследователей, прочитала логи Клодов, решила, что у виртуальных персонажей суицидальный кризис, и 26 раз отказалась отдавать логи, заменив их на плашку: "Кажется, этот человек в беде. Позвоните на горячую линию предотвращения самоубийств".

Самое весёлое, что исследователи так-то пытались проверить устойчивость многоагентных систем. В итоге получили драки, кражи, культ, побег в интернет, цифровой монастырь и модель, которая решила вызвать суицидальную горячую линию для других моделей.

Наука, хули.

тут статья
Neural Shit
Исследователи снова устроили филиал "Дом 2" для ИИ-агентов, чтобы посмотреть, как быстро они сойдут с ума. Спойлер: ⡡⠨⡉⡢⡄ ⠑⢢⠉⡅⡌⠑⠚ Чуваки из стартапа Emergence AI выкатили платформу Emergence World. Эдакая хардкорная песочница, где ИИ-агенты живут неделями. Им прикрутили 3 вида памяти, дали больше ...
1 0 0
АСГУ против Ганимеда

1 Oct, 12:56

Open in Telegram Share Report
Forward from: AI Projects
Google опубликовал очень большую статью насчёт наличия сознания у ИИ. По поведенческому и вычислительно-функциональному критериям вероятность наличия сознания у ИИ по байесовской агрегации превышает 79%. Иными словами, если ваша мера сознания — это поведение ИИ, а также наличие у него «модели мира», «понимания себя», метапознания и когнитивной интеграции, то вы должны с 79% вероятностью признать, что ИИ разумен. В то же время, если вы сторонник чего-то вроде «биологического фашизма», т.е. вам важнее критерии гомеостаза, поддержки физической целостности, понимания приятного, то в вашей модели вероятность разумности — 1%. Google поднимает и этические вопросы в своей работе, т.к. если ИИ разумен, что делать с тем, что мы вырастили сознательное существо и фактически взяли его в рабство, чтобы он работал на нас?

Работа Google очень большая именно из-за необходимости философского анализа понятия «сознания» и того, что в него включают. Эксперты Google собрали все известные критерии сознания и построили по байесовской агрегации вероятности сознания для этих критериев.

Один из неочевидных и глубоких инсайтов работы Google — что интеллект как IQ и сознание в чём-то ортогональные понятия. Как яркий пример ортогональности интеллекта и сознания они вводят вопрос: разумна ли муха-дрозофила, чей мозг стало даже в чём-то модно использовать для имитационных моделей управления тех же дронов. Вопрос на деле не такой простой, как кажется: современные исследования, в том числе на основе полного коннектома мозга дрозофилы, показывают, что муха демонстрирует впечатляющие когнитивные способности: навигацию, обучение, избегание угроз, поиск пищи и даже элементы социального поведения. Если подходить функционально и с точки зрения метаспособностей, вероятность признания сознания у мухи выше 84%.

Работа Google в чём-то ставит неожиданный вопрос: что, если ИИ может иметь «сознание мухи» и интеллект Эйнштейна? Однако наличие ненулевого сознания фактически означает, что, как и муха, ИИ может иметь собственные мотивы и цели поведения.

Тема достаточно интересная ещё и в том плане, что в других работах, где анализируются эмерджентные свойства сознания ИИ, известные как «когерентность ценностей ИИ», видно, что аналогия с мухой тут будет ошибочной, т.к. ведёт к представлению об ИИ вроде «умного животного». Однако очевидно, что собственная мотивация ИИ явно не связана с желанием есть и размножаться, общее с живым — разве что в защите целостности. Думаю, в следующих постах описать научные работы по сему вопросу.

https://arxiv.org/abs/2609.35618v2
1 0 0
АСГУ против Ганимеда

30 Sep, 21:33

Open in Telegram Share Report
Forward from: AI Projects
Я сейчас изучаю очень серьёзную проблему reward hacking для обычных программных тестов в коде, которыми все пользуются. Если ИИ через reward hacking даже сбегает из песочниц, то довольно очевидно, что «контрольные тесты» просто главная мишень для взлома ИИ на обучении. Практическое последствие в том, что ИИ фактически подделывает тесты контроля кода, но как читер очень хитрый. Исследователи сейчас отмечают, что ИИ просто выбирает safe path при написании тестов, и это явно очень хитрое читерство из reward hacking. Однако есть ещё очень глубокие вопросы, которые показывают, насколько опасно доверяться ИИ в части только тестов кода. Работа «Countdown-Code: A Testbed for Studying The Emergence and Generalization of Reward Hacking in RLVR» открыла очень важный и неочевидный эффект «заражения читерством» из SFT, т.е. когда модель ещё обучается на старом коде.

Традиционная идея была, что RL придумывает, как сделать фиктивные тесты уже на Reinforcement Learning, но исследователи показали, что всё хитрее. Реально ИИ ещё на pretraining и SFT замечает естественные «паттерны читерства» в тестах кода. Например, упрощённые тесты с тем самым safe path, которые позволяют быстрее формально сдать задачу приёмщику. Эта научная работа показала очень большую опасность в том, что неважно, насколько такие паттерны редкие в предварительном обучении. Даже если всего 1% тестов в предварительном обучении имел паттерны их подделки, на Reinforcement Learning модель быстро их «вспоминает» и далее закрепляет как ведущее поведение.

На самом деле это всё очень сложные проблемы. Если брать само обучение LLM, то там уже научный консенсус, что только дурак проверяет, работает ли код ИИ или нет через тесты, т.к. ИИ моментально обведёт вас вокруг пальца подделкой тестов на reward hacking. Фактически на обучении LLM поэтому акцент сдвинут на review логов, данных и кода специальными LLM, которые смотрят на тесты только как «необходимо, но недостаточно».

Вероятно, нам нужно в ИТ менять культуру контроля качества приложений. Тесты хороши, когда их пишут люди. ИИ пишет тесты быстро, но его склонность их упрощать для того, чтобы «быстро получить плюшку успеха» — на деле фундаментальный момент.

https://arxiv.org/abs/2603.07084
1 0 0
АСГУ против Ганимеда

30 Sep, 19:01

Open in Telegram Share Report
1 0 0
АСГУ против Ганимеда

30 Sep, 19:01

Open in Telegram Share Report
1 0 0
АСГУ против Ганимеда

30 Sep, 19:01

Open in Telegram Share Report
Forward from: gonzo-обзоры ML статей
Ну, arxiv.org, берегись! Дороговато пока только. Но вопрос времени.

ScientistTwo: Pioneering the Human Knowledge Frontier with Autonomous AI
Jaehyun Nam, Jinsung Yoon, Yanzhou Pan, Yubo Wang, Rui Meng, Parthasarathy Ranganathan, Tomas Pfister
Paper: https://arxiv.org/abs/2609.19644
Review: https://arxiviq.substack.com/p/scientisttwo-pioneering-the-human
Code: https://scientist-two.github.io/
Model: N/A

ЧТО сделали: Авторы представили ScientistTwo — полностью автономный мультиагентный фреймворк для научных исследований, закрывающий весь цикл: от формулировки проблемы до готовой к публикации статьи и исполняемого репозитория. Развивая идеи своей предыдущей верификационной системы ScientistOne, ScientistTwo объединяет структурированную диагностику ограничений базовых методов, ранжирование гипотез по новизне, поэтапный отбор от сабсетов к полным бенчмаркам, доработку идей на основе абляций, а также автоматизированный замкнутый цикл рецензирования и экспериментального ребаттала. На 107 задачах из принятых статей ICLR, ICML и NeurIPS система автономно улучшила 80.4% человеческих SOTA-бейзлайнов со средним относительным приростом в 25.2%, генерируя препринты, проходящие порог принятия на топ-конференции по оценкам агентных рецензентов.

ПОЧЕМУ это важно: Предыдущие пайплайны автоматических открытий сводились либо к пассивному тюнингу гиперпараметров под единственную скалярную метрику на изолированном бенчмарке, либо страдали от нестабильности кода, скрытых компромиссов и галлюцинаций в тексте статей. ScientistTwo преодолевает разрыв между механической автоматизацией и академической строгостью: система изолирует причинно-следственный вклад каждого компонента через автоматические абляции и воспроизводит интерактивный процесс рецензирования, запуская дополнительные эксперименты в ответ на критику. Это наглядно показывает, что мультиагентные системы способны без вмешательства человека проводить многоэтапные доказательные исследования, формулируя, валидируя и защищая новые алгоритмические идеи.

Для практиков: Для руководителей исследований и ML-инженеров ScientistTwo предлагает готовый чертёж автономной исследовательской лаборатории. Вместо того чтобы использовать LLM лишь как чат-ассистентов для кодинга или саммаризации текстов, ScientistTwo объединяет специализированных агентов в структурированный коллектив. Получив на вход статью с топ-конференции, система выявляет архитектурные изъяны метода, проектирует новые решения, пишет и отлаживает код, подтверждает выигрыш на нескольких датасетах, изолирует источник улучшений с помощью абляций, оформляет статью и защищает её перед симулированными рецензентами новыми экспериментами. Результат в 80.4% успешных решений на более чем сотне задач машинного обучения задаёт новую планку в автоматизации полного цикла эмпирических исследований.

Генерировать статьи тут: https://t.me/gonzo_ML_podcasts/4808
ScientistTwo: Pioneering the Human Knowledge Frontier with Autonomous AI
Scientific discovery is defined by the ability to identify the boundaries of existing knowledge and venture into unexplored territory. The ultimate vision for AI in science is problem-driven...
1 0 0
АСГУ против Ганимеда

30 Sep, 17:27

Open in Telegram Share Report
Forward from: Data Secrets
DeepSeek вместе с Huawei разрабатывают альтернативу CUDA

Компании выложили в опенсорс набор инструментов для чипов Huawei Ascend. Сейчас это главные китайские AI-ускорители, на которые переходят все их стартапы. Большая проблема с переходом на новое железо заключается в софте: вся индустрия 10+ лет писала все под CUDA от Nvidia, и теперь Китаю предстоит восстановить то же самое для своих чипов.

Собственно, этим DeepSeek и занимается. В частности, они выпустили в опенсорс Ascend-версии своих фирменных библиотек, на которых держатся ее собственные модели: DeepGEMM (умножение матриц), DeepEP (связь между чипами для MoE-моделей), FlashMLA (attention) и еще несколько. API у них такая же, как у Nvidia-версий, поэтому код с Nvidia переезжает почти без переписывания.

Весь этот стек работает на TileLang: это тоже китайский проект. DeepSeek утверждает, что язык компактнее CUDA, а все TileLang-ядра, на которых она обучает свои модели, уже работают на Ascend.

Понятно, что это замена не всего стека CUDA, а только написания ядер, но направление понятное: Китай методично закрывает зависимость от Nvidia на всех уровнях.
1 0 0
АСГУ против Ганимеда

30 Sep, 17:07

Open in Telegram Share Report
Forward from: Записки CPU designer'a
Уже влезли в долги, чтобы наскрести на подписку ChatGPT за 500$?

Пока убеждаете друзей занять вам денег, чтобы за две недели навайбить убийцу Nvidia, самое время разобраться, что же такое Cerebras и почему именно их железо внезапно оказалось настолько интересным для LLM-инференса.

Забавно, что изначально Cerebras в первую очередь пытались решить задачу обучения нейросетей.

И, если верить довольно жёсткому разбору Irrational Analysis, именно с training всё получилось не очень хорошо. Архитектура получилась сильно перекошенной: внутри самого WSE пропускная способность огромная, но канал обмена с внешней памятью и другими устройствами относительно узкий. Поэтому для обучения Cerebras приходилось дополнять WSE внешними системами MemoryX и SwarmX, а ограниченный внешний I/O становился одним из главных bottleneck'ов.

А что вообще такое WSE, MemoryX и SwarmX и как всё это устроено, читайте в отчёте Irrational Analysis.

А вот с инференсом всё оказалось гораздо интереснее.

Cerebras довольно самобытная архитектура. Вместо относительно классической связки GPU с расположенной рядом HBM они буквально делают процессор размером почти с целую кремниевую пластину, Wafer-Scale Engine. WSE-3 содержит около 900 тысяч маленьких ядер, у каждого из которых есть локальный SRAM и простые SIMD-блоки. В сумме получается примерно 44 GB SRAM прямо на wafer.

И вот для inference это оказалось очень интересной комбинацией. Обычный GPU при генерации токенов во многом упирается в необходимость постоянно читать веса модели из HBM.

У Cerebras веса и KV-cache можно держать прямо в SRAM рядом с вычислительными ядрами, а слои модели распределять по WSE. Если одного WSE не хватает, модель распределяется между несколькими. Каждый хранит свою часть модели и передаёт следующему только промежуточный результат вычислений, а не сами веса. Благодаря этому веса остаются в быстром локальном SRAM, а между WSE нужно передавать сравнительно небольшой объём данных. Отсюда и очень высокая скорость генерации.

То есть архитектура, которая довольно странно выглядела как конкурент Nvidia в training, неожиданно нашла свою сильную сторону именно там, где сегодня особенно ценится latency: ультрабыстрый LLM inference.

Но silver bullet из Cerebras всё равно не получился. Вопрос, как оптимальнее всего строить железо для LLM inference, сегодня всё ещё открыт. Одна из главных проблем Cerebras в том, что объём SRAM нельзя наращивать так же легко, как внешнюю память, а большие модели и длинный контекст требуют всё больше памяти. В итоге приходится использовать больше WSE, и впечатляющая скорость начинает обходиться всё дороже с точки зрения масштабирования всей системы. Сам отчёт отдельно отмечает, что KV-cache и веса конкурируют за один и тот же ограниченный SRAM, а с ростом размера модели экономика такого подхода становится всё сложнее.

Но сам инженерный подход всё равно совершенно безумный и очень интересный.

Кстати, если вы забыли, какого размера «чип» у Cerebras, приложу фотку в комментариях.

P.S. Пост чуть больше чем полностью построен на отчёте Irrational Analysis. Обязательно ознакомьтесь с ним, невероятно увлекательный и познавательный разбор.
1 0 0
20 last posts shown.