R_POST

Прислали фотки из парка 50-летия Октября в Мск. Кибермилота!

Shuttle 3 Diffusion

Свежак от shuttle.ai (у них еще есть чатботы на сайте)
Shuttle 3 Diffusion может создавать изображения "лучше, чем Flux Dev", всего за четыре шага, при этом лицензируется под Apache 2

Есть API
Дружит c #ComfyUI
Сразу есть bfloat16 / GGUF / fp8

В демо он еще и быстрый как саморазборка ракеты Илона Маска в верхних слоях атмосферы

Демо - дают 10 генераций на 6 часов. На выходе разрешение 1К. Есть кнопка скачать которая выдает ошибку, так что забираем WEBP из браузера

#text2image

Белое хакерство в LLM – новое исследование от Anthropic

Jailbreak Rapid Response: так называется свежая статья от самых больших любителей поковыряться под капотом моделей. На этот раз они предлагают подход к обнаружению и блокировке новых методов джейлбрейка, то есть "взлома" моделей. Взлом тут – это попытки с помощью каких-то хитрых промптов заставить модель выдать неэтичную информацию, которую ей выдавать запрещено (рецепт коктейля Молотова, например).

Метод у них забавный: они показывают LLM один из вариантов джейлбрейка и просят ее генерировать больше таких примеров. Потом просят генерировать больше примеров, основываясь на том, что она сгенерировала раньше, и так далее. Таким образом у нас растет огромный синтетический датасет, на котором можно обучить что-то врожде классификатора.

В качестве "классификатора" ученые тестировали Regex, Guard Fine-tuning, Embedding, Guard Few-shot и Defense Prompt. Лучше всего себя показал Guard Fine-tuning – самый ванильный вариант, при котором мы просто дообучаем модель на экземлярах положительного и отрицательного класса.

Результаты в итоге получились даже лучше, чем у методов статической защиты, которые сегодня обычно используются в продакшене. Guard Fine-tuning отлавливает в 240 раз (!!!) больше атак на "похожих" на датасет примерах и в 15 раз больше джейлбрейков на не представленных в трейне вообще.

Статья полностью тут, а еще к ней есть открытый репозиторий с кодом, можно поэкспериментировать.

Наши предыдущие посты-разборы интересных работ Anthropic про alignment и интерпретируемость в LLM:

– Та самая статья про Golden Gate
– Продолжене этой статьи, в которой рассказывается про управление мыслями LLM
– Про то, как модели читерят во время обучения
– Про математические фракталы в картах гиперпараметров
– Что мешает нам понимать черный ящик нейросетей

Похоже, у Amazon большие планы: они ставят все на разработку собственного железа и в следующем месяце планируют выпустить чип Trainium 2

Компания вкладывает в это 75 миллиардов долларов, и это не включая 110 миллионов на Build on Trainium – новую программу грантов на ИИ-исследования. Вероятно, победителям Amazon тоже будут «нативно» предлагать свои облачные серверы.

Microsoft выпустила TinyTroupe

Это экспериментальная библиотека Python, которая позволяет моделировать людей с определенными личностями, интересами и целями. Агенты могут слушать, отвечать на запросы и жить своей жизнью в симулированной среде TinyWorld.

Это может помочь в тестировании ПО, генерации реалистичных синтетических данных, оценке рекламы, а также в имитации фокус-групп.

GitHub по ссылке. 😂

@xor_journal

comfyai.run

#ComfyUI в облаке. И не просто в облаке, а конвертирует ваш воркфлоу в веб-приложение и хостит его. Похоже, есть бесплатный тариф??? На входе выдали 3090 24GB

Короче если умеете в комфи и хотели бахнуть онлайн сервис, теперь можно не париться с технической частью. Хотя комфи и не париться - о чем это я?

#online #tools