TGStat
TGStat
Введите текст для поиска
Расширенный поиск каналов
  • Язык сайта
    flag Russian flag English flag Uzbek
  • Вход на сайт
  • Каталог
    Каталог каналов и чатов Поиск каналов
    Добавить канал/чат
  • Рейтинги
    Рейтинг каналов Рейтинг чатов Рейтинг публикаций
    Рейтинги брендов и персон
  • Аналитика
  • Поиск по публикациям
  • Мониторинг Telegram
Ai First

3 Oct, 16:00

Открыть в Telegram Поделиться Пожаловаться

Это была не кража данных с серверов, а попытка заставить одну модель самой выдать секрет другой. Именно в этом главный смысл атаки на скрытые цепочки рассуждений OpenAI — CoT. Операторы не взламывали шифрование и не получали доступ к сохранённым диалогам: они копировали зашифрованные рассуждения из одного чата и просили модель в другом расшифровать и переписать их.

По данным OpenAI, в кампании участвовали около 4 тысяч аккаунтов, отправивших 16 тысяч запросов. Ключевой кластер активности компания связала с Moonshot AI, но та пока обвинения не комментировала. Иными словами, модель пытались превратить в переводчик собственного закрытого внутреннего формата — не искать уязвимость в хранилище, а обходить защиту через поведение самой системы.

OpenAI сообщила, что закрыла этот путь, добавила проверки потоковой выдачи, заблокировала аккаунты и передала наблюдения в Frontier Model Forum. Для пользователей практический вывод простой: скрытые рассуждения — это не обычный текст, который можно безопасно «попросить пересказать», а отдельный защищаемый слой модели. 🔐
Machinelearning
✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных записей, всего было ...

4 0 0
Каталог
Каталог каналов и чатов Подборки каналов Поиск каналов Добавить канал/чат
Рейтинги
Рейтинг каналов Telegram Рейтинг чатов Telegram Рейтинг публикаций Рейтинги брендов и персон
API
API статистики API поиска публикаций API Callback
Наши каналы
@TGStat @TGStat_Chat @telepulse @TGStatAPI
Почитать
Академия TGStat Исследование Telegram 2019 Исследование Telegram 2021 Исследование Telegram 2023
Контакты
Справочный центр Поддержка Почта Вакансии
Всякая всячина
Пользовательское соглашение Политика конфиденциальности Публичная оферта
Наши боты
@TGStat_Bot @SearcheeBot @TGAlertsBot @tg_analytics_bot @TGStatChatBot