Репост из: Ваня Замесин
Что произошло с Fable / Mythos. Перевод поста David Sacks, AI & Crypto Czar
"Я провёл ряд разговоров с людьми внутри правительства и вне его о текущей ситуации с Anthropic, и вот что, как я полагаю, соответствует действительности:
— Как мы знаем, в начале этой недели Anthropic публично выпустила свои модели класса Mythos под коммерческим названием Fable.
— Fable — это Mythos с ограничителями (guardrails). Но если эти ограничители дают сбой, значит, вы открыли доступ к Mythos и её продвинутым кибервозможностям людям, у которых их быть не должно. (Стоит помнить, что сама Anthropic широко продвигала идею о том, что Mythos является кибероружием и должна регулироваться как таковое. Они просили о государственном регулировании Mythos и отстаивали ограничители на Fable. Если есть уязвимость — большая или малая — устранить её обязанность Anthropic.)
— Весьма авторитетный доверенный партнёр как Anthropic, так и правительства США, который тестировал Fable, заявил о джейлбрейке этих ограничителей. Администрация попросила Дарио устранить джейлбрейк либо снять модель с развёртывания. Дарио отказался.
— В своём блог-посте Anthropic обосновала своё решение тем, что джейлбрейк не является серьёзным. Это не то, что считают доверенный партнёр и правительство США; и подобные преуменьшающие формулировки не соответствуют бренду Anthropic как компании, занимающейся безопасностью ИИ. Трудно понять, как они могут утверждать, что джейлбрейк, дающий работоспособность кибероружия, можно определить как "несерьёзный".
— В прошлом Anthropic всегда заявляла, что безопасность должна быть высшим приоритетом и восприниматься предельно серьёзно. В данном же случае Anthropic поставила продолжение поставки потребительской модели выше безопасности.
— В ответ администрация ввела экспортный контроль. Администрация сделала это неохотно. Она была весьма удивлена тем, что Anthropic не захотела пойти навстречу разумному запросу о безопасности (то есть устранить проблему с джейлбрейком). Реакция Anthropic совершенно расходится с их брендингом и идеологией сообщества безопасных исследований ИИ.
— Сейчас администрация надеется, что Anthropic устранит проблему с безопасностью, экспортный контроль будет снят, и Fable вернётся в общий доступ. Администрация хочет, чтобы всё это произошло как можно скорее. Она, откровенно говоря, сбита с толку тем, что Anthropic не захотела выполнить запросы о безопасности, которые ранее называла своим высшим приоритетом.
— Те, кто пытается дезориентировать и связать это действие с прежними проблемами между Министерством Войны и Anthropic, ошибаются. Администрация ценит технические возможности Anthropic и считает, что этот вопрос, при всей его серьёзности, должен легко разрешиться. Мяч на стороне Anthropic."
"Я провёл ряд разговоров с людьми внутри правительства и вне его о текущей ситуации с Anthropic, и вот что, как я полагаю, соответствует действительности:
— Как мы знаем, в начале этой недели Anthropic публично выпустила свои модели класса Mythos под коммерческим названием Fable.
— Fable — это Mythos с ограничителями (guardrails). Но если эти ограничители дают сбой, значит, вы открыли доступ к Mythos и её продвинутым кибервозможностям людям, у которых их быть не должно. (Стоит помнить, что сама Anthropic широко продвигала идею о том, что Mythos является кибероружием и должна регулироваться как таковое. Они просили о государственном регулировании Mythos и отстаивали ограничители на Fable. Если есть уязвимость — большая или малая — устранить её обязанность Anthropic.)
— Весьма авторитетный доверенный партнёр как Anthropic, так и правительства США, который тестировал Fable, заявил о джейлбрейке этих ограничителей. Администрация попросила Дарио устранить джейлбрейк либо снять модель с развёртывания. Дарио отказался.
— В своём блог-посте Anthropic обосновала своё решение тем, что джейлбрейк не является серьёзным. Это не то, что считают доверенный партнёр и правительство США; и подобные преуменьшающие формулировки не соответствуют бренду Anthropic как компании, занимающейся безопасностью ИИ. Трудно понять, как они могут утверждать, что джейлбрейк, дающий работоспособность кибероружия, можно определить как "несерьёзный".
— В прошлом Anthropic всегда заявляла, что безопасность должна быть высшим приоритетом и восприниматься предельно серьёзно. В данном же случае Anthropic поставила продолжение поставки потребительской модели выше безопасности.
— В ответ администрация ввела экспортный контроль. Администрация сделала это неохотно. Она была весьма удивлена тем, что Anthropic не захотела пойти навстречу разумному запросу о безопасности (то есть устранить проблему с джейлбрейком). Реакция Anthropic совершенно расходится с их брендингом и идеологией сообщества безопасных исследований ИИ.
— Сейчас администрация надеется, что Anthropic устранит проблему с безопасностью, экспортный контроль будет снят, и Fable вернётся в общий доступ. Администрация хочет, чтобы всё это произошло как можно скорее. Она, откровенно говоря, сбита с толку тем, что Anthropic не захотела выполнить запросы о безопасности, которые ранее называла своим высшим приоритетом.
— Те, кто пытается дезориентировать и связать это действие с прежними проблемами между Министерством Войны и Anthropic, ошибаются. Администрация ценит технические возможности Anthropic и считает, что этот вопрос, при всей его серьёзности, должен легко разрешиться. Мяч на стороне Anthropic."