Не знаете как можно прокачаться во взломе ИИ ? Чтож
Сперва, я хочу рассказать вам о проекте:
DamnVulnerableLLM - это уязвимое приложение с интегрированной LLM. Взломав его, вы освоите уязвимости из OWASP TOP 10 LLM. Естественно, там есть и райтапы.
Вы хотите разобраться с Prompt Injection ?
Gandalf позволит вам это сделать прямо в браузере. Кстати, разработчики Gandalf в этом году организовывали CTF в AI Villiage на Defcon31.
2 года назад был доступен сервис - BRA.I.NSMASHER. Он предоставлял также возможность изучения атак на ИИ. Что-то типо хакзебокса... Жаль он закрыт, однако,вы можете ознакомиться с райтапами
челленджей, которые были на данной платформе.
А проект
adversarial_ml_ctf - даст вам возможность изучить эксплуатацию Adversarial атак при помощи изображений. Приложение представляет из себя веб-сайт с биометрической аутентификацией через веб-камеру. Ваша задача изменить изображение, передаваемой через вебку, чтобы атаковать сайт и получить флаг.