Съездил в этот четверг на конференцию Yandex Scale.
Все доклады более или менее были нацелены на продажу продуктов Яндекса, которые помогают компаниям внедрять ИИ.
Я думаю, что многие уже слышали об аналоге GitHub — SourceCraft. Помимо этого есть Yandex AI Studio, AI Security Gateway — совместная работа компании SolidLab и Yandex,
YDB — реляционная СУБД от Яндекса.
Естественно, я не успел сходить на все доклады и воркшопы, но доклады, на которых я был, были построены по такому шаблону:
внедрение ии — проблема — решение (в виде продукта от Яндекса).
Некоторые идеи всё равно удалось подцепить и узнать что-то новое для себя, помимо полезного в нынешнее время нетворка с другими айтишниками. Хотя, по правде говоря, в этот раз не был слишком общительным, так как за несколько дней до конференции приболел и не до конца успел «окрепнуть».
Новое:
— Есть OWASP Top 10 специально под LLM; Топ 1 атака — Prompt Injection: примером этого может быть попытка достать секретные данные через запрос в LLM, по типу системного промпта.
— В системах защиты от трафика ботов на сайте используют JS Challenge, не только Captcha. Отправляется небольшой скрипт на клиент, результат выполнения которого затем отправляется на сервер для сверки результата. Если результат сошёлся и уложился в лимитное время, то считается, что это человек.
— Очень-очень большой упор во времена ИИ делается на Security, поэтому Яндекс создали продукт Yandex Security Deck, который с разных сторон решает эту проблему: предотвращает утечку секретов, обнаруживает уязвимости в репозиториях, выявляет лишние права пользователей в системе и т.п. Думаю, можно в своей компании если не подключить такой продукт, так использовать его идеи.
Презентации
Записи докладов
#ai
Все доклады более или менее были нацелены на продажу продуктов Яндекса, которые помогают компаниям внедрять ИИ.
Я думаю, что многие уже слышали об аналоге GitHub — SourceCraft. Помимо этого есть Yandex AI Studio, AI Security Gateway — совместная работа компании SolidLab и Yandex,
YDB — реляционная СУБД от Яндекса.
Естественно, я не успел сходить на все доклады и воркшопы, но доклады, на которых я был, были построены по такому шаблону:
внедрение ии — проблема — решение (в виде продукта от Яндекса).
Некоторые идеи всё равно удалось подцепить и узнать что-то новое для себя, помимо полезного в нынешнее время нетворка с другими айтишниками. Хотя, по правде говоря, в этот раз не был слишком общительным, так как за несколько дней до конференции приболел и не до конца успел «окрепнуть».
Новое:
— Есть OWASP Top 10 специально под LLM; Топ 1 атака — Prompt Injection: примером этого может быть попытка достать секретные данные через запрос в LLM, по типу системного промпта.
— В системах защиты от трафика ботов на сайте используют JS Challenge, не только Captcha. Отправляется небольшой скрипт на клиент, результат выполнения которого затем отправляется на сервер для сверки результата. Если результат сошёлся и уложился в лимитное время, то считается, что это человек.
— Очень-очень большой упор во времена ИИ делается на Security, поэтому Яндекс создали продукт Yandex Security Deck, который с разных сторон решает эту проблему: предотвращает утечку секретов, обнаруживает уязвимости в репозиториях, выявляет лишние права пользователей в системе и т.п. Думаю, можно в своей компании если не подключить такой продукт, так использовать его идеи.
Презентации
Записи докладов
#ai