Главное здесь — не обещание приватности, а возможность её проверить. Google перенёс вычисление градиентов из телефонов в аттестованные серверные TEE — защищённые области, состояние которых можно подтвердить. Но одной аппаратной защиты мало: пользователю всё равно приходится верить, что сервер запускает именно нужный код и соблюдает заявленные ограничения.

Поэтому система связывает техническую защиту с публичным контролем. Политики доступа публикуются в журнале Sigstore Rekor, а бинарные файлы можно воспроизводимо собрать и сравнить с теми, что работают на серверах. Благодаря этому применение центральной дифференциальной приватности можно проверять извне, а не принимать на веру как строчку в пресс-релизе. Подробности Google описывает в материале о системе для Gboard.

Практический результат уже есть: Gboard использует этот подход для предсказания следующего слова на английском и японском языках. Важный сдвиг — приватность превращается из обещания компании в проверяемую процедуру. Пока подтверждена именно такая область применения, и за расширением на другие языки и задачи стоит следить отдельно. 🔐

Источник: Google Research Moves Federated Learning Into TEEs: Gboard Now Trains With Externally Verifiable Differential Privacy