Privacy Enhancing

Описание и кейсы конфиденциального ИИ. https://phala.com/learn/What-Is-Confidential-AI

Технологии предотвращают утечку ваших данных через чат-ботов Полностью гомоморфное шифрование позволяет LLM отвечать на зашифрованные запросы

Ваш чат-бот может быть уязвимым. Согласно недавним сообщениям , разговоры пользователей с ИИ- чат-ботами , такими как ChatGPT от OpenAI и Grok от xAI, «были обнаружены в результатах поисковой выдачи ». Аналогичным образом, запросы в приложении Meta AI могут появляться в общедоступной ленте . Но что, если эти запросы и чаты можно защитить, тем самым повысив конфиденциальность?

Именно этого компания Duality , специализирующаяся на технологиях повышения конфиденциальности, надеется достичь с помощью своей частной платформы вывода на основе большой языковой модели (LLM). В основе платформы лежит технология, называемая полностью гомоморфным шифрованием., или FHE, криптографический метод, позволяющий выполнять вычисления на основе зашифрованных данных без необходимости их расшифровки.

Фреймворк Duality сначала шифрует запрос или запрос пользователя с помощью FHE, а затем отправляет зашифрованный запрос в LLM. LLM обрабатывает запрос без расшифровки, генерирует зашифрованный ответ и отправляет его обратно пользователю.

https://spectrum.ieee.org/homomorphic-encryption-llm

Swift Представляет План Коллективной Защиты от Мошенничества на Базе ИИ, Удваивая Эффективность Обнаружения

---

Swift, в сотрудничестве с 13 международными банками, успешно провел эксперименты, демонстрирующие основу для коллективной защиты от мошенничества в трансграничных платежах с помощью искусственного интеллекта (ИИ) и технологий, повышающих конфиденциальность (PETs).

Ключевые Результаты Испытаний

* Удвоенная Эффективность: В ходе испытаний с участием десяти миллионов искусственных транзакций, коллективная модель ИИ оказалась в два раза эффективнее в обнаружении мошенничества в реальном времени, чем модели, обученные на данных только одной финансовой организации.
* Безопасное Сотрудничество: Были использованы PETs и федеративное обучение – метод ИИ, который обучает модели локально в каждом банке без прямого обмена конфиденциальными данными клиентов. Это позволило безопасно обмениваться информацией о мошенничестве, сохраняя при этом полную конфиденциальность и безопасность.
* Сценарии Использования: Пилотный проект успешно протестировал два основных направления:
1. Использование PETs для оперативной верификации информации о подозрительных счетах в разных странах.
2. Сочетание PETs с федеративным обучением для улучшенного обнаружения аномальной активности.

По словам Рэйчел Леви, главы отдела ИИ в Swift, коллективная защита, основанная на этих технологиях, может значительно ускорить выявление международных сетей финансовой преступности и сократить ежегодные убытки отрасли, которые, по оценкам, составили 485 миллиардов долларов США в 2023 году.

Дальнейшие Планы и Дополнительная Информация

После успеха первого этапа Swift планирует расширить круг участников и запустить вторую фазу тестирования с использованием реальных транзакционных данных. Цель состоит в том, чтобы подтвердить практическое воздействие этих технологий в условиях реальной борьбы с мошенничеством.

Участники экспериментов: ANZ, BNY, Intesa Sanpaolo, а также технологические партнеры, включая Google Cloud.

Ознакомиться с полными результатами пилотного проекта и техническими инновациями можно во вложенном файле с электронной книгой «Борьба с мошенничеством посредством совместной работы с данными» (*Fighting fraud through data collaboration*).

* Ссылка на оригинальную новость Swift: [Swift-led experiments reveal blueprint for collaborative fraud defence using AI](https://www.swift.com/news-events/news/swift-led-experiments-reveal-blueprint-collaborative-fraud-defence-using-ai)

\#ResponsibleAI \#FraudDetection \#Innovation \#Fintech \#ТрансграничныеПлатежи \#БорьбаСМошенничеством