Что такое Федеративное обучение
Распределённое обучение без передачи данных
Федеративное обучение — подход к машинному обучению, при котором модель обучается на распределённых данных без их централизации, сохраняя приватность.
Как это работает
- Локальное обучение — модель обучается на устройствах пользователей
- Агрегация градиентов — только параметры модели передаются на сервер
- Обновление модели — глобальная модель обновляется без доступа к данным
- Федеративное усреднение — FedAvg алгоритм объединения весов
- Дифференциальная приватность — добавление шума для защиты
Преимущества
- Приватность данных — данные не покидают устройство
- Соответствие GDPR — нет передачи персональных данных
- Использование распределённых данных — доступ к большим объёмам
- Уменьшение задержки — локальная обработка
- Снижение нагрузки на сеть — передаются только параметры
Применение
- Клавиатуры смартфонов — обучение предиктивного ввода
- Медицина — анализ данных из разных клиник
- Финансы — совместные модели без раскрытия данных
- IoT — обучение на периферийных устройствах
- Автомобили — улучшение автопилота без передачи видео