МЕТОДЫ ЗАЩИТЫ И ОБЕСПЕЧЕНИЯ НАДЕЖНОСТИ МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ НА ОСНОВЕ ДАННЫХ СОЦИАЛЬНЫХ СЕТЕЙ

Abstract

В данной статье мы комплексно исследуем вопросы обеспечения безопасности моделей машинного обучения, использующих данные социальных сетей. В ходе исследования анализируются атаки инверсии модели, атаки отравления, атаки Sybil, обнаружение спам-кампаний, атаки деанонимизации и стратегии федеративного обучения (federated learning).

Исследование опирается на пять основных научных трудов: Benevenuto и др. Описывающих поведение пользователей в социальных сетях; Kayes и Iamnitchi , всесторонне рассмотревших вопросы конфиденциальности и безопасности в сетевых системах; McMahan и др.  Предложивших алгоритм федеративного обучения; Fredrikson и др., исследовавших атаки инверсии модели; Jiang и др., изучавших гибкие атаки отравления.

Результаты исследования выявили основные уязвимости моделей машинного обучения и оценили эффективность защитных механизмов путем сравнительного анализа. Технология федеративного обучения значительно повышает безопасность сетевых систем, обеспечивая децентрализованное обучение на данных.