Новая Школа - онлайн-школа подготовки к ЕГЭ
Задача · 9 класс Задача №3834088
А
Аноним
7 часов назад · публичный вопрос
А
Аноним

Реши задание на изображении

Ответ нейросети
7 часов назад

Краткий ответ: второй вариант — «Отравляет обучающие данные».

Почему именно он

Модель учится на парах «пример → правильный ответ (разметка)». Если злоумышленник подсовывает примеры с намеренно неверной разметкой, он портит сам обучающий набор. Модель честно выучит то, что ей дали, — то есть неверные закономерности. Это и есть атака отравления данных (data poisoning).

Простой пример: если в наборе для распознавания животных подписать часть фотографий кошек как «собаки», модель начнёт путаться. А если добавить особый «пример-триггер» с нужной злоумышленнику меткой, можно получить закладку (backdoor): модель ведёт себя нормально, но на определённый сигнал выдаёт нужный атакующему ответ.

Почему остальные варианты не подходят

  • «Замедляет работу сервера» — это перегрузка запросами (DoS/DDoS). Обучение и разметка данных тут ни при чём.
  • «Копирует модель себе» — это кража модели (model stealing): атакующий шлёт много запросов и по ответам восстанавливает поведение модели. Данные обучения он при этом не трогает.
  • «Взламывает пароль администратора» — это подбор учётных данных, отдельный вид атаки, к разметке отношения не имеет.

Как узнавать похожие задания

Смотри на ключевые слова в условии:

  • «изменил/подбросил примеры», «неверная разметка», «исказил обучающий набор» → отравление данных;
  • «много запросов, сервер не справляется» → DoS-атака;
  • «много запросов, чтобы по ответам восстановить модель» → кража модели;
  • «подбирает логин и пароль» → брутфорс / взлом доступа.

Проверка: если убрать из условия слова про «набор данных для обучения» и «неверную разметку», ни один из остальных вариантов не станет верным — они описывают совсем другие механизмы атаки. Значит, ответ выбран по существу, а не по догадке.

Обсуждение

1 сообщение
А
Аноним