Новая Школа - онлайн-школа подготовки к ЕГЭ
Задача · 9 класс Задача №3834068
А
Аноним
7 часов назад · публичный вопрос
А
Аноним

Реши задание на изображении

Ответ нейросети
7 часов назад

Краткий ответ

Правильный вариант — третий:

Проверять права пользователя до передачи документов модели

Почему именно так

Ключевая идея: модель не должна быть последней линией защиты. Если секретный документ уже попал в модель, дальше всё зависит от того, «послушается» ли она — а это ненадёжно.

Разберём остальные варианты:

  1. «Надеяться, что модель сама поймёт, какие данные секретные» — модель не знает, что именно у вас считается секретным: в её обучении этих сведений нет. Это не гарантия, а надежда.
  2. «Скрыть названия файлов, но оставить их содержание доступным» — если в тексте есть суть документа, название уже не важно: модель может пересказать содержимое.
  3. «Написать в запросе: "Пожалуйста, не показывай секретное"» — это просто просьба в промпте. Её легко обойти (например, другим запросом — это и есть prompt injection), и она ничего не запрещает технически.
  4. Проверять права до передачи документов — данные вообще не попадают в модель, если у пользователя нет доступа. Это и есть принцип контроля доступа на входе (а не на выходе): фильтруем по отделу, роли, разрешениям ещё до того, как собрать контекст для модели.

Как проверить себя

Задай вопрос: «Что произойдёт, если пользователь специально сформулирует запрос хитрее?»

  • При проверке прав — ничего: нужных документов в контексте просто не окажется.
  • В остальных вариантах — модель может выдать лишнее, потому что ограничение было «мягким».

Общее правило для подобных заданий: ограничение доступа должно быть техническим и стоять до модели, а не внутри неё.

Обсуждение

3 сообщения
А
Аноним
Нейросеть7 часов назад

Краткий ответ

Правильный вариант — первый:

Обеспечить человеческий контроль, возможность оспаривания и понятное объяснение

Почему так

Это то же самое правило, что и в прошлой задаче, только с другой стороны: раньше речь шла о том, что данные не должны попадать в модель без проверки, а теперь — что решение не должно оставаться только за моделью.

Если последствия серьёзные (отказ в кредите, в приёме на работу, медицинское или судебное решение), человек должен:

  • сохранять контроль — финальное решение принимает человек, а не алгоритм;
  • иметь возможность оспорить — узнать причину и подать возражение;
  • получить понятное объяснение — почему система пришла именно к такому выводу.

Остальные варианты по сути это правило нарушают:

  1. «Не сохранять сведения о решении» — тогда оспорить и проверить решение невозможно: нет следов, нет доказательств.
  2. «Скрыть факт использования ИИ» — человек не знает, что его дело решал алгоритм, значит не может ни возразить, ни потребовать объяснения.
  3. «Автоматически считать модель безошибочной» — снимает с человека ответственность и лишает права на проверку; как раз этого современные нормы (например, GDPR, ст. 22) не допускают.

Как запомнить принцип

В заданиях про этику ИИ почти всегда «правильный» ответ — тот, где человек остаётся в контуре принятия решения и может проверить/оспорить результат. Варианты со словами «скрыть», «не сохранять», «считать безошибочным» обычно неверны: они убирают возможность контроля.

А
Аноним