Краткий ответ
Правильный вариант — третий:
Проверять права пользователя до передачи документов модели
Почему именно так
Ключевая идея: модель не должна быть последней линией защиты. Если секретный документ уже попал в модель, дальше всё зависит от того, «послушается» ли она — а это ненадёжно.
Разберём остальные варианты:
- «Надеяться, что модель сама поймёт, какие данные секретные» — модель не знает, что именно у вас считается секретным: в её обучении этих сведений нет. Это не гарантия, а надежда.
- «Скрыть названия файлов, но оставить их содержание доступным» — если в тексте есть суть документа, название уже не важно: модель может пересказать содержимое.
- «Написать в запросе: "Пожалуйста, не показывай секретное"» — это просто просьба в промпте. Её легко обойти (например, другим запросом — это и есть prompt injection), и она ничего не запрещает технически.
- Проверять права до передачи документов — данные вообще не попадают в модель, если у пользователя нет доступа. Это и есть принцип контроля доступа на входе (а не на выходе): фильтруем по отделу, роли, разрешениям ещё до того, как собрать контекст для модели.
Как проверить себя
Задай вопрос: «Что произойдёт, если пользователь специально сформулирует запрос хитрее?»
- При проверке прав — ничего: нужных документов в контексте просто не окажется.
- В остальных вариантах — модель может выдать лишнее, потому что ограничение было «мягким».
Общее правило для подобных заданий: ограничение доступа должно быть техническим и стоять до модели, а не внутри неё.