Систему учили находить спелые яблоки. Все спелые яблоки в примерах сфотографированы на солнце, а неспелые — в тени. Какую ошибку может допустить система? Выбери ответ.

Краткий ответ: третий вариант — «Принять яркое освещение за признак спелости».

Ключевые шаги

1. Нейросеть не «понимает» яблоко. Она ищет на пикселях признаки, которые удобно посчитать: цвет, яркость, контраст, форму. Дальше она подбирает такой признак, который лучше всего разделяет примеры в обучающем наборе.

2. В примерах признаки оказались связаны между собой. Спелые яблоки — всегда на солнце (ярко), неспелые — всегда в тени (темно). Значит, самый простой признак, различающий классы, — это освещённость, а не зрелость.

3. Модель выбирает самый простой путь. Раз яркость даёт 100 % попаданий на обучающих фото, сеть и запомнит: «ярко = спелое». Настоящий признак спелости (цвет и вид плода) она так и не выучит.

4. Отсюда ошибка. Спелое яблоко в тени система назовёт неспелым, а зелёное на солнце — спелым. Это называют ложной корреляцией: модель зацепилась за признак, который случайно совпал с ответом в выборке.

Как такую ошибку исправить

Нужно «разорвать» связь между освещением и правильным ответом: добавить в примеры спелые яблоки в тени и неспелые на солнце, снять часть фото при разном свете. Тогда яркость перестанет быть надёжным признаком, и сети придётся учиться на цвете и форме самого яблока.

Проверка

• «Удалить слишком тёмные фотографии» — это действие человека с данными, а не ошибка модели.
• «Научиться определять вкус яблока по фото» — по фото вкус не определяется, к делу не относится.
• «Перестать распознавать круглые предметы» — из условия никак не следует.
• Остаётся вариант про яркое освещение — он точно описывает, что произойдёт при таком наборе примеров.