Ответ: «Принять яркое освещение за признак спелости».
Почему так происходит: система учится по примерам и ищет то, что отличает спелые яблоки от неспелых. В обучающих фото все спелые яблоки ярко освещены, а неспелые — в тени. Тогда признак «яркость» совпадает с признаком «спелость», хотя на самом деле он не определяет спелость.
Что будет ошибаться: система может считать спелым любое ярко освещённое яблоко — даже неспелое на солнце — и не признать спелое яблоко, если оно в тени.
Как проверить: покажи системе спелое яблоко в тени и неспелое на солнце. Если она назовёт тёмное спелое «неспелым», а яркое неспелое «спелым», значит, она ориентируется на свет.
Как исправить обучение: добавить фотографии спелых и неспелых яблок и на солнце, и в тени, чтобы система училась по самому плоду, а не по освещению.
