Кратко: новая масса покупки составила бы \(1{,}66\) кг, или \(1\frac{33}{50}\) кг.
Считать нужно не отдельные массы, а общее изменение:
\[ +\frac{1}{5}-\frac{6}{25} =\frac{5}{25}-\frac{6}{25} =-\frac{1}{25} \]
То есть масса уменьшилась на \(\frac{1}{25}\) кг, или на \(0{,}04\) кг.
\[ 1{,}7-0{,}04=1{,}66\text{ кг} \]
Проверка: творога стало больше на \(0{,}2\) кг, сметаны — меньше на \(0{,}24\) кг. Общая масса изменилась на \(0{,}2-0{,}24=-0{,}04\) кг.