(x-2y)^2= x^2-*+4y^2

У вас опечатка. В формуле должно быть x^2, а не x^2-*. Правильное уравнение: (x-2y)^2 = x^2 + 4y^2.