х^2+ху-6у^2

Это двучлен x^2 + hxy - 6y^2.

Помещаем его в форму (x - a y)(x - b y). Тогда a + b = -h и ab = -6.

Отсюда a и b являются корнями уравнения t^2 + h t - 6 = 0: t = [-h ± sqrt(h^2 + 24)] / 2.

Следовательно x^2 + hxy - 6y^2 = (x - a y)(x - b y) = (x - [(-h + sqrt(h^2+24))/2] y) (x - [(-h - sqrt(h^2+24))/2] y).

Альтернатива: можно записать как x^2 + hxy - 6y^2 = (x + m y)(x + n y), где m+n = h и mn = -6, то есть m,n = (h ± sqrt(h^2+24))/2.

Примеры:

• Если h = 5, то sqrt(h^2+24) = sqrt(49) = 7, и x^2 + 5xy - 6y^2 = (x + 6y)(x - y).
• Если h = 1, то sqrt(25) = 5, и x^2 + xy - 6y^2 = (x + 3y)(x - 2y).

Условие для целочисленного факторирования: h^2 + 24 должно быть квадратом natürlichen числа. Это happens для h ∈ { -5, -1, 1, 5 }.

Если скажете конкретное значение h, прямо дам факторизацию.