Пусть меньшая величина числа прыжков — x, тогда большая на 3 больше: x и x+3.
Дано: x^2 + (x+3)^2 = 89. Развиваем: x^2 + x^2 + 6x + 9 = 89 ⇒ 2x^2 + 6x - 80 = 0 ⇒ делим на 2: x^2 + 3x - 40 = 0.
Решаем квадратное уравнение. Дискриминант: D = 3^2 + 4·40 = 9 + 160 = 169, sqrt(D) = 13. x = (-3 ± 13)/2 ⇒ x = (10)/2 = 5 или x = (-16)/2 = -8.
Отрицательный вариант не подходит для количества прыжков, значит x = 5, а другой брат прыгнул 5 + 3 = 8 раз.
Проверка: 5^2 + 8^2 = 25 + 64 = 89 — верно.
Итого вместе ребята прыгнули: 5 + 8 = 13 прыжков.