Краткий ответ:
\[
x\in(-2;\,4)
\]
Как решать:
Найдём нули выражения: \[ x^2-2x-8=0 \] \[ x_1=-2,\qquad x_2=4 \]
Разложим на множители: \[ x^2-2x-8=(x+2)(x-4) \]
Парабола \(y=x^2-2x-8\) ветвями направлена вверх. Значит, она ниже оси \(x\) между корнями: \[ -2<x<4 \]
Неравенство строгое (\(<0\)), поэтому концы интервала не включаем.
Проверка: возьмём \(x=0\) из интервала: \[ 0^2-2\cdot0-8=-8<0 \] Верно. А при \(x=5\): \[ 25-10-8=7>0 \] то есть \(5\) уже не подходит.
Ответ:
\[
x\in(-2;4)
\]