Краткий ответ: \(A_1B_1=3\).
Как это получается
Плоскость, параллельная \(AB\), пересекает плоскость треугольника по прямой \(A_1B_1\). Поэтому \[ A_1B_1\parallel AB. \]
Значит, треугольники \(CA_1B_1\) и \(CAB\) подобны: у них общий угол \(C\), а стороны \(A_1B_1\) и \(AB\) параллельны.
Из условия \[ AA_1:A_1C=5:3. \] Пусть \(AA_1=5x\), \(A_1C=3x\). Тогда \[ AC=5x+3x=8x. \] Отрезок \(CA_1\) — это тот же \(A_1C\), поэтому \[ \frac{CA_1}{CA}=\frac{3x}{8x}=\frac{3}{8}. \]
В подобных треугольниках соответствующие стороны относятся так же: \[ A_1B_1=\frac{3}{8}\,AB=\frac{3}{8}\cdot 8=3. \]
Проверка: коэффициент подобия \(\frac{3}{8}\), значит, меньший отрезок \(A_1B_1\) действительно равен \(3\), то есть в \(\frac{3}{8}\) раза меньше \(AB=8\). Всё сходится.