Рассмотрим задачу поэтапно.
Всего шаров: 5 красных + 3 синих = 8 шаров.
Нам нужно найти вероятность того, что оба вынутых шара будут красными.
Общее число способов выбрать 2 шара из 8:
\[
C_8^2 = \frac{8!}{2!(8-2)!} = \frac{8 \times 7}{2} = 28
\]
Число способов выбрать 2 красных шара из 5:
\[
C_5^2 = \frac{5!}{2!(5-2)!} = \frac{5 \times 4}{2} = 10
\]
Следовательно, вероятность того, что оба выбранных шара — красные:
\[
P = \frac{\text{число благоприятных исходов}}{\text{общее число исходов}} = \frac{10}{28} = \frac{5}{14}
\]
Ответ: \(\boxed{\frac{5}{14}}\)