Краткий ответ: \[ \boxed{(x,y)=(16,4)\quad\text{или}\quad \left(36,\frac{16}{9}\right)} \]
Пусть \[ a=\sqrt{x},\qquad b=\sqrt{y}. \] Тогда \(a,b\ge 0\), а система принимает вид: \[ \begin{cases} a+3b=10,\\ ab=8. \end{cases} \]
Из первого уравнения: \[ a=10-3b. \]
Подставим во второе: \[ (10-3b)b=8, \] \[ 10b-3b^2-8=0, \] \[ 3b^2-10b+8=0. \]
Дискриминант: \[ D=(-10)^2-4\cdot3\cdot8=4. \]
Тогда \[ b=\frac{10\pm2}{6}. \]
Получаем:
\[ b=2,\qquad a=10-3\cdot2=4. \] \[ x=a^2=16,\qquad y=b^2=4. \]
\[ b=\frac43,\qquad a=10-3\cdot\frac43=6. \] \[ x=a^2=36,\qquad y=b^2=\frac{16}{9}. \]
Проверка: \[ \sqrt{16}+3\sqrt4=4+6=10,\qquad \sqrt{16}\cdot\sqrt4=8; \] \[ \sqrt{36}+3\sqrt{\frac{16}{9}}=6+4=10,\qquad \sqrt{36}\cdot\sqrt{\frac{16}{9}}=8. \]
