Краткий ответ для обведённых пунктов:
3)
а) \(-11\);
б) \(59\);
в) \(19+6\sqrt2\);
г) \(222-120\sqrt3\).
2) внизу:
д) \(\dfrac{\sqrt{13}-\sqrt3}{2}\);
г) \(\dfrac{h(x-\sqrt{k})}{x^2-k}\);
е) \(30+12\sqrt6\).
Основные формулы
\[ (A+B)(A-B)=A^2-B^2, \]
\[ (A\pm B)^2=A^2\pm2AB+B^2. \]
Чтобы убрать корень из знаменателя, умножаем дробь на сопряжённое выражение.
3а)
\[ (2\sqrt3+1)(1-2\sqrt3) =(1+2\sqrt3)(1-2\sqrt3) \]
\[ =1^2-(2\sqrt3)^2=1-12=-11. \]
3б)
Переставим слагаемые во второй скобке:
\[ (6\sqrt2-\sqrt{13})(6\sqrt2+\sqrt{13}) \]
\[ =(6\sqrt2)^2-(\sqrt{13})^2=72-13=59. \]
3в)
\[ (1+3\sqrt2)^2 =1+2\cdot1\cdot3\sqrt2+(3\sqrt2)^2 \]
\[ =1+6\sqrt2+18=19+6\sqrt2. \]
3г)
\[ (5\sqrt6-6\sqrt2)^2 =(5\sqrt6)^2-2\cdot5\sqrt6\cdot6\sqrt2+(6\sqrt2)^2 \]
\[ =150-60\sqrt{12}+72. \]
Так как \(\sqrt{12}=2\sqrt3\), получаем:
\[ 150-120\sqrt3+72=\boxed{222-120\sqrt3}. \]
2д)
Сопряжённое выражение к \(\sqrt{13}+\sqrt3\) — это \(\sqrt{13}-\sqrt3\):
\[ \frac5{\sqrt{13}+\sqrt3} \cdot \frac{\sqrt{13}-\sqrt3}{\sqrt{13}-\sqrt3} \]
\[ =\frac{5(\sqrt{13}-\sqrt3)}{13-3} =\frac{5(\sqrt{13}-\sqrt3)}{10} =\boxed{\frac{\sqrt{13}-\sqrt3}{2}}. \]
2г)
\[ \frac{h}{x+\sqrt{k}} \cdot \frac{x-\sqrt{k}}{x-\sqrt{k}} = \frac{h(x-\sqrt{k})}{x^2-k}. \]
Ответ:
\[ \boxed{\frac{h(x-\sqrt{k})}{x^2-k}}. \]
2е)
\[ \frac6{5-2\sqrt6} \cdot \frac{5+2\sqrt6}{5+2\sqrt6} = \frac{6(5+2\sqrt6)}{25-(2\sqrt6)^2} \]
\[ =\frac{6(5+2\sqrt6)}{25-24} =6(5+2\sqrt6) =\boxed{30+12\sqrt6}. \]
Проверка: в последних трёх примерах знаменатели после умножения на сопряжённые выражения стали соответственно \(10\), \(x^2-k\) и \(1\), поэтому корней в знаменателе больше нет.
