б) Ответ: \[ \boxed{\cos\varphi=\sqrt{\frac23}=\frac{\sqrt6}{3}}, \] где \(\varphi\) — угол между прямой \(AC\) и плоскостью \(CMK\).
Выберем координаты: \[ A(0,0,0),\quad B(6,0,0),\quad C(3,3\sqrt3,0), \] \[ D(3,\sqrt3,2\sqrt6). \]
Так как \(AM=AK=4\), а \(AB=AD=6\), то \[ M(4,0,0),\qquad K=\frac23D=(2,\tfrac{2\sqrt3}{3},\tfrac{4\sqrt6}{3}). \]
Направляющий вектор прямой \(AC\): \[ \vec{AC}=(3,3\sqrt3,0),\qquad |\vec{AC}|=6. \]
Два направляющих вектора плоскости \(CMK\): \[ \vec{CM}=(1,-3\sqrt3,0), \] \[ \vec{CK}=(-1,-\tfrac{7\sqrt3}{3},\tfrac{4\sqrt6}{3}). \]
Вектор нормали к плоскости \(CMK\), пропорциональный их векторному произведению: \[ \vec n=(9\sqrt2,\sqrt6,4\sqrt3). \] Его длина: \[ |\vec n|=\sqrt{162+6+48}=6\sqrt6. \]
Найдём угол \(\beta\) между \(AC\) и нормалью \(\vec n\): \[ \cos\beta= \frac{|\vec{AC}\cdot\vec n|} {|\vec{AC}|\cdot|\vec n|} = \frac{36\sqrt2}{6\cdot6\sqrt6} =\frac1{\sqrt3}. \]
Угол между прямой и плоскостью дополняет угол с нормалью до \(90^\circ\), поэтому \[ \cos\varphi=\sin\beta =\sqrt{1-\cos^2\beta} =\sqrt{1-\frac13} =\boxed{\sqrt{\frac23}}. \]
