A = mgs cos (90° - B) = A = mgs B

Изначальное уравнение не верно. Угол B должен быть углом отклонения от вертикали, а не горизонтальным углом. Правильное уравнение для нахождения силы A будет A = mgs sin B.