Преобразование пространства при котором последовательно выполняются поворот вокруг прямой и параллельный перенос вдоль этой же оси

Из вашего описания не совсем ясно, что именно вы хотите сделать с пространством. Если вы хотите изменить пространство путем выполнения поворота вокруг прямой и параллельного переноса вдоль этой же оси, вы можете использовать преобразование подобия или аффинное преобразование.