Пусть периметры двух подобных многоугольников относятся как \( k_1 : k_2 = 3 : 5 \). Для подобной фигур площадь относится как квадрат отношения периметров. То есть,
\[ \frac{S_1}{S_2} = \left( \frac{k_1}{k_2} \right)^2 = \left( \frac{3}{5} \right)^2 = \frac{9}{25}. \]
Обозначим площадь меньшего многоугольника как \( S_1 \), а площадь большего как \( S_2 \), которая равна 40. Тогда у нас есть:
\[ \frac{S_1}{40} = \frac{9}{25}. \]
Теперь, чтобы найти \( S_1 \), умножим обе части уравнения на 40:
\[ S_1 = 40 \cdot \frac{9}{25}. \]
Вычислим:
\[ S_1 = \frac{360}{25} = 14.4. \]
Таким образом, площадь второго (меньшего) многоугольника равна 14.4.