вынести за скобки 4x³(ax²+a³x-2a²

Не вполне ясно, что именно нужно вынести за скобки в выражении 4x³(ax²+a³x-2a². Если речь идет о вынесении общего множителя, то можно вынести 4x³ из каждого члена:

4x³(ax²) + 4x³(a³x) - 4x³(2a²)

Также можно раскрыть скобки, если это требуется в контексте задачи.