Сначала сгруппируем подобные члены:
$$3a^2x - 8a^2x + 3ax^2 + 3ax^2 + 5a^3 - 10a^3$$
Теперь сложим коэффициенты при $$a^2x$$:
$$(3 - 8)a^2x = -5a^2x$$
Сложим коэффициенты при $$ax^2$$:
$$(3 + 3)ax^2 = 6ax^2$$
Сложим коэффициенты при $$a^3$$:
$$(5 - 10)a^3 = -5a^3$$
В итоге получаем:
$$-5a^2x + 6ax^2 - 5a^3$$