Используем формулу квадрата разности: $$(a - b)^2 = a^2 - 2ab + b^2$$
В нашем случае: $$a = 3a$$ и $$b = 5b$$
Тогда: $$(3a - 5b)^2 = (3a)^2 - 2 * (3a) * (5b) + (5b)^2 = $$
Ответ: $$9a^2 - 30ab + 25b^2$$