При решении данного примера необходимо раскрыть скобки и привести подобные слагаемые.
$$-2ab^2 + 3a^2b + a^2 - b^2 - 5a^2b + 2ab^2$$
$$-2ab^2 + 3a^2b + a^2 - b^2 - 5a^2b + 2ab^2 = (-2 + 2)ab^2 + (3 - 5)a^2b + a^2 - b^2 = -2a^2b + a^2 - b^2$$
Ответ: $$-2a^2b + a^2 - b^2$$