Для решения данного выражения, необходимо раскрыть скобки и привести подобные слагаемые:
$$\alpha^2 - (a+b)(a-2b) = \alpha^2 - (a^2 - 2ab + ab - 2b^2) = \alpha^2 - (a^2 - ab - 2b^2) = \alpha^2 - a^2 + ab + 2b^2$$
Ответ: $$\alpha^2 - a^2 + ab + 2b^2$$