Раскроем скобки и приведем подобные слагаемые:
\( (a - b)(a + 2b)^2 - (a + b)^3 + b^3 \)
\( = (a - b)(a^2 + 4ab + 4b^2) - (a^3 + 3a^2b + 3ab^2 + b^3) + b^3 \)
\( = a(a^2 + 4ab + 4b^2) - b(a^2 + 4ab + 4b^2) - a^3 - 3a^2b - 3ab^2 - b^3 + b^3 \)
\( = a^3 + 4a^2b + 4ab^2 - a^2b - 4ab^2 - 4b^3 - a^3 - 3a^2b - 3ab^2 \)
Приведем подобные слагаемые:
\( (a^3 - a^3) + (4a^2b - a^2b - 3a^2b) + (4ab^2 - 4ab^2 - 3ab^2) - 4b^3 \)
\( = 0 + 0 - 3ab^2 - 4b^3 \)
\( = -3ab^2 - 4b^3 \)
Вынесем общий множитель \( -b^2 \):
\( = -b^2(3a + 4b) \)
Ответ: -b²(3a + 4b).