4. Разложите на множители: a) 2ab³-2a²b+6a²b²; б) x²-3x-3y-y².

Решение:

а) Вынесем общий множитель \( 2ab \):

\[ 2ab^3 - 2a^2b + 6a^2b^2 = 2ab(b^2 - a + 3ab) \]

б) Сгруппируем слагаемые:

\[ x^2 - 3x - 3y - y^2 = (x^2 - y^2) - (3x + 3y) \]

Разложим разность квадратов и вынесем общий множитель из второй группы:

\[ (x - y)(x + y) - 3(x + y) \]

Вынесем общий множитель \( (x + y) \):

\[ (x + y)(x - y - 3) \]

Ответ: а) \( 2ab(b^2 - a + 3ab) \); б) \( (x + y)(x - y - 3) \).