Прежде всего, упростим выражение, раскрыв скобки и приведя подобные члены.
Числитель первой дроби: $$(x-y)^2 + xy = x^2 - 2xy + y^2 + xy = x^2 - xy + y^2$$
Знаменатель первой дроби: $$(x+y)^2 - xy = x^2 + 2xy + y^2 - xy = x^2 + xy + y^2$$
Числитель второй дроби: $$x^5 + y^5 + x^2y^3 + x^3y^2 = x^5 + y^5 + x^2y^2(y+x)$$
Разложим $$x^5 + y^5$$ на множители. $$x^5 + y^5 = (x+y)(x^4 - x^3y + x^2y^2 - xy^3 + y^4)$$. Тогда числитель второй дроби примет вид:
$$(x+y)(x^4 - x^3y + x^2y^2 - xy^3 + y^4) + x^2y^2(x+y)$$ $$(x+y)(x^4 - x^3y + 2x^2y^2 - xy^3 + y^4)$$.
Знаменатель второй дроби: $$(x^3 + y^3 + x^2y + xy^2)(x^3 - y^3) = ((x+y)(x^2 - xy + y^2) + xy(x+y))(x^3-y^3)$$ $$(x+y)(x^2 - xy + y^2 + xy)(x^3 - y^3)$$ $$(x+y)(x^2 + y^2)(x^3 - y^3) = (x+y)(x^2 + y^2)(x-y)(x^2 + xy + y^2)$$
Теперь исходное выражение выглядит так:
$$\frac{x^2 - xy + y^2}{x^2 + xy + y^2} : \frac{(x+y)(x^4 - x^3y + 2x^2y^2 - xy^3 + y^4)}{(x+y)(x^2 + y^2)(x-y)(x^2 + xy + y^2)}$$Деление заменяем умножением на перевернутую дробь:
$$\frac{x^2 - xy + y^2}{x^2 + xy + y^2} \times \frac{(x+y)(x^2 + y^2)(x-y)(x^2 + xy + y^2)}{(x+y)(x^4 - x^3y + 2x^2y^2 - xy^3 + y^4)}$$Сокращаем (x+y) и (x^2 + xy + y^2) и получаем:
$$\frac{(x^2 - xy + y^2)(x^2 + y^2)(x-y)}{(x^4 - x^3y + 2x^2y^2 - xy^3 + y^4)}$$ $$\frac{(x^2 - xy + y^2)(x^2 + y^2)(x-y)}{x^4 - x^3y + 2x^2y^2 - xy^3 + y^4} = x-y$$Ответ: a. x-y