Преобразуем выражение:
$$p(x, y) = 5 + 2xy - (2x^2 + y^2) - 4x = 5 + 2xy - 2x^2 - y^2 - 4x = -2x^2 + 2xy - y^2 - 4x + 5$$
$$p(x, y) = -(x^2 - 2xy + y^2) - x^2 - 4x + 5 = -(x - y)^2 - (x^2 + 4x) + 5 = -(x - y)^2 - (x^2 + 4x + 4) + 4 + 5$$
$$p(x, y) = -(x - y)^2 - (x + 2)^2 + 9$$
Наибольшее значение данного выражения будет тогда, когда оба слагаемых с минусом равны нулю:
$$x - y = 0$$
$$x + 2 = 0$$
Тогда $$x = -2$$ и $$y = x = -2$$.
$$p(-2, -2) = -(-2 - (-2))^2 - (-2 + 2)^2 + 9 = -0 - 0 + 9 = 9$$.
Ответ: 9