5) {x²+xy=12 {y-x=3

Выразим y через x из второго уравнения:

$$y = x + 3$$

Подставим в первое уравнение:

$$x^2 + x(x + 3) = 12$$

$$x^2 + x^2 + 3x = 12$$

$$2x^2 + 3x - 12 = 0$$

Решим квадратное уравнение:

$$D = 3^2 - 4 \cdot 2 \cdot (-12) = 9 + 96 = 105$$

$$x_1 = \frac{-3 + \sqrt{105}}{4}$$

$$x_2 = \frac{-3 - \sqrt{105}}{4}$$

Найдем соответствующие значения y:

$$y_1 = x_1 + 3 = \frac{-3 + \sqrt{105}}{4} + 3 = \frac{-3 + \sqrt{105} + 12}{4} = \frac{9 + \sqrt{105}}{4}$$

$$y_2 = x_2 + 3 = \frac{-3 - \sqrt{105}}{4} + 3 = \frac{-3 - \sqrt{105} + 12}{4} = \frac{9 - \sqrt{105}}{4}$$

Ответ: x = (-3 + sqrt(105))/4, y = (9 + sqrt(105))/4; x = (-3 - sqrt(105))/4, y = (9 - sqrt(105))/4