Пара чисел \( (-1; 2) \) является решением системы, значит, подстановка \( x = -1 \) и \( y = 2 \) в уравнения системы должна давать верные равенства.
Подставим \( x = -1 \) и \( y = 2 \) в первое уравнение:
\( (a - 3)(-1) - b(2) = 3b \)
\( -(a - 3) - 2b = 3b \)
\( -a + 3 - 2b = 3b \)
\( -a + 3 = 5b \)
\( 5b = 3 - a \) (1)
Подставим \( x = -1 \) и \( y = 2 \) во второе уравнение:
\( a(-1) - (2b - 1)(2) = 3a - 11 \)
\( -a - (4b - 2) = 3a - 11 \)
\( -a - 4b + 2 = 3a - 11 \)
\( -4b + 2 = 4a - 11 \)
\( -4b = 4a - 13 \) (2)
Теперь у нас есть система из двух уравнений с двумя неизвестными \( a \) и \( b \):
\( \begin{cases} 5b = 3 - a \\ -4b = 4a - 13 \end{cases} \)
Из первого уравнения выразим \( a \):
\( a = 3 - 5b \)
Подставим это выражение для \( a \) во второе уравнение:
\( -4b = 4(3 - 5b) - 13 \)
\( -4b = 12 - 20b - 13 \)
\( -4b = -20b - 1 \)
\( -4b + 20b = -1 \)
\( 16b = -1 \)
\( b = -\frac{1}{16} \)
Теперь найдем \( a \), подставив \( b = -\frac{1}{16} \) в выражение \( a = 3 - 5b \):
\( a = 3 - 5(-\frac{1}{16}) \)
\( a = 3 + \frac{5}{16} \)
\( a = \frac{3 \times 16}{16} + \frac{5}{16} \)
\( a = \frac{48 + 5}{16} \)
\( a = \frac{53}{16} \)
Ответ: \( a = \frac{53}{16}, b = -\frac{1}{16} \)