Пусть у Толи $$x$$ монет по 2 рубля и $$y$$ монет по 5 рублей.
Тогда можем составить систему уравнений:
$$\begin{cases} x + y = 18 \ 2x + 5y = 97 end{cases}$$
Выразим $$x$$ из первого уравнения: $$x = 18 - y$$
Подставим это выражение во второе уравнение:
$$2(18 - y) + 5y = 97$$
$$36 - 2y + 5y = 97$$
$$3y = 97 - 36$$
$$3y = 61$$
$$y = \frac{61}{3}$$
Так как количество монет должно быть целым числом, то в условии задачи ошибка. Если бы сумма была 96 рублей, то решение было бы следующим:
$$\begin{cases} x + y = 18 \ 2x + 5y = 96 end{cases}$$
$$x = 18 - y$$
$$2(18 - y) + 5y = 96$$
$$36 - 2y + 5y = 96$$
$$3y = 96 - 36$$
$$3y = 60$$
$$y = 20$$
В этом случае возникает противоречие, так как общее количество монет 18, а монет по 5 рублей получилось 20.
Предположим, что всего 17 монет.
$$\begin{cases} x + y = 17 \ 2x + 5y = 96 end{cases}$$
$$x = 17 - y$$
$$2(17 - y) + 5y = 96$$
$$34 - 2y + 5y = 96$$
$$3y = 96 - 34$$
$$3y = 62$$
$$y = \frac{62}{3}$$
Снова получаем не целое число.
Предположим, что сумма 87 рублей.
$$\begin{cases} x + y = 18 \ 2x + 5y = 87 end{cases}$$
$$x = 18 - y$$
$$2(18 - y) + 5y = 87$$
$$36 - 2y + 5y = 87$$
$$3y = 87 - 36$$
$$3y = 51$$
$$y = 17$$
$$x = 18 - 17 = 1$$
Ответ: 1 монета по 2 рубля и 17 монет по 5 рублей (если сумма 87 рублей).