Ответ:

Разность количества тетрадей равна \(b-a\). За эти тетради Коля заплатил на 45 рублей больше, поэтому цена одной тетради:

\(45:(b-a)\) руб.

Тогда стоимость тетрадей Вити:

\(45a:(b-a)=\frac{45a}{b-a}\) руб.

Стоимость тетрадей Коли:

\(45b:(b-a)=\frac{45b}{b-a}\) руб.

Ответ: Витя заплатил \(\frac{45a}{b-a}\) руб., Коля — \(\frac{45b}{b-a}\) руб. (при \(b>a\)).