Для решения используем геометрические свойства прямоугольного треугольника и вписанного в него квадрата. Пусть сторона квадрата равна x. Тогда стороны треугольника делятся на участки: a = 3 - x и b = 5 - x. Рассмотрим подобие двух треугольников, получаем: \( \frac{x}{5} = \frac{3-x}{3} \). После упрощения уравнения, находим, что x = 15/8. Ответ: 15/8.