Ответ:

Разложим квадратные множители на множители:

\[x^2-5x=x(x-5),\qquad x^2-11x+30=(x-5)(x-6).\]

Тогда

\[x(x-5)^2(x-6)<0.\]

При \(x=5\) выражение равно нулю, а при остальных значениях \((x-5)^2>0\). Поэтому знак произведения определяется выражением \(x(x-6)\). Оно отрицательно между корнями 0 и 6. Исключаем точки 0, 5 и 6, поскольку неравенство строгое и при них произведение равно нулю.

Ответ: \(x\in(0;5)\cup(5;6)\).