Раскроем скобки и приведем подобные члены:
$$3m^2(m + 5n) - 2n(8m^2 - n) = 3m^3 + 15m^2n - 16m^2n + 2n^2$$
$$= 3m^3 + 15m^2n - 16m^2n + 2n^2 = 3m^3 - m^2n + 2n^2$$
Ответ: $$3m^3 - m^2n + 2n^2$$