Для выполнения умножения многочленов, нужно каждый член первого многочлена умножить на каждый член второго многочлена.
5) г) $$(a+3b)(a-3b-1) = a \cdot a + 3b \cdot a + a \cdot (-3b) + 3b \cdot (-3b) + a \cdot (-1) + 3b \cdot (-1) = a^2 + 3ab - 3ab - 9b^2 - a - 3b = a^2 - 9b^2 - a - 3b$$
Ответ: $$a^2 - 9b^2 - a - 3b$$