Выполним преобразования.
Пусть * = А, тогда
$$(6x^2-4xy-y^2)-A=4x^2+y^2$$
Перенесем А в правую часть, а выражение из правой части в левую, получим
$$6x^2-4xy-y^2-4x^2-y^2=A$$
$$A=6x^2-4xy-y^2-4x^2-y^2=(6x^2-4x^2)+(-4xy)+(-y^2-y^2)=2x^2-4xy-2y^2$$
Ответ: $$2x^2-4xy-2y^2$$.