Обособляется
Когда? В оборот входит существительное, обозначающее действие.
- Вместо охоты на крупного зверя в группы, (охота — существительное, обозначающее действие), хищники объединяются в одиночку.
Не обособляется
Когда? В оборот входит существительное, обозначающее предмет: вместо = взамен, за.
- Вместо нор вараны могут использовать для отдыха и другие места. (Вместо нор = взамен нор).