Длительное действие (учились в библиотеке) было прервано другим действием (мы услышали страшный голос). Используем Past Continuous для длительного действия и Past Simple для прервавшего.
Ответ: were studying, heard.