Предложение описывает два действия в прошлом: одно длительное (мытье посуды) и одно, которое его прервало (приход мамы). Длительное действие в прошлом выражается через Past Continuous, а прерывающее – через Past Simple.
Пояснение: 'when mum came home' (Past Simple) прерывает действие 'the washing up', которое происходило в этот момент (Past Continuous).
Ответ: A were doing