При нагревании стального шарика его объем увеличивается, а масса остается неизменной. Поскольку плотность - это масса, деленная на объем, то при увеличении объема плотность уменьшается.
Ответ: 3) масса шарика не изменилась, а его плотность уменьшилась