Какая приставка в слове «костяной»?

В слове «костяной» нет приставки. Основа слова начинается с корня «кост-», к которому добавляется суффикс «-ян-» и окончание «-ой».