Как пишется костяной или костеной?
Как правильно писать костяной или костеной?
Как проверить написание слова костяной?
Как проверить суффикс ян в слове костяной?

Поскольку слово, о правописании которого задан вопрос, отвечает на вопрос какой? и обозначает признак предмета, оно является именем прилагательным. Вопрос стоит о правописании безударной гласной в суффиксе.
Это отыменное прилагательное, так как образовано от имени существительного кость. Более того, оно входит в разряд относительных прилагательных ( называет признак через отношение к другому предмету ), костяной, значит, сделанный из кости. Относительные прилагательные, как правило, образуются при помощи суффиксальным способом при помощи следующих словообразовательных суффиксов: -ск-, -ов-, -ян-, -ан-, -н-.
Из всех словообразовательных морфем, перечисленных выше, нам подходит только суффикс -ян-.
Правильно нужно писать через я костяной.