Почему? Какое проверочное слово?

Млекопитающее подсемейства полёвок и отряда грызунов Онда́тра пишется именно через первую "О". Это нужно просто запомнить, хотя слово Анда́тра просто режет глаз.
Причина, почему впереди стоит именно "О" простая. По лытыне название этого зверька звучит, как Ondatra zibethicus. То есть именно через "О".
                                                                              

Оба написания правильные. Если животное отряда грызунов, то пишется ондатра. Если мужчина, воспитание которого далеко от мужского, то пишется андатра. Впрочем, это жаргон и тюремный сленг. Но слово от этого не перестаёт быть. Хорошо известна присказка: "Э слышь андатра,  угомони таланты"