ПятьДЕСЯТ, шестьДЕСЯТ, но дваДЦАТЬ, триДЦАТЬ. А сорок и вовсе ни туда, ни сюда...

В вопросе речь идёт о сложных именах числительных (за исключением "сорок").
В современном русском языке второй элемент этих числительных является не окончанием: "десят" - второй корень, а "дцать" - суффикс.
Различие употребления этих элементов при обозначении десятков объясняется образованием числительных.
Все они имеют истоки в старославянском языке, где были образованы из слияния слов.
Числительные 20, 30, 40 (да, и это числительное тоже!) возникли в результате сложения слов, обозначающих количество десятков. При этом на конце слова "десять" писалась гласная буква, обозначавшая мягкий согласный "т*" (десяти, десяте). Теперь мягкость этого звука в им./вин. падеже обозначается мягким знаком. Сама же вторая часть претерпела фонетические изменения и стала нынешним "-дцать".
Числительные от 50 до 90 образовались из сложения слов, называющих число десятков, но  "десять" всегда было только в родительном падеже множественного числа, т.е. на конце стоял "ер"/Ъ/, обозначавший твёрдый "т". Это и есть современное "-десят".
По поводу числительного "сорок". Есть несколько гипотез. Интересно, что до 12 века употреблялся старославянский вариант "четыре десяте", смотрим скриншот из учебника старославянского языка под ред. В. Бондалетова.
Позднее старославянская форма заменилась разговорным восточнославянским "сорок" и вытеснила старую.
О происхождении этого числительного можно прочитать в этимологических словарях, напр., в словаре Г. Цыганенко.
Несколько особняком стоит и происхождение числительного "девяносто". Оно так же, как и сорок, пришло из диалекта и заменило собой старославянскую форму на "десят".
Для любопытных информация из этимологического словаря Н. Шанского.