Был ли он в других словах? Почему с ним известно практически только это слово?

Было ещё "холостёжь", но сейчас оно вышло из употребления.
Рискну предположить, что это слово попало в особую категорию из-за того, что в русском языке собирательные существительные, которые обозначают людей, склонны иметь женский род - родня, семья, детвора, беднота и так далее (исключения - большие группы людей с -ест-: человечество, казачество и так далее). Поэтому там, где по ходу истории все остальные слова такого типа остались в мужском роде и отбросили мягкий знак (например, раньше достаточно часто встречалось слово "грабежь"), слово "молодёжь" в разговорной речи изменило род на женский и, соответственно, сохранило мягкий знак, который в современном языке характерен для женского рода.