космологии? т.е. что-то непонятное, неосязаемое, необъяснимое

Если ставится вопрос именно в таком контексте:
То да.
Дело в том, что бесконечность очень широкое понятие. И для обычного обывателя - это понятие ограничивается неким бесконечным счетным рядом. Которую вроде можно понять и объяснить. Дальше можно представить Действительные числа, которых тоже вроде как бесконечно. Но оказывается их больше чем, например Натуральных чисел. И если это еще как то можно объяснить, хотя уже с трудом. Для посвященных понятно куда все клонится - в теорию множеств.
Ну и в кратце. Про бесконечные множества: есть счетные, есть континуум, есть гиперконтинуум. Причем сравнительно недавно доказано, что невозможно доказать отсутсвие множеств по мощности находящиеся в промежутках, но и наличие таких множеств никто предъявить не может. Уже на этих этапах бесконечность становится труднообъяснимой и тяжелой для понимания. Но все дело в том, что мощность не ограничена и может быть бесконечных порядков, что это даже представить нельзя.  И даже попытки представить приводит к различным парадоксам типа множество всех множеств. И к запрещению использовать некие бесконечные конструкции, потому что они не укладываются в общую аксиоматику.
                                                                              

Не просто можно, но известные решения типа метрики Шварцшильда действительно имеют особенности, в т.ч. неустранимые [выбором координат]. В общем-то так гравитационные сингулярности и определяются -- при стремлении некоторой координаты к точке сингулярности (к нулю, скажем) какие то физические вещи (кривизна) стремятся к бесконечности или оказываются неопределёнными.
Вот это последнее замечание уже мешает утвердительно ответить на вопрос, ведь в сингулярности не только может быть бесконечность, но и неопределённость.
Но вопрос-то был задан о космологической сингулярности, а не о гравитацинной сингулярности вообще. В чём же отличия и сходства? У космологической сингулярности нет горизонта [событий]. Но как и у любой сингулярности в этой точке какие-то величины должны или быть бесконечными или неопределёнными. В случае с известной космологической сингулярностью (момент возникновения вселенной) к бесконечности стремятся плотность и температура.
Так что космологическая сингулярность --- а вы спрашивали именно про неё --- имеет самое прямое отношение к бесконечности из математики. Более того, формально, вселенная в этой точке имеет актуальную бесконечность, а из-за отсутствия горизонта этот казус не получается прикрыть даже аргументом о фактической ненаблюдаемости. В математике, кажется в нестандартном анализе, актуальные бесконечности вводят, но рассматривают их как удобные абстракции, а космологическая сингулярность может быть примером физической реализации актуальной бесконечности!
Правда, есть ещё надежда, что раз такие свойства сингулярности могут быть артефактом ограниченности общей теории относительности, то после великого объединения, ну или после создания/завершения удовлетворительной теории квантовой гравитации, новая теория позволит делать предсказания и в этих точках, т.е. сингулярности как таковые попросту исчезнут.

Нельзя! И вот почему. Очень часто происходит путаница между математическими определениями и конкретными физическими явлениями. Мы описываем физические явления математическими формулами. Но при этом не надо забывать, что математические формулы написаны для идеальных или упрощенных случаев. А на самом деле, физическое явление имеет гораздо больше параметров. В случае же с сингулярностью, нет даже математических формул для её описания. Есть только понятие сингулярности, когда "что-то там сжимается, на до какого пределам никто не знает".
Что касается бесконечностей в математике, то они являются чистой математической абстракцией и в природе мы пока такого не наблюдали. И даже когда мы описываем явление ухода какого либо физического параметра в бесконечность математической формулой с хорошим приближением, в реальности обязательно найдется какой нибудь неучтенный фактор, который не даст этого достичь.