Как, на ваш взгляд, можно наиболее полно определить это понятие?

Математическое определение бесконечности связано с теорией множеств. Так в алгебре считается, что множество натуральных чисел (а также, целых, рациональных, действительных) бесконечно. Это означает, что какое-бы число мы не назвали, то найдется число больше данного (или меньше данного числа в остальных множествах). Поэтому бесконечным можно считать и Вселенную, так как какой бы объект мы не выбрали, найдется другой объект, который находится дальше от него (относительно выбранной точки, например Земли). Также бесконечным можно считать время, какую-бы дату в будущем мы не назвали, можно найти другую дату, которая будет позже нее. Вообще бесконечность более соответствует здравому смыслу, чем какое-то конечное понятие. Ведь, если Вселенная конечна, то она должна иметь границы и сразу возникает парадоксальный вопрос, а что там "за границей" Вселенной. То же самое со временем, если время конечно, то должно произойти последнее событие и опять парадокс, что "будет потом". Поэтому человеческой сущности более подходящим является именно бесконечность. Тогда будет и смысл в существовании человечества, ведь познание бесконечного тоже бесконечно и намного интереснее.

Всё дело в том, что для бесконечности нет определения.
Немало людей сошли с ума, зацикливаясь на том, чтобы представить себе бесконечность зрительно, или умственно, теоретически.
Как правило, бесконечность для человека - это когда он смотрит на бескрайний океан и всё равно ограничивает своё восприятие линией горизонта, на мой взгляд.
Когда смотрит в небо - всё равно подсознательно ограничивает взгляд теоретическим куполом и так далее.
Даже учёные, занимающиеся квантовыми исследованиями не могут сказать о том, что деление бесконечно, или конечно.
Так что нет ответа на этот вопрос, есть только индивидуальные восприятия каждым человеком бесконечности.

Бесконечность - это неограниченный счёт чисел в математике, число может состоять из любого числа разрядов, единица с кучей нулей и множество промежуточных значений. Пространство можно считать бесконечным, в телескоп люди видят то, что не исчезло за "горизонтом событий" в космосе (это связано с рассеянием света), а за ним возможно есть другие объекты, чем видимые звезды и галактики. Время тоже можно считать бесконечным, если обозначить точку начала времени, возникает вопрос "А что было раньше?", если обозначить точку конца времени, возникает вопрос: "А что будет потом?".
Чёрные дыры в космосе имеют неограниченную гравитацию, что вблизи них даже свет не может от них улететь. Очень большое значение силы гравитации можно назвать бесконечной гравитацией. Сингулярность - это вещество с бесконечной плотностью (внутри чёрной дыры).
Бесконечность получается из дроби как предел отношения дроби при стремлении знаменателя к нулю. Бесконечность получается из тригонометрической функции "тангенс угла", если угол равен 90 градусов. То же самое будет и с функцией "котангенс угла", если угол равен 0.
Для вычисления некоторых величин принимается разложение функции в бесконечный ряд Фурье, и при этом вычисление какой-то величины производится с определённой точностью, например, правильный результат - целое число и 10 знаков после запятой.

К сожалению, в человеческом языке нет точного определения бесконечности (как впрочем, и для времени и для ещё многих других понятий и вещей). Поэтому люди вынуждены определять бесконечности многословными предложениями типа - "ну, эта так много, что не сосчитать...". На самом деле, это всё легко считается, имеется математический аппарат для оперирования бесконечностями и бесконечностей много разных.
Вообще, в природе, бесконечностей не существует, в строгом математическом смысле. Но! Но есть ряды, уходящие в бесконечность с разной скоростью. Конечно, эти ряды прерываются другими факторами, физическими условиями. (Но я пока не готов сформулировать окончательное математически корректное определение бесконечности. Не было такой задачи).

Логически размышляя - можно выдвинуть гепотизу, что бесконечность - это проявление, которое имеет начало, но не имеет конца. Мысль - бесконечна.

Наверно можно сказать так же как и о вечности. Вечно время и пространство. Если пространство может быть замкнутым, хотя открытое пространство так же не имеет конца, то время бесконечно в любом пространстве.