Например, x(квадрат)-5x-1=0

Вопрос составлен некорректно судя по примеру к вопросу.
Объясню в чём некорректность. Зададимся вопросом: а у какого числа нет корня? Правильный ответ на этот вопрос - у отрицательного числа нет корня. Потому что корень квадратный определен у чисел больше или равных нулю. А что происходит, если дискриминант отрицательный, то есть нельзя извлечь корень? В этом случае уравнение не имеет решения в действительных числах.
Вот такой ответ на поставленый вопрос.
Но в вопросе приводится пример:
х² - 5х - 1 = 0
Решая этот пример получим
D = 5² - 4•(-1) = 29
Из этого числа существует корень, только это будет не целое число и даже не рациональное число.
И видимо, вопрос подразумевался другой судя по примеру. Видимо должен звучать приблизительно так:
Если дискриминант равен числу у которого корень иррациональное число (не извлекается на цело), то как записать решение?
Ответим и на такой вопрос.
Иррациональные значения корня так и записываются в виде корня. В этом примере √29
И решение будет
х₁ = (5+√29)/2
х₂ = (5-√29)/2
Корни которые при извлечении получаются иррациональными пишутся в виде корня - это математически воспринимается как число: √2; √3; √5; √6 и т.д.
Единственное, если под корнем можно число разложить на множители из которого извлекается  корень в виде целого числа, то тогда проделывают эту операцию
Например √8 = √(4•2) = √4 • √2 = 2√2
Можно записать и √8 и 2√2, ошибкой не будет, но лучше преобразовать, поскольку может оказаться, что так можно провести сокращение и упростится ответ. 
                                                                              

Квадратный корень,можно извлечь из любого положительного числа.Но в таком случае,корень может быть,не только в виде целого числа, но и в виде десятичной дроби... Например:если квадратный корень из 25= 5...Но а квадратный корень из 24=4,89897948557.