Если полученное число после деления или извлечения корня, не известно, чему равно, как доказать, что оно целое, а не дробное?
Какая существует формула для этого доказательства?
Например, самое простое:
x = y/3
Как доказать, что «х» целое число или наоборот дробное?

Для доказательства целочисленности результата деления обычно используют признаки делимости. Они легко ищутся в интернете, есть (должны быть) в школьных учебниках. Например, если последняя цифра числа y есть 5, то x=y/5 -- целое число; если последняя цифра y чётная, то и x=y/2 будет целым. Ну и т.д.
Ну про корень уже ответили: чтобы корень степени n из числа y был целым необходимо и достаточно, чтобы в разложении y на простые множители, одинаковые множители группировались в группы по n штук в каждой. Например, число 100 разлагается как 100=2*2*5*5. Видно, что простые множители 2 и 5 сгруппировались в группы по два множителя в каждой, а это значит, что корень второй (n=2) степени, т.е. квадратный корень из 100 -- целое число. Действительно, sqrt(100)=10 и 10*10=100.

Чтобы определить получится ли после деления целое число необходимо воспользоваться формулой для взятия остатка (операция mod).
В операции
x = y/n
x будет целым числом, если выполняется условие:
y mod n = 0
Для операции вычисления корня правило такое:
Число, полученное после вычисления корня будет целым, если количество каждого уникального множителя в разложении исходного числа на простые множители выражается четным числом.