Помогите решить Как определить является ли функция бесконечно малой?.

Чисто по определению такой функции. Надо найти предел функции, когда аргумент стремится к бесконечности (или к минус бесконечности). Если этот предел равен 0, то функция является бесконечно малой.
В отдельных случаях, в частности, в дифференциальном исчислении, рассматривается функция, бесконечно малая не на бесконечности, а в данной точки. Ну, в общем, формально это то же самое, просто х тогда стремится не к бесконечности, а вот к этой точке. Но предел функции всё равно должен быть нулевым.