Как правильно писать "катится" или "катиться"?

Зависит от контекста, который вы не привели.
Орфографическое правило полностью я вам не приведу, но приведу мнемоническое.
Всё упирается в то, какую форму глагола использовать:
1)"катитЬся" с мягким знаком используется в том случае, если можно задать вопрос "что делатЬ?"
Это так называемая начальная форма глагола:
Мяч будет (что делаТЬ?) катиТЬся
(Что делаТЬ?) КатиТЬся - его судьба
Тебе следует (что делаТЬ?) катиТЬся куда подальше
Видите мягкий знак в конце вопроса "что делать"? Значит, пишИте его в проверяемом слове.
2) "катит_ся" без мягкого знака используется а том случае, если можно задать вопрос "что делаеТ?"
Это уже другая форма глагола - третье лицо единственное число:
Он/она/оно (что делаеТ?) катиТся в пропасть
Не видите мягкого знака в конце вопроса "что делает?" - не пишИте его в проверяемом слове.
                                                                              

Это смотря на какой вопрос отвечает глагол в предложении.
1) Если поставить шар на плоскость и слегка подтолкнуть - он будет плавно катиться. Шар что будет делать? Катиться. Тут нужен мягкий знак в середине, так как он есть в глаголе ведущего вопроса.
2) Вдоль тихой реки по ухабистой набережной катится повозка, заряженная стареньким осликом. Тележка что делает? Катится. Мягкий знак не нужен, так как его нет в глаголе ведущего вопроса.

Это в форме инфинитива  возвратный глагол. От контекста находится в прямой зависимости его написание. Самое простое, как можно определить верный вариант написания, это поставить в этому глаголу несовершенного вида вопрос. Если в вопросе эта буква  мягкий знак присутствует, пишем ее и в слове. Когда в вопросе этой буквы Ь нет, то в слове тоже писать не нужно.
Пример 1: Если машину снять с ручника, она будет (что делать?) катиться. Ударным является второй слог. Пример 2. Ему было очень страшно (что делать?) катиться вниз со склона.Пример 3. Матвей, замирая от восторга, катится на санках (что делает?) с горки.

Есть одно очень полезное правило о глагола. Если глагол отвечает на вопросы "что делал? Что сделал?", то тут мягкий знак мы не ставим, а вот если глагол отвечает на вопросы " что делать? Что сделать?" в этом случае мы обязаны поставить мягкий знак.
В данной ситуации однозначно ответить нельзя, так как точно не понятен контекст слова.

Вариант "катится":
Словоформы наподобие "катится" (без "ь") относятся к глаголам. Форма "катится", отвечая на вопрос "что делает?", слово "катиться" ставит в положение 3-го лица: "он (она) катится". Вопрос без "ь" определяет написание "катится" (также без "ь"). Например: "Шарик (что делает?) катится вниз, где и останется лежать". 
Вариант "катиться":
Словоформы типа "катиться" (с "ь") называют словарными. Глагол "катиться" - в неопределённой форме. "Что делать?" - "катиться". Это безличная форма. "Катиться" пишут при корректности вопроса "что делать?". В слове "катиться" имеется "ь", как и в вопросе. Например: "Тимофей не желал (что делать?) катиться по наклонной, поэтому перестал дружить с Василием".

Если глагол отвечает на вопрос что делает? Так как в вопросе нет мягкого знака, то пишется катится.
Если глагол отвечает на вопрос что делать? Так как в вопросе присутствует мягкий знак, пишется катиться.
То есть наличие мягкого знака зависит от контекста.