Два круга изначально находятся в положении А .
Круг радиуса 2R начинает вращение с угловой скоростью ω. Одновременно, круг радиуса R начинает катиться без проскальзывания по кругу радиуса 2R с угловой скоростью 3ω.
Круги возвращаются в исходное положение А.
Сколько оборотов вокруг своих центров сделали круги?

Я что то не понял к чему тут такие большие вычисления.
Угловая скорость это угол пройденный телом по окружности за единицу времени.
У 2R она равна W, а у R она равна 3W.
Если взять W=360 градусов то есть полный оборот то получится что 2R сделает один оборот, а R сделает 3 оборота. И никаких формул тут не надо.
Спасибо за внимание.
                                                                              

Путь малого круга по большому составит длину окружности большого круга L = Pi x 2 x 2R. Собственная длина окружности малого круга l = Pi x 2 x R. Разделив одну длину на другую L/l, получим число оборотов маленького круга вокруг своего центра при окатывании n = Pi x 2 x 2R / Pi x 2 x R = 2 оборота.
Отношение угловой скорости вращения большого круга W вокруг центра О к угловой скорости вращения w центра С вокруг центра О равно отношению частоты вращения большого круга N к частоте вращения n малого круга W/w = N/n. Из них неизвестна N — частота вращения большего круга, N = n x W/w = 2 x w/3w = 2/3. То есть за 2 поворота малого круга вокруг своей оси и возвращения в точку А, большой совершит 2/3 от своего полного оборота.

Предлагаю совершить путешествие на Северный полюс и там решить эту задачу. Если встать на точку, которая является проекцией земной оси, стать ее продолжением, то что будет с человеком-осью?  Он будет вращаться вместе с Землей. Поэтому Земля не вращается вокруг  собственной оси, ось вращается вместе с Землей, пусть даже толщина этой оси будет одна молекула. соответственно, эти круги в настоящей задаче не вращаются вокруг собственных центров, тем более, что они обозначены такими зелеными кружочками. Ответ: нисколько оборотов не совершат.
Это пример одного из решений задачи, условия которой так расплывчато сформулированы, чтобы путать учеников, студентов или просто людей, на досуге решающих головоломки.
Эта задача путает еще и физику с геометрией. Термин "угловая скорость" относится к механике, а именно к кинематике, которая рассматривает движение тел в системе координат. Здесь как раз не расшифровано "положение А" двух кругов. Самого понятия "круг" в физике нет, это геометрия, нужно тогда говорить "колесо", "диск" или "круглое тело". Хорошо, пусть координаты "кругов" не заданы, но еще и не определены опоры, на чем вращаются эти "круги"? По направлению стрелок понятно, что опоры не могут быть закреплены неподвижно. Значит одна или обе двигаются непонятно по какой траектории. Я, наверное, как и другие, представил элементы планетарного редуктора, которые включают центральное колесо, солнечное колесо, сателлит и водило, неподвижный корпус, но только без солнечного колеса. Водило тогда здесь должно быть и неподвижный корпус тоже. Но тогда нужно одно колесо "назначить" центральным, а другое сателлитом и тогда уже решать. Ничего этого нет, все запутано, а на просьбу уточнить, даются ответы, что в условиях задачи достаточно информации.
Если кто-то еще тратит время на решение этой задачи, то вспомните, чем закончилось создание вечного двигателя. Раз условия не определены, то на каждое решение тот, кто разместил эту головоломку может привести одно из возможных начальных условий. Для механиков, знакомых с планетарными механизмами понятны все варианты, для непосвященных будет трудно разобраться.   

Большой сделает 2 оборота, малый 11 оборотов.
Достаточно нарисовать картинку, и решение очевидно.
В единицу времени точка A большого круга поворачивается на угол ω.
За это же время точка A на малом круге переходит в точку  A₂. Угол поворота и угловая мера дуги ВA₂ равны 3ω.
Угол поворота малого круга от начального положения  11ω/2.