Есть треугольник АВС, сторона ВС = корню 4 степени из 108. Угол А = 60 градусов.
Середина ВС точка D.
В треугольник вписана окружность с центром О.
Провели прямую OD. Она пересекла АВ в точке М и продолжение АС в точке Р.
Требуется найти площадь не выпуклого 4-угольника ВМРС.
К сожалению, я сижу с телефона и рисунок приложить не могу.

Предположим, что Δ PMA вырожденный и все его точки слились в одну точку А (ну или почти слились, так что S ΔPMA → 0).
Тогда Δ ABC будет являться равносторонним.
S четырехугольника ВМРС = S ΔABC = √[p х ( p - a ) х ( p - b ) х ( p - c ) ] ` - формула Герона,
где
p - полупериметр, p = ( a + b + c ) / 2
a, b, с - длины сторон треугольника
Так как треугольник равносторонний, то формула Герона примет вид:
S четырехугольника ВМРС = SΔABC = а^2 х √3 / 4
S четырехугольника ВМРС = √108 х √3 / 4 = √324 / 4 = 4,5
Ps. не знаю зачем вспомнил формулу Герона, можно было бы и по обычной S = 0,5 х a х b х sin C. Стирать уже не хочу.
Ответ: площадь невыпуклого четырехугольника ВМРС равна 4,5.
                                                                              

Я придумал такое решение.
Треугольник не определяется одной стороной и одним углом.
Таких треугольников может быть сколько угодно, а площадь 4-угольника от этого не зависит.
Предположим, что треугольник был равнобедренный.
Тогда отрезок, соединяющий середину основания с центром вписанной окружности - это медиана, она же биссектриса и высота.
Она пересекает обе стороны, АС и АВ, в вершине А.
То есть точки М и Р совпадают с А, и 4-угольник ВМРС вырождается в наш треугольник АВС.
А поскольку он равнобедренный с углом 60°, то он равносторонний.
Площадь равностороннего треугольника со стороной а
S = a^2*√3/4 = √108*√3/4 = √(9*4*3*3)/4 = 18/4 = 9/2.

Если в треугольнике АВС сторона ВС равна корню 4 степени из 108 и угол А = 60 градусов, то площадь невыпуклого четырехугольника ВМРС равна 4,5.
Ответ: площадь невыпуклого четырехугольника ВМРС равна 4,5.