R - радиус описанной окружности

Очевидно, что площадь правильного пятиугольника равна 5*(1/2)*R^2*sin(360°/5)=2,5*R^2*sin(72°).
Осталось вычислить sin(72°).
Рассмотрим уравнение: sin(3a)=sin(2a). Синусы углов (3a и 2a) равны в следующих случаях: либо 3a=2a+360°*n, откуда а=360*n, либо их можно представить в виде: 3a=(90°+фи+360°*k), 2a=(90°-фи+360°*n), где фи - некий произвольный угол, а k и n - любые целые числа.  Сложив эти равенства получаем: 5a=(180°+360°*(k+n)), откуда а=36°+72°*m, где m - любое целое число.
Решим уравнение: sin(2a)=sin(3a).
2*sin(a)*cos(a)=3*sin(a)-4*sin^3(a),
sin(a)*(3-4*sin^2(a)-2*cos(a))=0,
sin(a)*(3-4+4*cos^2(a)-2*cos(a))=0,
4*sin(a)*(cos^2(a)-(1/2)-(1/4))=0.
Получаем три серии решений для удобства углы выразим в градусах):
sin(a)=0, a=180°*n,
cos(a)=(1+√(5))/4,
cos(a)=(1-√(5))/4
Получаем: cos(36°)=(1+√(5))/4, cos(108°)=(1-√(5))/4,
Так как 108°=90°+18°, а 90°-18°=72°, то очевидно, что соs(72°)=(√(5)-1)/4.
Тогда sin(72°)=√(1-((√(5)-1)/4)^2)=√(10+2*√(5))/4.
Площадь правильного пятиугольника равна 2,5*R^2*√(10+2*√(5))/4=(5/8)*√(10+2*√(5))*R^2.

Ну для начала не в единицах R, а в единицах R². В этих единицах площадь правильного пятиугольника равна 2,5*R²*sin0.4пи.

Грустный Роджер, какие проблемы выразить sin (0,4pi) через R. 0,4*пи = 1,256637... радиан или 0,4*180° = 72°, sin (0,4pi)= sin72° = 0,951...  R