Условие
Дано:
Точки и O1 и O2 – центры двух касающихся окружностей.
Прямоугольник ABCD касается двух окружностей: большей - в точках B и F, меньшей – в точке A
Площадь прямоугольника равна 15 кв. см.

Пусть R - радиус большой окружности, а х - радиус маленькой окружности.
Тогда площадь прямоугольника можно выразить через эти переменные так: (2R + 2х)*R = 15,
а площадь треугольника S = 1/2 * (х + R) * R
Из площади прямоугольника находим х. Он будет равен (15 - 2R*R) : 2R.
Теперь это значение х подставляем в формулу площади треугольника. Получаем после сокращения, что площадь треугольника S = 1/2 * 7,5 = 3,75.
Интересная задача. Вроде бы при расчете получаются громоздкие формулы с квадратами переменных, однако потом все сокращается, и остаются одни цифры!!
                                                                              

Для краткости записи обозначим:
R - радиус большой окружности,
r - радиус маленькой окружности.
По условию задачи, площадь прямоугольника ABCD равна 15 см кв.
Выразив длину его сторон через радиусы окружностей, получим:
2*(R+r)*R=15
Аналогично, площадь треугольника О1О2F равна:
(1/2)*(R+r)*R=х, где х площадь искомого треугольника.
При поверхностном взгляде на оба уравнения, мы видим, что их левые части отличаются только коэффициентами перед скобкой. Понятно, что "2" в четыре раза больше, чем "1/2". А значит...
На этом наша преподаватель математики (светлая ей память) прервала бы наши попытки деления в уме 15 на 4.
А значит, составим систему уравнений:
2*(R+r)*R=15
(1/2)*(R+r)*R=х
Большая фигурная скобка слева не получилась: включим воображение, представив систему из двух уравнений.
Решим ее, уравняв коэффициенты в левой части уравнений, умножив второе на "4":
2*(R+r)*R=15
2*(R+r)*R=4х
Поскольку левые части уравнений одинаковы, значит
4х=15, а х=3,75.
Ответ: площадь треугольника О1О2F равна 3,75 см кв.
��

Лично мне проще рассуждать если ввести ещё одну точку, точку X.
Это точка, образованная проведением из точки О1 вниз отрезка, параллельного отрезку O2F.
Для чего мне нужна эта точка?
Дело в том, что тогда получается прямоугольник O1O2FX, площадь которого в 2 раза больше площади искомого треугольника O1O2F.
Найдя площадь прямоугольника O1O2FX и поделив её на 2, получим площадь треугольника O1O2F.
Далее мы видим, что отрезок O2F одновременно является и радиусом большего круга, а также равен стороне прямоугольника.
Сторона AB складывается из диаметров двух этих кругов.
Также видим, что O2F=O2B (потому что они оба радиусы одного круга), а значит O2BFC это квадрат.
S[ABCD]=BC * (2BC + 2AO1) = 15 см².
2BC²+2AO1*BC = 15 см².
AO1 = (15 - 2BC²)/2BC
AO1 = 15/2BC - BC
S[O1O2FX]= BC * (BC + AO1) =
= BC * (BC + 15/2BC - BC) =
= BC² + 15/2 - BC² =
= 15/2 = 7.5
Это мы получили площадь прямоугольника O1O2FX.
А площадь треугольника  О1О2F равна половине от площади прямоугольника O1O2FX.
Соответственно чтобы найти его площадь, просто делим площадь прямоугольника O1O2FX пополам:
S[O1O2F] = S[O1O2FX] / 2 = 7.5/2 = 3,75  см².
Ответ: площадь треугольника  О1О2F равна 3,75  см².

Площадь прямоугольного треугольника: S=a*b/2. Здесь a и b - стороны прямоугольника. В данном случае получатся следующее. BС=O2F=R2 - радиус большей окружности; R1=O1A - радиус меньшей окружности; сторона AB прямоугольника - это сумма диаметров окружностей. А если сторона треугольника a=O1O2=R1+R2 - сумма радиусов окружностей. То есть чтобы получить большую сторону треугольника OO1=AB/2 - надо знать, что это половина длинной стороны прямоугольника. Меньшая сторона O2F треугольника - b=O2F=BC=R2. Большая сторона прямоугольника, полученная от его площади AB=S1/BC=S1/R2. Тогда большая сторона треугольника: a=O1O2=AB/2=S1/(2*R2�). S1=15.
При этом площадь треугольника получается: S=a*b/2=(S1/(2*R2))*�R2/2=S1*R2/(4*R2)=S1/�4. Итак, площадь треугольника в 4 раза меньше площади прямоугольника: S=S1/2=15/4=3.75 см^2.
Ответ: площадь треугольника: S=3.75 см^2.

Мое решение основано на равенстве прямоугольников.
Проведем два вспомогательных отрезка О1М и РК как на рисунке. Ясно, что прямоугольники АО1МD и О1РКМ равны. Также равны прямоугольники РО2FК и О2ВСF, так как их стороны равны как радиусы двух окружностей. Более того прямоугольники РО2FК и О2ВСF являются квадратами. Далее все просто. Площадь прямоугольника О1О2FM равна половине площади заданного прямоугольника  ABCD, то есть 15/2 = 7,5 кв.см. А площадь треугольника О1О2F равна половине площади прямоугольника О1О2FM, то есть 7,5:2 = 3,75 кв см.

Не собирался уже давать своё решение, но вижу, что все предложенные решения не оптимальны.
Вот мой вариант. Пусть радиус большей окружности R, меньшей r. Тогда площадь треугольника равна R*(R+r)/2.
Площадь прямоугольника 2*R*(R+r). Площадь треугольника в (2*R*(R+r))/(R*(R+r)�/2)=4 раза меньше площади прямоугольника, т.е. 15/4=3,75 см^2.

S(триугл.) = (1/2)* (R+r)*R?
Где R - радиус окружности с центром в О2;
r - радиус окружности с центром в О1.
Далее
(2*R + 2*r)*R = 15 (формула площади прямоугольника ABCD)
Отсюда, R+r = 7.5/R
Подставляем в формулу площади для триугольника:
S(триуг.) = (1/2)*(7,5/R)*R = 0.5*7.5=3.75.