Чертёжник из меня никудышный, но поверьте изображены исключительно квадраты. Площадь маленького равна 10мм. Каким образом можно найти h? Интересует исключительно способ решения.

Мда... Пропорции какие?, по-вашему рисунку численно ничего найти невозможно, можно решить в общем виде, но это слишком нудно, куча одинаковых итераций...
Хотя присмотревшись я заметил кое-какую логику, каждый квадрат последующий, вычисляется по следующей формуле:
A=10 мм^2;
B=1*1*A+2*1*A/2+A/4=�10+10+2,5=22,5 мм^2;
C=2*2*A+2*2*A/2+A/4=�40+20+2,5=...;
D=3*3*A+2*3*A/2+A/4=�90+30+2,5=...;
E=4*4*A+2*4*A/2+A/4=�160+40+2,5=202,5 мм^2.
Лень считать...
Т.е. Si(i)=ni^2*A+2*ni*A/�2+A/4, где i - это индекс конечного двухмерного элемента, геометрически представляющий из себя площадь (Si), а математически и итерационно следующий по счету номер конечного элемента (ni=i), n1=1, n2=2 и так дале..., где n0=A, т.е. итерации начинаются с n1!
Ну и соответственно h=sqrt(E)=sqrt(S4)=s�qrt(202,5)=14,23 мм, если h это сторона большого E конечного элемента.
P.S. Источник - мозг.
                                                                              

Немного модернизировал ваш чертёж:
В принципе, не важно какова длина стороны самого маленького квадрата ( который я обозначил красной цифрой 1 ).
Пусть сторона квадрата #1 равна b, сторона самого большого квадрата #5 равна А, а сторона квадрата #1 меньше стороны квадрата #2 на отрезок равный а.
Тогда сторона квадрата #2 будет равна
( а + b );
сторона же квадрата #3 будет равна
( a + 2b );
сторона квадрата #4 будет равна
( a + 3b );
а сторона самого большого квадрата будет равна соответственно
А = ( a + 4b ).
С другой же стороны, A = a + h.
Теперь можно приравнять найденные значения длины стороны большого квадрата друг к другу:
a + 4b = a + h
Далее, сократим обе части полученного равенства на а и найдём, что
h = 4b
Ну, и наконец, зная площадь квадрата #1 ( обозначим её S1 ), можно найти длину отрезка h:
h = 4√h
В данном случае, h = 4√h = 4√10
И кстати, если бы площадь квадрата #1 по условию была бы равна 9, 4 или 1, то решение обошлось бы без квадратного корня и длина h была бы равна соответственно 12, 8 или 4

Обозначим сторону правого квадрата a.
И запишем длины сторон других квадратов.

Не мало копий сломали над решением задачи про 5 квадратов. А нужно было всего на всего нарисовать их заново на листочке бумаги в клеточку. И всё сразу вставало на своё законное место.
При прорисовке длина каждого квадрата увеличивается на одну длину самого маленького квадратика с учётом величины, которая обозначена буквой а.
А теперь вычисления. Для тех кто совсем не учит математику, площадь квадрата равна произведению его сторон. То есть чтобы получить значение длины стороны придётся извлечь корень из его площади. А дальше всё смело умножаем на 4.
√10×4=12,65
Получилось приближенное значение.

Решение  зависит  от  того  как  задана  h.  Если  h  -  это  сторона  большого  квадрата,  то  для  решения  не  хватает  начальных  условий  задачи.  А  если h  -  это  длина  верхней  полки  (ступеньки),  то  решение становится  простым  и  однозначным. 
Как  видим,  сторона  верхнего,  самого  маленького  (за  исключением  центрального)  квадрата  равна  стороне  центрального  квадрата,  увеличенная  на  неустановленную  величину.  Длина  стороны  второго  квадрата  (против  часовой  стрелки)  больше  ровно  на  дину  стороны  центрального  квадрата.  Таким  образом,  длина  стороны  самого  большого  квадрата  равна  четырем  сторонам  центрального  квадрата  увеличенным  на  ту  самую  неизвестную  величину.
Для  поиска  длины  стороны  квадрата  нам  эта  неведомая  величина  нужна,  а  для  вычисления  длины  ступеньки  -  нет,  потому  что  длина  ступеньки  как  раз  на  эту  величину  меньше  длина  стороны  квадрата.
Площадь  центрального  квадрата  известна,  равна  10  кв. мм.  Длина  его  стороны,  соответственно,  корень  из  10.  Тогда  h  равна  четырем  корням  из  10  или  корню  из  20.
Ответ:  h  (длина  верхней  полки)  равна  корню  квадратному  из  20  (мм). 

Дополню свой ответ, если "h" отрезок, тогда делаем следующее:
h=h-sqrt(A)/2=14,23-sqrt(10)/2=14,23-1,58=12,65 мм, воуля...
Так что, Евгений Борисович, у меня ничего не подтекает, просто я уже писал другим, нужно мыслить несистемно, хватит всякую чушь изучать, долой системное образование...
P.S. Для тех кто не в танке: 4*sqrt(10)=12,65... Ч.Т.Д.

Длина сторона малого квадрата равна:
≈3.16мм,
Длина стороны следующего по размеру квадрата будет равна:
a + 3.16мм,
Длина стороны следующего по размеру квадрата будет равна:
2a + 3.16мм,
Длина стороны следующего по размеру квадрата будет равна:
3a + 3.16мм,
Длина стороны следующего по размеру квадрата будет равна:
4a + 3.16мм,
Если h - это длина выступа, то тогда:
h = 4a + 3.16мм - (a + 3.16мм - 3.16мм), или
h = 4a + 3.16мм - a - 3.16мм + 3.16мм, или
h = 3a + 3.16мм, или это длина стороны предпоследнего по размеру квадрата.

В общем случае h будет равна учетверённому значению стороны самого малого квадрата.
В случае, когда сторона второго по величине квадрата вдвое больше стороны квадрата площадью 10мм², то тогда h будет равна стороне второго по величине квадрата.