В каком выпуклом многоугольнике число сторон равно числу его диагоналей?
(Никольский. Алгебра. 8 класс. № 285г)

Я бы всё-таки первым делом более внимательно вчитался в слово «многоугольники». Много - это сколько? Больше одного, двух, трёх, десяти?... Давайте посмотрим, какие варианты предлагаются в сети:
Обратите внимание - среди картинок нет одно- или хотя бы двух-угольников. Вообще-то, если вы не совсем плохо учились в школе, тоже с этим согласитесь - у многоугольника не бывает меньше трёх углов.  Только хитрость в том, что нам и это число не подходит для решения поставленной задачи. Ведь, как известно, у треугольников бывают чевианы (медианы, тридианы и т.п.), биссектрисы и высоты, но не бывает диагоналей. Диагонали бывают у четырёхугольников (квадратов, ромбов, прямоугольников, параллелограммов, трапеций и просто четырёхугольников произвольной формы). Только какие бы формы четырёхугольников мы ни выбирали, а провести больше двух диагоналей не удастся:
Придётся идти дальше и пробовать хотя бы пятиугольники. Если взять один произвольный пятиугольник и провести в нём не повторяющиеся диагонали, их получится пять. Кстати, это вполне соответствует условию задачи - число сторон равно числу его диагоналей.
Если мысленно представить себе шести-, семи-, восьми- и прочие многоугольники, можно догадаться, что «чем дальше в лес, тем больше дров». Но я предлагаю проверить хотя бы на шести углах. Интересно же, на сколько отличается количество диагоналей хотя бы в этой фигуре.
У меня получилось девять разных диагоналей и очевидно, что с ростом числа углов, будет расти и количество возможных диагоналей в фигурах. Стало быть, предыдущий вариант с пятью углами и пятью диагоналями был единственно подходящим для условия задачи. Это и есть правильный ответ:
В пятиугольнике можно провести пять разных диагоналей - их число равно числу сторон многоугольника.
                                                                              

В n-угольнике n сторон.
Число всех отрезков, попарно соединяющих его вершины, равно числу сочетаний из n элементов по 2, то есть
n(n-1)/2.
Диагоналями из них будут все отрезки не являющиеся сторонами, то есть их число равно
n(n-1)/2 - n.
Приравняв числа сторон и диагоналей получим уравнение:
n = n(n-1)/2 - n.
Так как 0-угольники в евклидовой геометрии не рассматриваются (хотя и могут рассматриваться в топологии как сферическая поверхность с одной точкой-вершиной на ней), не теряя имеющих смысл корней обе части уравнения можно разделить на n, получив уравнение
1 = (n-1)/2 -1,
имеющее единственный корень n = 5.
Ответ: в пятиугольнике.
Зачем в условии упомянута выпуклость многоугольника непонятно, так как от неё числа сторон и диагоналей не зависят (хотя диагонали при этом могут находится не внутри многоугольника полностью или, пересекая его стороны, частично).

В пятиугольнике 5 сторон и 5 диагоналей.
Можно это доказать.
Количество диагоналей равно
d = n(n - 3)/2
Должно быть d = n.
n(n - 3)/2 = n
n(n - 3) = 2n
Сокращаем n
n - 3 = 2
n = 5