?(x + 6y) = 90%
x2 + 8xy + 4y2 = 124

Эта система легко решается заменой переменной, которая становится очевидной, если вот втором уравнении выделить полный квадрат. Смотрите:
x² + 8xy + 4y² = x² + 2*x*(4y) + (4y)² - 12y² = (x+4y)² - 12y²
Тогда первое уравнение можно переписать в виде (x+4y)+2y = 90 (или 0,9? У вас как-то невнятно написано...)
И если теперь ввести новую переменную z = x+4y, то систему можно написать уже в довольно простом виде:
z + 2y = 90
z² - 12y² = 124
Выразив z через у из первого уравнения и подставив во второе, можно получить квадратное уравнение с одной переменной.