Как это решить Что мы называем коэффициентом у подобных слагаемых?.

Коэффициент - это разные части у подобных слагаемых. Например, 3x^2 и 5x^2*y - здесь коэффициенты 3 и 5y.
Когда мы их складываем, то общую часть x^2 выносим за скобки, а коэффициенты складываем.
3x^2 + 5x^2*y = (3 + 5y)x^2