Заменяем х^2 на допустим t или любую другую переменную и решаем обычное квадратное ур-е: t^2-7t+3=0 дальше через дискриминант это уже легко