Произведение корней равно 1. Замена - t=вторая скобка, тогда первая равна t^2-2. Получаешь, что t=3 или t=1. Подставляешь что такое t. Dj втором случае дискриминант меньше 0, остается первый случай - х+1/х=3. Домножаешь на х, пользуешься теоремой Виетта |