Đặt a=cost;b=sintP=√3costsint+sin2t=√32sin2t−12cos2t+12=sinπ3sin2t−cosπ3cos2t+12=−cos(2t+π/3)+12
từ đó ta thấy giá trị lớn nhất P=3/2 khi cos(2t+π/3)=−1 hay 2t+π/3=π+k2π→t=π/3+kπ hay (a,b)=(±1/2,±√3/2)
;
còn giá trị nhỏ nhất P=−1/2 khi cos(2t+π/3)=1 hay 2t+π/3=k2π→t=−π/6+kπ hay (a,b)=(√3/2,−1/2) hay (a,b)=(−√3/2,1/2)