Đặt S=x+y;P=xy, hệ đã cho trở thành: {S2+S−2P=8.(1)P(P+S+1)=M.(2)
(1)⇔P=S2+S−82
Thay vào PT (2), ta được:
S2+S−82(S2+S−82+S+1)=m
⇔4m=S4+4S3−11S2−30S+48=f(S)
Xét hàm f(S),S∈R, để tìm max của f(S). Từ đó, ta có hệ PT có nghiệm khi và chỉ khi:
\min f(S) \le m \le \max f(S).
\Rightarrow Ok.