Lấy 2 ptr cộng lại, ta được ptr sau:2(x+1)(y+1)(x+y)+2xy=0(1)
Đặt S=x+y,P=xy
(1) thành: S(S+P+1)+P=0⇔S2+(P+1)S+P=0
Tính được: S=−1 hay S=−P
Với S=−1⇒x+y=−1⇒x=−y−1, ta thay vào ptr thứ hai của đề bài, ta được ptr sau:
2y(y+1)(−y−1+1)+y(−y−1)=6
⇔−2y3−3y2−y−6=0
⇔y=−2⇒x=1
Với S=−P⇒x+y=−xy⇒x=−yy+1(y≠−1),(vì y=−1 thì x−1=x(vô lí))
Ta thay x=−yy+1 vào ptr thứ hai của đề bài, ta được ptr sau:
2y(y+1)(−yy+1+1)+2y(−yy+1)=6
⇔y2−4y−6=0
⇔y=2+√10 hay y=2−√10
Với y=2+√10⇒x=−4+√10
Với y=2−√10⇒x=−4−√10
Vậy hptr có 3 cặp nghiệm là (1,−2),(−4+√10,2+√10),(−4−√10,2−√10)