Dễ thấy rằng xy+x−y2−y=(x−y)(y+1). Suy ra điều kiện của hệ là y≥1, 4y2−2≥x≥y.
Phương trình đầu của hệ tương đương với
x−y+3√(x−y)(y+1)−4(y+1)=0,
hay
(√x−y−√y+1)(√x−y+4√y+1)=0,
suy ra
√x−y−√y+1=0 (vì √x−y+4√y+1>0),
hay
x=2y+1.
Với kết quả này phương trình cuối của hệ tương đương với
√4y2−2y−3+√y−1=2y,
hay
[√4y2−2y−3−(2y−1)]+[√y−1−1]=0,
hay
2(y−2)√4y2−2y−3+2y−1+y−2√y−1+1=0,
suy ra y=2 và x=5.
Kiểm tra và thấy (x;y)=(5;2) thỏa mãn điều kiện phương trình.
Thành thử hệ đã cho có nghiệm duy nhất, đó là (x;y)=(5;2).