Từ ptr đầu tiên của hệ, ta phân tích được: $x-\sqrt{(x+1)^2+1}=(y-1)-\sqrt{y^2+1}$
Xét hàm $f(t)=t-1-\sqrt{t^2+1}\Rightarrow f'(t)=1-\frac{t}{\sqrt{t^2+1}}=\frac{\sqrt{t^2+1}-t}{\sqrt{t^2+1}}=\frac{1}{(\sqrt{t^2+1})(\sqrt{t^2+1}+t)}>0$
Nên $f(t)$ đồng biến $\Rightarrow f(x)=f(y-1)\Rightarrow x=y-1(1)$, thay $(1)$ vào ptr thứ hai của hệ, ta được:
$\sqrt{y^2-1}+\sqrt{2y-1}=\sqrt{3y^2-4y-4}$, đặt đk trong căn ($y\geq 2$),bình phương 2 vế 2 lần ,tìm được :
$y=3+\sqrt{13}\Rightarrow x=2+\sqrt{13}$
$y=3-\sqrt{13}$ (loại do $y\geq 2$)