Xét $x=0,$ thay vào $pt(1)$ không là nghiệm của hệ phương trình. Vậy $x\ne 0$.Khi đó chia mỗi vế của $pt(1)$ cho $x^2$ ta được:
$y-y\sqrt{1+y^2}=\frac{1}{x}-\sqrt{\frac{1}{x^4}+\frac{1}{x^2}}(3)$.
Nhận xét: $1-\sqrt{1+y^2}\le 0;2+2\sqrt{4y^2+1}>0(*)$.
Lấy $pt(2)-pt(1)$ ta được:
$x^2y(2+2\sqrt{4y^2+1})-x^2y(1-\sqrt{1+y^2})=2\sqrt{1+x^2}$
$\iff x^2y(1+2\sqrt{4y^2+1}+\sqrt{1+y^2})=2\sqrt{1+x^2}\implies y>0$.
Lấy $pt(2)+pt(1)$ ta được:
$x^2y(2+2\sqrt{4y^2+1})+x^2y(1-\sqrt{1+y^2})=2x$
$\iff x^2y(3+2\sqrt{4y^2+1}-\sqrt{1+y^2})=2x\implies x>0$
Khi đó $(3)\iff y-\sqrt{y^2+y^4}=\frac{1}{x}-\sqrt{\frac{1}{x^4}+\frac{1}{x^2}}(4)$.
Đến đây xét hàm $f(t)=t-\sqrt{t^2+t^4}\forall t\in [0;+\infty)$
Ta có: $f'(t)=1-\frac{2t^3+t}{\sqrt{t^2+t^4}}=1-\frac{2t^2+1}{\sqrt{1+t^2}}<0\text{ (CM bằng cách biến đổi tương đương)}$.
$\implies f(t)$ nghịch biến trên $[0;+\infty)$.
Khi đó: $(4)\iff y=\frac{1}{x}$. Đến đây dễ rồi bạn tự giải tiếp nhé