Đk: $x+y>0 $
$(1)\Leftrightarrow (x+y)^2-1-2xy+\frac{2xy}{x+y}=0$
$\Leftrightarrow (x+y-1)(x+y+1)-2xy(\frac{x+y-1}{x+y})=0$
$\Leftrightarrow (x+y-1)(x+y+1-\frac{2xy}{x+y})=0$
$\Leftrightarrow x+y=1\vee x+y+1-\frac{2xy}{x+y}=0$
Với $x+y=1$ hay $y=1-x$ thì $\begin{cases}x+y=1 \\ \sqrt{x+y}=x^2-y \end{cases}\Leftrightarrow \begin{cases}x+y=1 \\ x^2+x-2=0 \end{cases}\Rightarrow x=1\Rightarrow y=0\vee x=-2\Rightarrow y=3$
Với $x+y+1-\frac{2xy}{x+y}=0$ hay $ (x+y)^2-2xy+x+y=0 (*)$ thì $\begin{cases}(x+y)^2-2xy+x+y=0 \\ \sqrt{x+y}=x^2-y \end{cases}(**)$
Ta có: $(x+y)^2\geq \frac{1}{2}(x+y)^2\geq 2xy$ . Mà $x+y>0$
$\Rightarrow (*)$ vô nghiệm $\Leftrightarrow $ Hệ $(**)$ vô nghiệm