Đặt$:\sqrt{x-2y}=u,(x\geq2y , u\geq0, y\neq 0)$$\Rightarrow pt(1)\Leftrightarrow \frac{3}{2}(x-u^2)^2-u^2+u^2+\frac{1}{2}(x-u^2)+x-u^2=0$
$\Leftrightarrow \frac{1}{2}(3u^2+2u-3x-2)(u^2-u-x)=0$
$\Leftrightarrow x=u^2-u$ hoặc $3x=3u^2+2u-2$
Với $:x=u^2-u \Rightarrow x=4y^2+2y(1)$
Thế $(1)$ vào $pt(2):\sqrt{4y^2+2y+\sqrt{4y^2}}=4y^2+2y+3y-2$
Xét $y\geq0$(vô no)
Xét $y\leq0\Rightarrow 4y^2+7y-2=0\Leftrightarrow (2-y)(4y-1)=0\Leftrightarrow y=-2\Rightarrow x=12$
Với $:3x=3u^2+2u-2$,tự lm tiếp