Đặt $\sqrt{x-4}=a\ge 0; \ \sqrt{y-1}=b \ge 0$
Hệ đưa về $\begin{cases} a+ b = 4 \\ a^2 +b^2 = 3m -5 \end{cases}$
Rút thế ta được $a^2 + (4-a)^2 =3m-5$
$\Leftrightarrow 2a^2 -8a +21-3m=0 $ hoặc tương tự ta có $2b^2 -8b +21-3m=0 $
Hay $a;\ b $ là nghiệm pt $2t^2 -8t +21-3m=0 \ (*)$
Hệ có nghiệm khi chỉ khi pt $(*)$ có nghiệm $t \ge 0$ điều kiện là $\Delta ' ;\ S;\ P \ge 0$
$\Leftrightarrow \begin{cases} \Delta ' = 16 -2(21-3m) \ge 0 \\ \dfrac{21-3m}{2} \ge 0 \end{cases}$ tự làm nốt