$\color{green}{\begin{cases}(23-3x)\sqrt{7-x}=(20-3y)\sqrt{6-y} .................(1)\\ 3x^{2}-14x-8+\sqrt{2x+y+2}=\sqrt{2y-3x+8}.......(2) \end{cases}}$Điều kiện: $\begin{cases}x \le 7 \\ x \le 6 \\ 2x+y+2 \ge 0 \\ 2y-3x+8 \ge 0 \end{cases}$
Đặt $a=\sqrt{7-x},b=\sqrt{6-y},(a;b \ge 0)$, ta có:
$(1)\Leftrightarrow (2+a^2)a=(2+b^2)b$
$\Leftrightarrow (a-b)\underbrace{(a^2+ab+b^2+2)}_{>0,\forall a,b \ge 0}=0$
$\Leftrightarrow a=b\Leftrightarrow 7-x=6-y\Leftrightarrow y=x-1.$
Thay $y=x-1$ vào PT $(2)$ của hệ, ta được:
$(2)\Leftrightarrow 3x^2-14x-8+\sqrt{3x+1}-\sqrt{6-x}=0$ $(-\frac{1}{3} \le x \le 6)$
$\Leftrightarrow 3x^2-14x-5+\sqrt{3x+1}-4+1-\sqrt{6-x}=0$
$\Leftrightarrow (x-5)\underbrace{(3x+1+\frac{3}{\sqrt{3x+1}+4}+\frac{1}{1+\sqrt{6-x}})}_{>0, \forall -\frac{1}{3} \le x \le 6}=0$
$\Leftrightarrow x=5\Rightarrow y=4.$
Kết luận: Hệ phương trình đã cho có nghiệm là: $\color{red}{(x;y)=(5;4)}.$
Chúc em luôn học tốt!