2)Đặt $a^2=x;b^2=y(x;y\geq 0)$$\Rightarrow VT=x^2+y^2+1+2xy+a-3b=0\Leftrightarrow (x+y)^2-3(x+y)+1=-4x\leq 0$
Đặt $A=x+y$
$\Rightarrow A^2-3A+1\leq 0\Rightarrow \triangle =5$
$\Rightarrow (A-\frac{3-\sqrt{5}}{2})(A-\frac{3+\sqrt{5}}{2})\leq 0$ giải bpt
$\Rightarrow A\leq \frac{3-\sqrt{5}}{2}$ và $A\geq \frac{3+\sqrt{5}}{2}$