phương trình hoành độ giao điểm
$x^2+2mx+1-3m=-2x+4$
$x^2+2(m+1)x-3(m+1)=0$ (1) để đường thẳng cắt đồ thị tại 2 điểm phân biệt thì
denta phẩy >0 $(m+1)^2+3(m+1)>0$
$\Leftrightarrow m>-1 $ hoặc $m<-4$
ta có (1) theo viet
$\begin{cases}x1+x2=-2(m+1) \\ x1.x2= -3(m+1)\end{cases}$
gọi $A(x1;-2.x1+4)$ , $B(x2;-2.x2+4)$
khoảng cách từ O dến đưởng thẳng d là: $d(O;d)=\frac{4}{\sqrt{5}}$
$AB=\sqrt{(x1-x2)^2+4(x1-x2)^2}$
$s=1/2.AB.d(O;d)=4\sqrt{(m+1)^2+3(m+1)}=12\sqrt{2}$
giải ra được m=2 hoặc m=-7