Gợi ý
TXD:$ D= R$
$y'=3x^2 -6mx +3m^2 -3$
Để hàm số có CĐ - CT thì pt $y'= 0$ phải có 2 nghiệm pb $x_1;\ x_2$ và đổi dấu khi đi qua 2 nghiệm đó
Điều kiện là $\Delta' = 9m^2 -9(m^2-1) =9>0$ Vậy hàm số có CĐ - CT với mọi $m \in R$
Khi đó $x_1 = m-1;\ x_2 = m+1$. Giả sử $A(x_1=m+1;\ y_1);\ B(x_2 =m-1;\ y_2)$
Mặt khác ta có $y= y'. (\dfrac{1}{3}x-\dfrac{1}{3}m) + 2x +2m$ (Chỗ này dùng kỹ thuật viết pt đường thẳng đi qua CĐ -CT)
Vậy $(d):y=2x+2m$ là pt đi qua CĐ - CT
Khi đó $B(x_1=m-1;\ y_1= 2x_1 +2m=4m-2);\ A(x_2=m+1;\ y_2 = 2x_2 +2m=4m+2)$
Theo ycbt $OA =\sqrt 3 OB \Leftrightarrow OA^2 = 3OB^2$
$\Leftrightarrow (m+1)^2 +(4m+2)^2 = 3\bigg [ (m-1)^2 + (4m-2)^2 \bigg ]$
Tự giải nốt